热到发烫的近日不断抢占媒体和社交网路的头条。在给诸多行业带来巨大想像空间的同时，其带来的安全与技术伦理问题也饱受关注。奇安信人工智能研究院负责人透漏，公司正在基于相关技术和自身积累的海量安全知识和数据，训练奇安信专有的类安全大模型。

就像其别人工智能模型一样，是把双刃剑数据警务技术，既可以是提高效率的工具，解答人们的各类问题、创造出学院水平的论文，甚至编撰代码，但同时也可能绕开安全机制，被用于施行有害的活动。“比如，对网路安全行业来说，既可以拿来编撰网路垂钓、生成恶意软件、开展社工功击，也可以成为网路防御者的有力工具。”虎符智库研究员李建平说。

据了解，网路犯罪分子使用导致的“最急迫和常见的恐吓”主要包括网路垂钓、社会工程和恶意软件开发。以社会工程为例，研究人员发觉，等工具使犯罪分子能否逼真地模拟各类社会环境数据警务技术，进而使各类针对性的通讯功击愈发有效，这类语言模型提供支持的工具，使功击者更易引诱被害者提供敏感信息或下载恶意软件，加速从网路垂钓到传播仇恨言论的各类功击。

等人工智能工具会以比人类犯人更快的速率制造出新的、日益智能的恐吓，传播恐吓的速率也会将超过网路安全人员的反应速率。怎样应对这一新挑战？网路安全业界人士觉得，跟上这一变化的惟一方式是——通过使用人工智能来应对人工智能。

李建平剖析，一方面，网路安全行业的研究人员、从业者、学术和企业可以借助的力量进行创新和协作，包括漏洞发觉、事件响应和垂钓检查。与此同时，随着等类似工具的发展，未来开发新的网路安全工具更加重要。安全企业应更积极地开发和布署基于行为（而非规则）的AI安全工具，来测量人工智能生成的功击。

奇安信相关负责人称，是使用了互联网数据及部份由标明人员人工编撰的对话数据，利用人类反馈加强学习（RLHF）技术及自有的GPT3.5大模型进行训练而成的。相关的加强学习、大语言模型等技术，奇安信团队早已有长时间实践并取得了一些成果，公司早已举办了在网路安全领域应用的研究和探求，目前正在训练的类安全大模型未来将广泛应用于安全产品开发、威胁检查、漏洞挖掘、安全营运及手动化、攻防对抗、反病毒、威胁情报剖析和营运、涉网犯罪剖析等领域。