“现(xian)阶段(duan)的(de)人工智(zhi)能为人工混乱智(zhi)能”，朱(zhu)小虎(hu)告诉澎湃科技（www.thepaper.cn），在他看来，即便如DeepSeek、马斯(si)克新发布的(de)Grok3这类大模型在深度推理方面表现(xian)得(de)非(fei)常优(you)秀，但“并不安全(quan)。”

“你的(de)AI大模型有可能会欺骗你。”朱(zhu)小虎(hu)说。大模型具有“欺骗性价值对齐”（Deceptive value alignment）的(de)情况，这种(zhong)对齐以欺骗的(de)方式获得(de)，且不能反映AI的(de)真实目标或意图的(de)现(xian)象(xiang)被称为“欺骗性价值对齐”。比(bi)如在训练阶段(duan)、推理阶段(duan)，模型对形成的(de)上下文会形成一定的(de)“欺骗性的(de)对齐”，这会影响很(hen)多用户比(bi)如老(lao)人和小孩的(de)个人判断，还有对隐私(si)保护的(de)侵犯等，这也是模型不安全(quan)的(de)一大方面。

如果(guo)想要建立一个安全(quan)、可靠、可控且可信的(de)人机（技）协作环境，就(jiu)必须提(ti)出(chu)合理应对欺骗性价值对齐的(de)有效(xiao)措施。

“现(xian)阶段(duan)只能依靠技术手段(duan)去(qu)‘堵’而不是‘疏’。”朱(zhu)小虎(hu)说，不过，目前的(de)技术还无法完全(quan)解决(jue)这些问题，因为投入在AI安全(quan)领域(yu)的(de)精(jing)力、时间、金钱和资源远远不足。这也是大模型落地行业待解的(de)难题之一。

如何让AI变得(de)更安全(quan)？2月22日，澎湃科技（www.thepaper.cn）和朱(zhu)小虎(hu)聊了(le)聊。

模型有“欺骗性对齐”的(de)情况，Grok3也不安全(quan)

澎湃科技：如何理解AI Safety这一概念？

朱(zhu)小虎(hu)：最早期AI安全(quan)分成了(le)两个大类的(de)概念，英文世界它有两个词来表达安全(quan)，Safety（安全(quan)性）和Security（安全(quan)防护、安保）。

Safety的(de)概念比(bi)较宽泛，包括常提(ti)到的(de)AI伦理方面也算是Safety的(de)分支，它更强调在早期阶段(duan)将“安全(quan)”考虑清楚，包括后期设计方法、建立相应的(de)保护措施、应用的(de)方式。但Security从技术手段(duan)更强调模型的(de)权重怎么保护、如何防止黑客攻击等。Safety更需要大家深入地思考找出(chu)实践(jian)的(de)路径(jing)，目前国内的(de)一线安全(quan)厂(chang)商他们(men)其实强调在Security上的(de)能力，大家对Safety的(de)概念较为模糊(hu)。

澎湃科技：在你看来，现(xian)在AI大模型常见的(de)风险有哪些？大模型技术最薄弱的(de)环节、安全(quan)漏洞在哪里？

朱(zhu)小虎(hu)：最严(yan)重的(de)是现(xian)在大模型的(de)“黑盒”特质（当(dang)人们(men)输入一个数据，大模型就(jiu)能直接输出(chu)一个答案，但是它的(de)运作机制却(que)没人知(zhi)道，我们(men)称之为“黑盒”）。

大模型很(hen)多内在机制基于神经网络和深度学(xue)习，比(bi)如通过梯度下降等训练方式优(you)化，但它内在的(de)连(lian)接和权重目前缺乏有效(xiao)且可规模化的(de)研(yan)究方法去(qu)理解。这导致(zhi)在使用大模型技术时，生成的(de)内容往往难以被用户完全(quan)理解。

这种(zhong)模型训练规模达到万亿(yi)级别的(de)，它对于单个的(de)研(yan)究人员、一个公(gong)司来说，都是一个非(fei)常棘手的(de)任务。OpenAI花费了(le)大量精(jing)力在模型调校和对齐（Alignment）领域(yu)，利用强化学(xue)习使模型行为符合人类价值观和伦理约束，让OpenAI能够在大规模推广前确(que)保模型的(de)安全(quan)性。微软甚至Meta（原Facebook）等公(gong)司也曾推出(chu)了(le)类似模型，但因为模型在当(dang)时出(chu)现(xian)了(le)不可控的(de)负面效(xiao)果(guo)后暂停。

大模型本身(shen)除了(le)不可解释性之外，架构还容易受到外界干扰。比(bi)如，恶(e)意使用或黑客攻击可能导致(zhi)模型在应用场景中产生不安全(quan)的(de)扩散效(xiao)应。这些问题进(jin)一步加(jia)剧了(le)大模型在实际应用中的(de)安全(quan)风险。

澎湃科技：对企业和用户来说，不安全(quan)的(de)模型会有怎样的(de)影响？

朱(zhu)小虎(hu)：“不安全(quan)的(de)模型”其实是一个模型的(de)特质，一些研(yan)究人员包括Anthropic PBC，（一家美国的(de)人工智(zhi)能初创企业和公(gong)益公(gong)司）也非(fei)常重视安全(quan)，他们(men)在研(yan)究过程中发现(xian)模型具有“欺骗性对齐”（Deceptive element）的(de)情况。比(bi)如在训练阶段(duan)、推理阶段(duan)，模型对形成的(de)上下文会形成一定的(de)“欺骗性的(de)对齐”，它可以欺骗人。这导致(zhi)在大规模部署(shu)的(de)时候，会影响很(hen)多用户比(bi)如老(lao)人和小孩的(de)个人判断，还有对隐私(si)保护的(de)侵犯等，这也是模型不安全(quan)的(de)一大方面。

投入在AI安全(quan)领域(yu)的(de)精(jing)力、时间、金钱和资源远远不足

澎湃科技：在你的(de)观察中，现(xian)在大模型哪些做得(de)安全(quan)？

朱(zhu)小虎(hu)：即便马斯(si)克刚发布的(de)Grok3、DeepSeeK也并不是百分百安全(quan)，它还具有欺骗性和诱导性。虽然这类大模型的(de)目标是实现(xian)AGI，但模型非(fei)常不安全(quan)，会衍生出(chu)很(hen)多问题需要大家解决(jue)。不安全(quan)的(de)地方在于比(bi)如模型可能会被诱导输出(chu)一些暴力、危害性信息，甚至一些少儿不宜的(de)内容。这是大模型本身(shen)固有的(de)问题，所以需要大量内容审查和过滤，现(xian)在只能通过技术手段(duan)“堵”而不是“疏”。

目前的(de)技术还无法完全(quan)解决(jue)这些问题，因为投入在AI安全(quan)领域(yu)的(de)精(jing)力、时间、金钱和资源远远不足。加(jia)州大学(xue)伯克利分校的(de)一位核安全(quan)专家曾提(ti)到，核领域(yu)的(de)安全(quan)投入与核能力开发的(de)比(bi)例是7:1。相比(bi)之下，AI安全(quan)需要投入更多资源来确(que)保安全(quan)性。

这些也是大模型落地行业待解的(de)难题之一。技术本身(shen)没有善恶(e)，但现(xian)在技术让AI产生了(le)价值观，因为训练大模型都是来自人类的(de)数据，不管是正面或是负面，都可能产生危害。

澎湃科技：现(xian)在AI深度伪造技术能逼真到什么阶段(duan)？普通用户该如何辨别？

朱(zhu)小虎(hu)：深度伪造（DeepFake）近几年(nian)确(que)实在持续(xu)不断地发展，随着AI技术的(de)增强，它的(de)精(jing)细度会逐渐(jian)增强。很(hen)多时候普通用户比(bi)如年(nian)纪较大的(de)还有小孩没有办法辨别。对模型企业来说，很(hen)多做的(de)模型附带一些水印，这是防范AI深度伪造的(de)技术手段(duan)之一，不过这只是初步的(de)技术方案。

澎湃科技：你认为现(xian)在谈(tan)论AI治理和AI安全(quan)，为时过早吗？

朱(zhu)小虎(hu)：之前我认为这个问题并不紧迫，但今(jin)年(nian)，特别是DeepSeek产生全(quan)球影响后，安全(quan)问题和治理问题变得(de)非(fei)常急迫。过去(qu)，大家可能一直在缓慢探(tan)索治理和安全(quan)的(de)策略，但现(xian)在进(jin)入了(le)一个新阶段(duan)，即开放(fang)式的(de)人工智(zhi)能治理。过去(qu)，许多AI技术隐藏在公(gong)司或高(gao)校背后，例如OpenAI、Google DeepMind、Anthropic等，他们(men)的(de)许多内容并未公(gong)开，主要是防止技术扩散。

但现(xian)在，OpenAI和DeepSeek的(de)发展激发了(le)大家对开源生态的(de)渴望，所以出(chu)现(xian)了(le)许多实验和开源项目。全(quan)球的(de)企业和高(gao)校都在推动开源AI或AGI的(de)发展，这已成为一个明显的(de)趋势。在这一过程中，需要从技术角度进(jin)行革新，构建新的(de)框架或平台。这不是单个公(gong)司、群(qun)体或政府能够独立完成的(de)，而是需要全(quan)社会的(de)参与，从不同(tong)层面引入合理的(de)方式，通盘考虑并推进(jin)。

澎湃科技：在你看来，一个安全(quan)的(de)大模型应该是怎样的(de)？

朱(zhu)小虎(hu)：目前还没有出(chu)现(xian)一个非(fei)常好(hao)的(de)安全(quan)模型。这是一个需要磨合的(de)过程，未来可能会有新的(de)研(yan)究机构出(chu)现(xian)来解决(jue)这些问题，因为安全(quan)性风险将很(hen)快成为现(xian)实问题。

目前我们(men)主要追求的(de)是需要模型“可证明安全(quan)”，这是非(fei)常严(yan)格(ge)的(de)要求，但从长远来看是最可行的(de)路径(jing)。现(xian)阶段(duan)我们(men)都是通过实验和评估不断测试和改进(jin)，逐步逼近目标。