实现技术突(tu)破(po)

走出发(fa)展新路

DeepSeek受到(dao)赞誉和认可，但也有舆论认为，与ChatGPT实现从“0到(dao)1”的突(tu)破(po)不同，DeepSeek只是实现了从“1到(dao)N”的扩展。

对此(ci)，笔者并不认同，因(yin)为这种(zhong)看法不符合人工智(zhi)能研究的特点(dian)及创新发(fa)展的历史轨迹。人工智(zhi)能创新不同于物(wu)理学(xue)等基础理论研究。物(wu)理学(xue)中(zhong)的牛顿定律和爱因(yin)斯坦发(fa)现的相对论是从“0到(dao)1”的突(tu)破(po)，但人工智(zhi)能是一个没有严格定义的研究领域，并不存在“智(zhi)能”和“不智(zhi)能”之间(jian)“0”和“1”的界限，只有智(zhi)能化水平不断提高的创新发(fa)展过程。

笔者认为，DeepSeek推出的V3和R1模型既是技术上的重大(da)突(tu)破(po)，也是发(fa)展模式上的重大(da)创新，是人工智(zhi)能发(fa)展史上重大(da)事件(jian)，可以与OpenAI发(fa)布ChatGPT3.5相提并论。DeepSeek以高效率、低成(cheng)本的推理模型和开源的商业模式走出一条发(fa)展人工智(zhi)能的新路。

坚持历史视角

准(zhun)确看待价值(zhi)

准(zhun)确认识DeepSeek的价值(zhi)和贡献，必(bi)须坚持历史视角，将其放在人工智(zhi)能创新发(fa)展的历程中(zhong)来看待。

1943年，美(mei)国科学(xue)家(jia)麦卡洛克(ke)和皮(pi)茨提出神经元计(ji)算模型，开创了神经网(wang)络研究的先(xian)河，开启人工智(zhi)能创新发(fa)展的漫(man)长探索历程。本世纪第二个十(shi)年，基于神经网(wang)络模型的第三(san)波人工智(zhi)能浪潮涌起并接连(lian)迎(ying)来多个里(li)程碑式事件(jian)。

2012年，在ImageNet大(da)规模视觉识别挑战赛上，辛顿等人创建的AlexNet卷积神经网(wang)络模型大(da)放异(yi)彩。这被看作第三(san)波人工智(zhi)能浪潮的起点(dian)。在此(ci)4年之后，DeepMind研制的AlphaGo围(wei)棋程序战胜世界冠军(jun)，引起了全世界的瞩目。

2017年，谷歌的几名专家(jia)提出Transformer模型，提出自注意力机制，成(cheng)为深度学(xue)习的主(zhu)流模型。

2018年，DeepMind发(fa)布了AlphaFold，在蛋白质结构(gou)预测中(zhong)展示出惊人的能力，开辟了AI for Science（人工智(zhi)能驱动科技创新）的新方(fang)向。

2022年，OpenAI发(fa)布ChatGPT3.5，引领了以大(da)语言模型（LLM）为标志的生成(cheng)式人工智(zhi)能新浪潮。

近(jin)日(ri)，DeepSeek上线，成(cheng)为上述重大(da)事件(jian)之后，第三(san)波人工智(zhi)能创新发(fa)展浪潮的又(you)一重大(da)事件(jian)。

采(cai)用创新算法

提升运行效率

DeepSeek广(guang)受欢迎(ying)，是因(yin)为在模型算法和系统软件(jian)层次都有重大(da)创新。那么(me)这些重大(da)创新具体体现在哪些方(fang)面呢？

算法创新是DeepSeek的重要(yao)贡献之一。DeepSeek大(da)模型采(cai)用新的混合专家(jia)架构(gou)（MoE），每一层有256个路由“专家(jia)”和1个共享“专家(jia)”。在每次前向传播过程中(zhong)，只激活一小(xiao)部分“专家(jia)”来进行计(ji)算。虽然DeepSeek-V3是一个671B参数(shu)的大(da)模型，但模型的任何函数(shu)调用和传递只使用约37B参数(shu)，使其训练成(cheng)本大(da)为降低。

在算法层面，DeepSeek还有一个降低成(cheng)本的重大(da)创新，即低秩注意力机制（也称为多头潜在注意力机制）。这一发(fa)明对巨大(da)的注意力机制矩阵进行了压缩，减(jian)少参与运算的参数(shu)数(shu)量，大(da)大(da)降低了显存占用，由此(ci)提升了模型运行效率。

减(jian)少推理成(cheng)本

降低开发(fa)门槛

在推理层面的创新是DeepSeek另一个重大(da)贡献。OpenAI发(fa)布的o1推理模型是闭源的，其他企业无法了解OpenAI是如何基于预训练模型构(gou)建推理模型的。通过开源方(fang)式，DeepSeek揭示了实现低成(cheng)本推理的奥秘，为发(fa)展推理模型开辟了一条新路。DeepSeek揭示了一个事实，即推理模型的开发(fa)比想象(xiang)中(zhong)更为简单，门槛实际上并不是那么(me)高，各行各业均可以做。

传统的强化学(xue)习需要(yao)大(da)量标注数(shu)据，成(cheng)本很高。DeepSeek另辟蹊径，以全自动的强化学(xue)习取代监督微调和基于人类反馈的强化学(xue)习，用机器直接推测的方(fang)式来预测分数(shu)，显著提高了强化学(xue)习的效率。

DeepSeek通过工程创新和优化，降低了推理成(cheng)本，打破(po)了人工智(zhi)能领域长期(qi)以来对高算力的迷信，对人工智(zhi)能产业的发(fa)展具有重大(da)意义。

便(bian)捷本地部署

促进技术应(ying)用

DeepSeek在模型算法和工程优化方(fang)面所进行的系统级(ji)创新，为在受限资源下探索通用人工智(zhi)能开辟了新路。传统大(da)模型遵(zun)循的是一条“由通到(dao)专”的人工智(zhi)能发(fa)展思路，与之相反，DeepSeek追求的是“由专到(dao)通”的人工智(zhi)能发(fa)展路径，通过引领人工智(zhi)能技术生态(tai)的形成(cheng)，迈向全社会分享的通用人工智(zhi)能之路。

虽然以OpenAI为代表的生成(cheng)式人工智(zhi)能红红火火，但多数(shu)企业不敢将自己的数(shu)据交给私有AI平台生成(cheng)自己的垂直模型，因(yin)为担心提交的数(shu)据会泄露自己的技术机密(mi)。这可能是导致人工智(zhi)能在很多行业难以落地和应(ying)用的重要(yao)原因(yin)之一。

DeepSeek的出现化解了上述难题。人工智(zhi)能领域的研究者可以将DeepSeek提供的小(xiao)而精的模型下载到(dao)本地，即使断网(wang)也可以“蒸馏”出高效率的垂直模型，从而增强当地人工智(zhi)能创新发(fa)展的能力。

人工智(zhi)能不同于资本密(mi)集型和经验积累型的集成(cheng)电路产业，不仅要(yao)“烧钱”，而且要(yao)“烧脑”，本质上是比拼人的智(zhi)力的新兴(xing)产业。因(yin)此(ci)，人工智(zhi)能产业具有明显的不对称性，一个具有100多个聪(cong)明头脑的小(xiao)企业完全可以与市值(zhi)上万亿美(mei)元的龙头企业展开有力竞争。

突(tu)破(po)规模法则

引发(fa)行业思考

规模法则是指人工智(zhi)能模型在推理阶(jie)段（而非训练阶(jie)段）通过增加计(ji)算资源即算力来提升性能。在AI领域，规模法则被认为是“公理”，俗称“大(da)力出奇迹”，OpenAI等龙头企业和美(mei)国的AI投(tou)资界将其当成(cheng)制胜法宝。但是，规模法则不是像牛顿定律一样经过无数(shu)次验证的科学(xue)定律，而是OpenAI等公司近(jin)几年研制大(da)模型的经验归纳。规模法则从科学(xue)研究的角度看，属于对技术发(fa)展趋势(shi)的猜想，从投(tou)资的角度看，属于对某种(zhong)技术路线的押注，包含难以克(ke)服的局限性。

人工智(zhi)能是对未来技术的探索，探索路径存在多种(zhong)可能。人工智(zhi)能本身也存在多元化的目标，探索的道路上有很多高山需要(yao)去攀登，攀登一座高山的路径也不止一条。把一条道路或猜想当成(cheng)科学(xue)“公理”本身就不是科学(xue)的态(tai)度。

规模法则的倡导者，常以“强化学(xue)习之父”理查德·萨顿的文章《苦涩的教训》作为追求高算力的依据：“研究人员曾一次又(you)一次试图通过精巧的工程设计(ji)来提升性能，但最终都败给了简单粗暴的‘加大(da)算力’方(fang)案，历史证明，通用方(fang)法总是在AI领域胜出。”

最近(jin)两年，萨顿本人对规模法则做了深刻反思。他指出，虽然规模法则在提升模型性能方(fang)面确实有效，但它并不是解决所有问题的万能钥匙。AI系统不仅需要(yao)具备强大(da)的计(ji)算能力，还需要(yao)具备持续学(xue)习、适应(ying)环境、理解复杂(za)情境等能力，而这些往往难以通过简单地增加算力来实现。

图灵(ling)奖得(de)主(zhu)杨立昆和OpenAI前首席(xi)科学(xue)家(jia)伊利亚·苏茨克(ke)维等人甚至直言，规模法则已触及天花板。

DeepSeek的出现，促使全球(qiu)AI界严肃地思考这一技术发(fa)展路线问题：是继续烧钱豪赌，还是另辟蹊径，在算法优化上下更多功夫？

DeepSeek的成(cheng)功在一定程度上表明“小(xiao)力也能出奇迹”“算法和模型架构(gou)优化也能出奇迹”。随着时间(jian)的推移，AI扩展方(fang)法也在发(fa)生变化：最初是模型规模，后来是数(shu)据集大(da)小(xiao)和数(shu)据质量，目前是推理时间(jian)和合成(cheng)数(shu)据。

算力不容忽视

走好绿色之路

DeepSeek-R1是推理模型，从某种(zhong)意义上说，它把业界对人工智(zhi)能的关注重点(dian)从规模法则转移到(dao)推理计(ji)算上。

如果(guo)就此(ci)断言规模法则已经走到(dao)尽头，也是没有根据的。与人脑的神经连(lian)接复杂(za)性相比，现在的人工神经网(wang)络至少还有上百倍的差距，继续扩大(da)神经网(wang)络的规模和增加训练的数(shu)据量是非常必(bi)要(yao)的，但能否(fou)取得(de)与投(tou)入相称的回报，还要(yao)看今后的实际效果(guo)。

DeepSeek的成(cheng)功并没有否(fou)定算力在人工智(zhi)能发(fa)展中(zhong)的关键(jian)作用。实际上，由于用于推理的设备大(da)幅多于训练设备，所以推理所需要(yao)的算力将来会成(cheng)为主(zhu)要(yao)需求。通过算法优化提高模型的效率十(shi)分重要(yao)，算力是解决人工智(zhi)能问题的必(bi)要(yao)条件(jian)，不容忽视，而走节省算力的绿色发(fa)展之路是我们的必(bi)然选择。

（作者李国杰为中(zhong)国工程院院士，长期(qi)从事计(ji)算机体系结构(gou)、并行算法、人工智(zhi)能等研究，获首届何梁何利基金(jin)科技进步奖，主(zhu)持取得(de)的科研成(cheng)果(guo)获国家(jia)科学(xue)技术进步奖一等奖等。本文由尹振茂根据作者表述整理）

中(zhong)国科协科学(xue)技术传播中(zhong)心、陈家(jia)庚科学(xue)奖基金(jin)会与本报合作推出