“如果要在‘我’和‘你(ni)’之间填空，应该怎么填？在武侠小说里可(ke)能‘打’出(chu)现得比较多，而在爱情小说里可(ke)能‘爱’出(chu)现得多。语言大(da)模型可(ke)以预测在不同(tong)语境中，填哪个(ge)字(zi)的可(ke)能性(xing)最高(gao)。”上海达威科技创始人朱(zhu)代辉介绍道。

在目前大(da)模型广泛采用(yong)的Transformer架构中，输入的文本会被转化成数学向量的形式(shi)，词与词的关联概率可(ke)以用(yong)向量距(ju)离(li)来度量。模型比较这些向量，计算出(chu)它们之间的“注意力权(quan)重”，从而确(que)定哪些词对当前词更重要，这就是(shi)“自注意力”（Self-Attention）算法机制。

“这种机制允许模型在处(chu)理序列数据时，同(tong)时考虑所有位置的信息，动态地决定哪些信息更重要。”朱(zhu)代辉说。为了让(rang)模型在不同(tong)的上下文中捕捉不同(tong)的信息，Transformer模型会将注意力权(quan)重维度分成多组(zu)同(tong)时计算，每组(zu)关注序列中的不同(tong)部分，最后的结(jie)果会被合并。这种“多头注意力”（Multi-Head Attention）机制能帮助模型从多个(ge)角度理解句子。

这些注意力权(quan)重随后会被输入“前馈神经网络”（Feed-Forward Neural Network）中进行计算。这种神经网络模型由多层对应数据特征的节点(dian)构成，它能够帮助模型对数据进行“深度学习”，发现其中更复杂的模式(shi)。

这些模块(kuai)层层堆(dui)叠(die)，产生大(da)量参数来描述数据。通过调整，这些模型不止能够学习语言，还能够学习图像、音频乃(nai)至(zhi)DNA序列、蛋白质结(jie)构等不同(tong)模态的数据，将它们进行统一表示。当参数和数据量达到(dao)一定规模时，模型就仿佛“开(kai)窍”一般(ban)，涌现出(chu)分类、预测、生成的能力。

要达到(dao)这种效果需要耗费大(da)量的数据和算力成本。专注于应用(yong)的开(kai)发者可(ke)以选(xuan)择(ze)在这些已经具备一定认知能力的通用(yong)大(da)模型基础上进行算法和数据的调整，开(kai)发适用(yong)于特定任务的专业大(da)模型。

联合利华数据AI总(zong)监、计算生物学博士(shi)杨荟介绍了Biobert、SCGPT、Evo等多款(kuan)生命科学和医学领域的大(da)模型，可(ke)以用(yong)于基因、蛋白质等多组(zu)学信息的整合、药(yao)物靶点(dian)发现与分子设计、医学图像分析等场(chang)景。

能看文献，能做研(yan)究，也能诊(zhen)断

杨荟提到(dao)，大(da)模型已经成为辅助生命科学和医学研(yan)究的得力助手。

“一天我看到(dao)家里的塑(su)料袋(dai)被一些虫子分泌(mi)的物质所腐蚀，突然来了灵感，就通过Chatgpt的Deep research（深度研(yan)究）功能询问有没有昆虫分泌(mi)蛋白质降解塑(su)料的研(yan)究。AI最后帮我找到(dao)了西班(ban)牙的一项研(yan)究，其中发现一种飞蛾幼虫能分泌(mi)两种能够降解塑(su)料的蛋白质。”他说。

随后，杨荟通过AI提供(gong)的资料找到(dao)了这两种蛋白质在数据库中的信息。“其中一种已经被解析，而且(qie)可(ke)以看到(dao)实际结(jie)果与蛋白质结(jie)构预测AI给出(chu)的结(jie)果很接近。”

一名开(kai)发者还介绍了一款(kuan)在医学和生物领域相(xiang)当流(liu)行的AI产品“txyz”。这款(kuan)基于Chatgpt开(kai)发的平台(tai)能够帮助用(yong)户快速查找和精读论文，或是(shi)根据论文形成准确(que)的综合性(xing)回答，帮助科研(yan)人员快速获取知识。

AI大(da)模型快速“理解”文献的能力还可(ke)以用(yong)于从海量论文中提取关于生命和疾病规律(lu)的关键结(jie)论，比如药(yao)物作用(yong)的靶点(dian)、疾病机制等，然后再用(yong)这些信息和其它实验数据去建(jian)立(li)能够预测生命和疾病活动的模型。这被一些人称(cheng)为生命的“数字(zi)孪(luan)生”（digital twin）。

“近年来尽管科技进步了，数据也越来越多，药(yao)物研(yan)发的成功率却(que)在走低，主要原因是(shi)对药(yao)理机制理解的缺乏。”焕(huan)一生物的副总(zong)裁蔡俊杰告诉澎湃科技。数字(zi)孪(luan)生能够通过模拟人体对药(yao)物的反应，从病理的角度对实验结(jie)果进行预测，让(rang)药(yao)物研(yan)发少走弯路。

开(kai)源(yuan)大(da)模型性(xing)能的提升为数字(zi)孪(luan)生产品开(kai)发者带来了新的机遇。“公开(kai)数据库中有3700万篇医学文献，我们算了一下，如果调用(yong)Chatgpt的接口(kou)去提取收集里面的机制和参数等知识，要花费几千万乃(nai)至(zhi)上亿美元。”蔡俊杰说，“现在有了性(xing)能同(tong)样强劲的开(kai)源(yuan)模型Deepseek，就能显著降低成本。”

在医学诊(zhen)断方面，AI大(da)模型也正在帮助医生提高(gao)效率，甚至(zhi)取代一部分的工作。上海科莫(mo)生医疗(liao)科技有限公司的张(zhang)浩曦分享了他们开(kai)发的染色体核型分析AI平台(tai)。

在胚胎发育、细(xi)胞(bao)分裂时，DNA紧密(mi)压缩在一起(qi)，成为我们能观测到(dao)的染色体，它们的功能和形态正常很重要。“50%的自然流(liu)产是(shi)由染色体异常导(dao)致的。而因为漏检等原因，在每150个(ge)新生儿中，平均(jun)有1个(ge)染色体异常，这往往意味着(zhe)畸形或者基因病，是(shi)一件很悲伤(shang)的事情。”张(zhang)浩曦说。

染色体核型分析是(shi)医生排除染色体异常的主要手段。人有23对染色体，但(dan)在观测时往往不是(shi)成对出(chu)现的。在核型分析中，医生需要“看图配对”，再与正常的染色体进行对比，看看有没有缺失、重复等异常现象。

“这个(ge)过程周期长，很枯燥，费眼睛，搞得医生也很疲(pi)劳。”张(zhang)浩曦说。科莫(mo)生开(kai)发了一种核型分析大(da)模型，帮助医生进行染色体图像的自动识别、配对和分析。该产品已经拿到(dao)了四川省(sheng)的二类医疗(liao)器械证。

“原先28天才能拿的染色体报告，现在在AI的辅助下1天就能出(chu)。”他说，这提高(gao)了核型检测的效率，降低了成本，放大(da)了医院的诊(zhen)疗(liao)能力。“做得快了，那么除了孕检之外，比如那些可(ke)能接触辐射的高(gao)危人群有需要的人也可(ke)以去做。”

挑(tiao)战与风(feng)险

生命科学研(yan)究要求专业性(xing)和准确(que)性(xing)，而医学诊(zhen)断更是(shi)直(zhi)接关系到(dao)患者的福祉。尽管AI大(da)模型正在各个(ge)应用(yong)场(chang)景中迅速落地，但(dan)其中还是(shi)存(cun)在着(zhe)不少风(feng)险与挑(tiao)战，需要开(kai)发者和政策标准制定者共同(tong)面对和克服。

在西湖大(da)学博士(shi)研(yan)究生燕阳眼里，AI辅助诊(zhen)断还是(shi)有很多风(feng)险的：“如果问一些大(da)模型，孕妇(fu)能用(yong)什(shi)么药(yao)，它会提示四环素是(shi)可(ke)以使用(yong)的，但(dan)这个(ge)药(yao)肯定不能用(yong)。大(da)模型不知道，是(shi)因为它没学到(dao)过。”

他介绍道，在大(da)语言模型中，数据训练的本质是(shi)去尽可(ke)能地接近训练数据。如果数据完整、准确(que)、质量高(gao)，那么回答的质量也就高(gao)。如果前面出(chu)现错误，就会导(dao)致后续生成中错误的累(lei)积，导(dao)致答案失真。

因此，追求更高(gao)质量的数据成为AI产品开(kai)发者共同(tong)关注的主题。燕阳认为，很多人对生命健康领域数据的认识存(cun)在误区，导(dao)致产品开(kai)发陷入瓶颈，乃(nai)至(zhi)产生风(feng)险。

“有人觉得有海量数据就能训练好模型，数据越多模型性(xing)能越好，这是(shi)不对的。”他说。医院数据往往是(shi)非标准化的，比如医嘱、不同(tong)设备产生的检测结(jie)果等等，难(nan)以直(zhi)接用(yong)来训练AI模型。有些数据缺乏标注，这些可(ke)能会导(dao)致模型学习到(dao)的概率分布偏离(li)真实的医学推(tui)理逻辑。

“比如说，超过90%的胸片报告只标注异常结(jie)果，正常的话就没有标注。那AI可(ke)能会学到(dao)‘如果没有标注，则为正常’的逻辑，这显然是(shi)不对的，会导(dao)致误检率上升。”燕阳举例道。

由于缺乏更加(jia)完整的医学数据，有些医学AI研(yan)究可(ke)能会尝(chang)试数据“蒸馏”的方法，用(yong)ChatGPT等大(da)模型生成数据，然后用(yong)这些数据来训练自己参数相(xiang)对较少的模型。这样做的好处(chu)是(shi)能让(rang)小模型逼近大(da)模型的能力，但(dan)坏处(chu)是(shi)大(da)模型的输出(chu)本身可(ke)能存(cun)在问题。

“由于通用(yong)的大(da)模型往往缺少医学知识，可(ke)能导(dao)致对罕见病等疾病的忽略。小模型将这些倾向作为‘事实’进行学习，可(ke)能会变得‘过度自信’且(qie)容易犯错。”他说。

燕阳认为，这些问题可(ke)以通过让(rang)数据变得更加(jia)完整和专业来解决，比如增加(jia)专家标注和更多医学知识，让(rang)AI学会“是(shi)什(shi)么”和“为什(shi)么”。还可(ke)以通过展示推(tui)理轨迹(ji)（CoT）等算法来完善AI的推(tui)理过程，把自相(xiang)矛(mao)盾或者错误的逻辑剔除出(chu)去。

国内首(shou)个(ge)AI安全研(yan)究员、美国生命未来研(yan)究所的朱(zhu)小虎告诉澎湃科技，在风(feng)险评估中，大(da)语言模型已经展现出(chu)了欺骗、避免自身毁(hui)灭、传播对人有害的信息等问题。“基于专业知识的医学模型相(xiang)对会好很多。但(dan)如果这些模型是(shi)以通用(yong)大(da)模型为基座训练的话，底层的倾向也可(ke)能会传递到(dao)模型中。”他说。

据悉，2025全球开(kai)发者先锋大(da)会于2月(yue)21日(ri)至(zhi)2月(yue)23日(ri)在上海举办，主题为“模塑(su)全球，无限可(ke)能”，旨在促进人工智能产业集群的培育，推(tui)动基础大(da)模型与算力、语料、垂类应用(yong)场(chang)景等人工智能企业深度融合，打造(zao)以开(kai)发者为中心的开(kai)发者节。