1. 首页>>分享

首个同行评审研究:中国初创公司30万美元打造震动股市的LLM?

原文作者:Elizabeth Gibney

一项由同行评议的学术研究首次揭露了某家中国新创企业如何仅以三十万美元便研发出引发市场剧烈波动的巨型语言模型。

图片

DeepSeek指出,它的R1模型并非借助其他大型语言模型的示例进行训练。消息源自David Talukdar/ZUMA,图片由Alamy提供。

今年一月,DeepSeek推出的强大人工智能模型R1引发美国股市大幅下跌,该模型的成功并非基于竞争对手的成果,研究人员指出,相关研究及同行评审版的R1模型已发表于《自然》期刊。

R1的研制目的是为了掌握数学和编程等“逻辑”课题,是美国企业制作的同类软件的一个经济型替代品。它属于“无限制授权”类型,任何人都可以获取,已经变成人工智能交流中心Hugging Face到目前为止最受欢迎的同类模型,总共被下载了超过一千万次。

这篇论文以1月发布的预印本版本为起点,又进行了后续完善,详细阐述了DeepSeek如何借助强化一个通用大型语言模型,成功应对推理类挑战。补充资料首次披露了R1训练投入:仅需29.4万美元。即便计入杭州企业为打造R1基准LLM投入的600万美元,整体开销也远少于同类竞争模型可能动用的数千万资金。DeepSeek透露,R1主要运用英伟达(Nvidia)的H800芯片进行训练,这款芯片在2023年因美国的出口限制措施,被禁止向中国出口。

严格审稿

R1被视为首个经过同行评审的大型语言模型,这个观点广受认可。Hugging Face的机器学习工程师Lewis Tunstall作为《自然》论文的审稿人表示,他对此表示高度赞同,认为如果不让大部分公开过程成为标准,就很难判断这些系统是否蕴含风险。

针对审稿人的反馈,DeepSeek团队调整了文档内容,删减了赋予人类特征的说法,同时补充了技术层面的具体信息,涵盖了模型训练所用的资料种类以及数据保障措施。同行评审专家孙欢来自俄亥俄州立大学,他强调这种严谨的同行评议过程,能够有力地验证模型的实际应用价值与工作能力,其他企业也应采取类似的措施。

DeepSeek的核心突破在于借助一种叫做“纯强化学习”的自主探索技术来打造R1模型,这种方法侧重于对模型给出正确回应进行正向激励,而非要求其学习人类预先设定的推理范例。DeepSeek指出,该模型正是借助这种途径掌握了它自身的类别推理方法,例如怎样在未依照人类设定方案的情况下检验其运作状况。为了提升效能,该模型还运用估算手段对自身尝试进行评级——该估算方法被称作“组间对比策略优化”——而并非借助其他算法来达成此目标。

该模型在人工智能研究领域颇具威望,孙欢表示,自2025年以来,所有涉及大型语言模型强化学习的研究,几乎无一例外都受到了R1的启示。

训练方法

一月份的新闻报道里,美国加州OpenAI机构的研究者指出,他们推出了GPT及“o”系列推理平台,DeepSeek公司则借助OpenAI模型的成果来训练R1系统,这种做法或许能以更少的投入来促进模型性能的改善。

DeepSeek没有把训练数据附在论文后面公布。审稿人沟通过后,DeepSeek的团队说明,R1并不是在模仿OpenAI模型生成的推理样例上训练的。不过他们坦言,R1的底层模型和其他多数大语言模型一样,是在网上进行训练的,因此它会学习网络中已有的AI创作内容。

孙欢谈到,这种反驳同以往在各类刊物上见到的论断一样具有说服力。Tunstall同样指出,尽管他无法完全肯定R1并非借助OpenAI范例进行训练,但其他研究机构进行的验证实验表明,DeepSeek的推理技巧或许已经相当出色,甚至可能无需借助此类手段。“现在的证据已经非常充分,单纯依靠强化学习就能实现卓越的表现。”

孙欢表示,对于科研人员来说,R1仍然具备相当的优势。ScienceAgentBench这一挑战旨在评估处理科研任务中的数据分析和图形展示等技能,孙欢及其团队发现,尽管R1的精确度并非顶尖,不过它在综合性能与经济性之间的平衡做得最为出色。

另一些研究者正设法借助建立R1的思路来增强当前大型语言模型的类比推理本领,同时打算将它们推广到数学和编程之外的其他范畴,Tunstall指出,基于这种视角,R1已经引发了一场变革。

本文采摘于网络,不代表本站立场,转载联系作者并注明出处:https://www.mjgaz.cn/fenxiang/278527.html

联系我们

在线咨询:点击这里给我发消息

微信号:13588888888

工作日:9:30-18:30,节假日休息