Anthropic内部调查:AI研发速度翻倍,80%来自AI自身

· 家园资讯

首页 · 家园资讯 · 社区论坛 · 家园小说 · 游戏大厅

家园资讯频道收录本站公告、活动快报和玩家原创文章,按军事、时政、财经、体育等分类整理,每天更新,可顺着栏目继续阅读相关报道与实用攻略,也欢迎回社区聊聊当年熟悉的话题。

您尚未登录/注册
首页>科技
Anthropic内部调查:AI研发速度翻倍,80%来自AI自身
AI先锋官官方 2026-11-06 08:51:08

“AI正在加速我们的研究,但很难确切地说加速了多少。”11月5日,Anthropic联合创始人、负责公司大部分安全工作的Sam McCandlish在X上发表长帖,回应独立AI评估机构METR刚刚公布的一份报告。


这份报告披露了一个重要发现,Anthropic的AI模型能力进步速度,可能已经达到此前的两倍,其中约80%的当前加速可能来自AI参与自身研发。



METR估计,自2025年10月以来,Anthropic模型在综合基准测试中的能力增长速度达到此前的1.9倍,95%置信区间为1.5至2.8倍。换句话说,Anthropic过去一年取得的进步,大致相当于此前两年的进步。



这项调查从8月12日持续至10月29日,历时约11周。


METR投入相当于2.5名全职研究人员的工作量,获得了Anthropic此前未向外界开放的大量内部资料,包括未发布模型的测试成绩、预训练和强化学习数据、训练算力、算法效率、员工生产率调查,以及约15次关键员工访谈。


调查还涉及四个内部模型:2022年训练完成的未发布模型,以及2026年7月至10月间完成训练的Model 2、Model 3和Model 4。


METR是一家专门研究前沿AI能力与风险的非营利机构,曾与OpenAI、Anthropic、Google DeepMind等实验室合作开展模型评估。


报告试图回答三个问题:AI能力是否正在加速提升?这种加速有多少来自AI自身?未来是否存在阻碍进一步加速的瓶颈?



首先,METR认为,模型能力增长确实出现了显著加速。


报告采用AECI,即Anthropic版本的Epoch Capabilities Index,衡量模型在多项可验证任务上的综合表现。


研究人员发现,2025年10月之后的能力增长斜率明显高于此前。不同模型、基准测试和统计方法得到的加速估计有所不同,稳健性分析结果介于1.1倍至2.9倍。


值得注意的是,METR明确排除了训练算力扩张速度加快是这次加速主要原因的解释。


研究人员考察了算力、人力、数据、算法突破以及其他瓶颈的变化。对于2025年末的加速,METR认为非AI因素可能发挥了重要作用;但到2026年10月,AI在研发中的贡献已经越来越大。


METR给出的主观估计是,当前加速中,大部分、可能约80%,来自Anthropic广泛使用AI开展研发。不过,研究人员强调,这一比例存在很大不确定性,并非直接实验测量的结果。



AI究竟怎样加速AI研发?报告披露,Anthropic研究人员已经广泛使用AI编写代码、辅助实验和完成其他研究任务。


METR通过员工访谈、内部调查、代码行数、Pull Request数量和AI Agent推理支出等数据,尝试评估其影响。


研究人员对AI带来的整体效率提升估计差异很大,但大致集中在两倍附近。


其中一项内部Slack调查尤其引人注意。员工通过表情投票,估计使用最新模型带来的个人工作效率提升。到2026年10月,部分自报提升幅度已经达到12倍。


不过,METR特别提醒,这类调查证据较弱,个人效率提高12倍,并不意味着整个AI研发速度提高12倍。研究人员的主观估计、具体任务效率与模型能力的长期增长速度是不同概念。



报告同时指出,AI目前尚不能在模型训练最重要的环节中,独立完成具有重大意义的研究贡献。


现阶段的加速主要来自AI辅助人类研究,而不是AI完全自主地开发下一代模型。


但受访研究人员也描述了一些初步迹象,表明更高程度的自主研究贡献可能很快出现,不同研究领域的成熟度存在明显差异。


METR还调查了未来12个月可能限制增长的因素,包括算法进步、训练算力、实验算力和数据供应。


结果是,研究人员没有发现足以明确阻止进一步快速进步的重大瓶颈,也没有观察到强烈的边际收益递减证据。


不过,METR承认,随着获得更多内部资料,他们对部分瓶颈的判断曾多次改变,因此不能确信目前已经掌握全部限制因素。


由此,METR提出一种可能性,即更强大的AI帮助开发更强大的下一代AI,后者又进一步提高研发效率,使能力增长出现持续加速。这正是所谓的递归自我改进。


报告认为,未来一年存在进一步加速的显著风险,但没有断言这种循环已经实现。


这份评估还引出了Anthropic与独立评估机构之间的分歧。


Anthropic的《负责任扩展政策》设有两项与自动化研发相关的能力阈值:一是AI能够以具有竞争力的成本完全替代研究科学家和工程师;二是AI研发自动化使能力进步速度达到原来的两倍。


Anthropic在8月风险报告中认为,两项阈值均未触发。


METR同意当时的模型尚不能完全替代研究人员,也认同截至7月15日,自动化研发直接造成灾难性后果的风险较低。


但对于两倍加速阈值,METR认为Anthropic公开报告的判断过于确定。


在未删减的内部风险报告中,相关数据意味着1.97倍的加速,已经非常接近两倍。METR认为,公开报告仅称“不到两倍”,不足以准确传达这一情况。更重要的是,内部报告也承认,AI带来的实际加速可能已经超过两倍。


Sam在帖子中表示,METR的许多结论与他自己的判断一致。他特别承认,AI已经在加速研发,但目前还难以准确量化,而且尚未独立完成模型训练中的最重要贡献。


他也回应了报告大量删减的问题。METR原本完成了一份约100页的完整报告,但Anthropic对公开版本中的大量敏感证据进行了删减,包括算法效率变化、具体研发环节的加速估计、未来模型预测,以及AI贡献的详细归因。


METR表示,部分最能支持其风险判断的证据无法公开,意味着公众不得不更多依赖评估机构自身的判断。


Sam承认,这确实增加了外界核查的难度,但他认为,公开加速机制可能泄露商业机密,也可能为其他AI开发者提供加快研发的路线图。


他表示,这是一个需要权衡的问题,自己仍认为目前的决定是正确的。


Sam同时透露,Anthropic将在未来几周发布自己的内部AI进步速度分析,说明公司相对于《负责任扩展政策》的位置,并公布进一步加强安全与保障实践的新措施。

【版权声明】本文内容来源于AI先锋官官方,版权归原作者及原媒体所有。本站仅作信息分享,不构成任何商业用途;如涉版权问题,请联系本站删除。

发布时间:2026-11-06 08:08:41


(第1/1页/共9421字/2阅)
首页>科技
相关科技:
苹果智能Beta版首批实测反馈:基础功能可用度高,续航、稳定性成槽点
三星开卡车沿街嘲讽iPhone Duo裂屏,网友反手甩出Note7爆燃的图
机器人工友在物流仓库干活 18秒拣一单
独家 | 抖音副总裁李亮回应被秦朔起诉:会积极应诉
人类史上最大数学证明,AI用24天写成4310万行LEAN代码,现已通过计算机验证
*家园赞助福利回馈活动
网友评论:
更多评论(0)
您的评论:

[热点科技]
一见·为何重申“长远之策、根本之策”
受权发布|中共中央关于持之以恒推进全面从严治党若干重大问题的决定
视频丨大事情!听说贷款定价要变啦?
来华“扫货”,入境游又添新“接口”——中国经济三季报亮点解析
视频丨航天员太空摸鼻子是什么实验?揭秘背后的科学原理
[精彩推荐]
视频丨大事情!听说贷款定价要变啦?
8000家幸运咖,向蜜雪总部喊话求援|深氪
BLG全年胜率最高英雄:Knight发条16胜2负,Bin武器6胜0负
外媒:中国新型“悍马式”防空车辆现身,导弹数量增至12枚,火力大幅提升
退役老兵周其兵因车祸失忆,但始终记得自己当过兵、站过岗,近日他重回老部队,找寻记忆,祝早日康复!