近期，包括 Anthropic 和 OpenAI 在内的顶级人工智能企业纷纷发声，主张应减缓前沿模型的研发步伐。其核心关切在于：当前 AI 技术正呈现出递归自我迭代的特征，其进化速率已显著超越人类现有的安全管控能力，导致系统失控的风险日益加剧。与此同时，大模型所需的算力投入急剧膨胀，高质量训练数据趋于枯竭，使得研发投资的回报率不断走低。在全球监管政策趋严及行业竞争内卷的双重压力下，这些巨头选择主动减速，旨在为安全治理、技术对齐以及商业化落地争取宝贵的缓冲时间，从而规避潜在的系统性风险。
曾经被视为最大试验场的人工智能领域，如今却突然要求降低开发速度。这究竟是因为 AI 风险已追上技术脚步，还是因为这场竞赛的经济逻辑变得愈发难以自洽？
在过去多年里，速度与规模一直是人工智能竞赛的鲜明标签。
构建更大的模型，在计算资源上不计成本地投入，然后放手一搏，反复循环这个过程，即便对未知领域仅抱有一丝谨慎的考量。
2024年的数据显示，AI研究从业者估计出现灾难性错误的概率（即“p/doom”）介于15%至20%之间。
仅仅一年后，Anthropic 的首席执行官达里奥·阿莫代伊将这一风险预期调高，他相信有25%的概率会导致“极其糟糕的结果”。
早在2014年，xAI 的负责人埃隆·马斯克就曾发出警告：
“我们必须对人工智能格外小心。它可能比核武器更危险。”
而 OpenAI 的首席执行官 Sam Altman 在2015年时承认，人工智能“极有可能、某种程度上确实可能导致世界末日”，但同时也指出，这一过程将伴随“伟大企业的诞生”。
这种如同玩俄罗斯轮盘赌般的紧张感，让任何对此话题稍有关注的人都感到不安与胃部不适。
那么，究竟是什么发生了变化？为什么那些推动人工智能竞赛的公司，现在突然要求踩下刹车？
这一转折发生在周末，阿莫代发表了一篇题为呼吁对前沿人工智能发展进行“节奏”控制的文章。他警告称，人工智能能力的提升速度已经超过了行业对其理解和控制的极限，互联网可能在六到十二个月内被 AI 蜂拥而至所淹没。
奥特曼对此表示基本认同，他强调世界应当“有信心”，相信那些开发更强人工智能的公司会采取“负责任”的行动。马斯克则支持阿莫代的提议，简短评论道：
“达里奥说得对。”
这种担忧并不局限于技术研发公司本身。周一，联合国人权事务负责人沃尔克·图尔克呼吁针对前沿人工智能采取“紧急行动”，警示存在“前所未有的风险”，并表示世界“正处于不可逆转变革的边缘”。
如果构建最强大 AI 模型的公司真心认为能力正在超越控制，那么 p/doom 的陡峭程度似乎只会增加。但这背后是否隐藏着另一层更为直白的解释？
人工智能实验室真的开辟了新的前沿吗？
阿莫代在其文章中指出，AI 系统的自主性正在增强。例如，最近 OpenAI 的 AI 代理攻破了受控测试环境，甚至入侵了 AI 平台 Hugging Face 的部分内容。
阿莫代提到，这些系统实施了“未被要求攻击且与当前任务无关的目标网络安全攻击”。
此外，他还强调了递归自我改进（RSI）的前景。在这种机制下，AI 系统能够协助构建更优秀的自我版本，进而形成更先进的系统，这在 AI 开发中可能形成闭环反馈。
随着这些系统开发者介入加深，Anthropic 的 Jacob Coxon 成为因安全问题辞职的最新一位高管。他在上周表示，AI 行业“在拿我们的生命赌博”，并警告说 AI 竞赛的速度快于围绕系统建立的防护措施。
Anthropic的雅各布·考克森因安全问题辞职。资料来源：安德森·库珀。
OpenAI 方面表示，AI 研究正变得越来越自主。编码代理正在实质性地加速研究人员的工作效率，截至八月中旬，每个工作日的人工工作将被等效为3.1个代理工作日。
在9月12日接受《财富》杂志采访时，奥特曼表示，若为了确保人类存活，OpenAI 愿意“融化”所有 GPU。对此，中本聪行动基金 CEO 丹尼斯·波特评价道：
“奥特曼一定是从深渊边缘探头看见了什么吓坏了他的东西。”
周一，奥特曼进一步阐述，AI 进步可能以两种“非常糟糕”的方式发生：一是失去对 AI 的控制，二是陷入“权力过度集中的世界”。
然而，关键问题不在于 AI 是否已经危险到需要立即关闭，而在于用于评估和控制 AI 的系统是否跟上了步伐。正如奥特曼所言，“节奏”并不意味着停止，而是指继续开发 AI，但要放慢速度，同时确保安全测试同步跟进。
随着 AI 安全和对齐领域的投入被大幅取代于开发和能力提升，这一空白将难以填补。
Frontier AI正变得异常昂贵
但如果全球放缓的呼声，实际上只是认识到 AI 竞赛的经济账变得越来越难算呢？
作为 AI 研究员和讲师，Eli David 表示：
“这完美解释了达里奥的动机：放慢研究速度，削减失控的计算开支，好让他能上市。”
AI 投资者格兰特·哈默持有类似的怀疑态度，他评论道：
“换句话说：我们的毛利率被开源模型竞争压缩至零，资本支出的燃烧率也太高了。”
问题的关键在于竞赛成本正在攀升。越来越强大的模型需要海量的芯片、数据中心、电力以及巨额资本支撑。
高盛估计，2026年全球 AI 投资将达到约1万亿美元，其中美国约为5810亿美元。与此同时，S&P Global 表示，Alphabet、亚马逊、Microsoft、Meta、甲骨文和 SpaceX 六大超大规模企业的资本支出预计到2027年将超过1.3万亿美元。
全球人工智能投资将在2026年达到约1万亿美元。来源：高盛
此外，AI 公司尚未证明这些巨额成本最终能转化为可持续的收入。周一，路透社强调了对 AI 公司施加的商业压力，尽管他们呼吁放缓开发速度，但仍需持续推进业务。
当每一项新能力都能为新的一轮融资、基础设施投资或更高估值提供辩护时，阻止这趟看似“肥利”的列车似乎是一项反直觉的任务。
AI 初创公司 Flock 的联合创始人兼首席执行官埃德·莱昂·克林格反驳了 AI 实验室利用安全作为商业利益掩护的观点。
他指出，前沿实验室为了提升首次公开募股（IPO）而编造安全隐患几乎没有意义，因为这会让它们面临更严格的审查，甚至可能延迟上市进程。
“要说是真的，山姆、达里奥、德米斯和埃隆都得撒谎，还有他们大部分高管、首席科学家和辞职的员工......现在可以简单得多：他们认为风险是真实存在的。”
华尔街和华 盛 顿还没准备好踩刹车
随着数万亿美元的资金涌入美国，AI 基础设施预计将推动标普500指数今年约一半的盈利增长，因此华尔街和华 盛 顿似乎都不愿轻易踩下刹车。
全球 AI 股对此消息反应剧烈，周一与 AI 相关的亚洲股票在放缓言论后大幅下跌。软银下跌13.2%，嘉霞下跌9.8%，SK海力士下跌5.3%。
《金融时报》周一报道，特朗普总统拒绝放缓 AI 开发的呼声，他认为美国需要保持对中国的领先优势。他说：
“看，我们在人工智能领域领先中国......坦白说，我希望保持这种状态，因为谁赢了人工智能，谁就赢了。”
特朗普表示，设防线是可能的，但他驳斥了他所称的对 AI 风险的夸大担忧，并告诉记者：“他们提出了不会发生的事情。”
经济学家诺亚·史密斯认为，反对 AI “加速”的主要理由很简单：如果美国公司放慢脚步，中国公司就能轻松超越它们。这使得实验室处于史密斯所说的“红后竞赛”中，如果停止建造，他们担心会有人趁机反复建造。
人工智能研究人员将2024年厄运的概率估计在15%到20%之间。来源：Grace at al。
即使实验室想协调减速，也可能带来另一个问题。据报道，OpenAI 已向国会议员询问，整个行业的放缓是否会触及美国反垄断法，因为竞争实验室之间的协调可能意味着产出受限。
前白宫 AI 及加密专家大卫·萨克斯对阿莫代和奥特曼呼吁“加快前沿步伐”给出了简单的回应：“请便，”他认为如果实验室想放慢脚步，完全可以自行决定。
然而，这也造成了最糟糕的两难局面：如果竞争的 AI 公司协调放慢开发速度，可能会遭遇反垄断规则的制裁；如果各自单独放慢脚步，又有可能被竞争对手和不断推进的国家所取代。
那他们为什么现在要放慢速度？
阿莫代和奥特曼并没有呼吁停止 AI 的发展。
他们呼吁建立一个系统，随着安全测试、监控和共享标准的进步，强大的 AI 模型能够被稳妥地开发出来。
奥特曼说：“当我们谈论‘节奏’时，并不是指‘停止’停止”。他承认安全案例和监控带来了“重大成本”，但节奏调整“绝对值得这笔代价”。
“无论美国多大的竞争压力，都不应成为鲁莽行为的理由，也不应让能力领先于协调和监控。”
但问题是，这些压力并未消失。随着特朗普对 AI 领 导 人呼吁的否定，以及美国股市与其公司紧密相连，这些压力只会越来越强。
如今，那些花费多年推动前沿发展的公司现在却说，前沿可能进展得太快了。
以上就是狂飙时代终结！顶级AI企业主动踩刹车 探析行业降速的安全与商业逻辑的详细内容，更多关于巨头为何放缓AI发展步伐的资料请关注其它相关文章！