Anthropic近日宣布，已委任埃森哲（Accenture）作为其嵌入式独立评估机构，这一举措意在推动首席执行官达里奥·阿莫代此前提出的“人工智能开发减速”倡议落地。通过深度介入大模型的研发与能力迭代环节，埃森哲将对系统进行持续性的核验，以防范高阶AI可能引发的安全风险。这种引入第三方驻场审查的行业罕见做法，为前沿AI技术的演进设置了外部制衡机制。不过，由于缺乏成熟的操作先例，该方案在实际执行中仍面临挑战，业内专家对这一减速策略的最终成效也持有不同观点。
值得注意的是，此项合作并非排他性协议。Anthropic预计在未来数周内还将公布其他评估合作伙伴，并与其展开协作。
Anthropic方面表示，选择埃森哲作为首位嵌入式评估师，核心目的在于协助实施阿莫代于上周提出的减缓人工智能研发速度的计划。
9月12日，阿莫代发布了一份包含三个步骤的提案，主张在警示无节制快速发展可能带来灾难性后果的同时，建立相应的安全措施以规范AI发展路径。
对于该提案，OpenAI首席执行官Sam Altman和SpaceX首席执行官埃隆·马斯克表示了积极支持，而英伟达CEO黄仁森则持保留态度，他认为此类监管措施并非必要。
阿莫代在提案中明确指出：“人工智能的发展速度大幅加快，主要得益于人工智能构建下一代人工智能的能力增强。这种动态被称为递归自我提升”，并且“如果不加以控制，它可能会超越我们理解和控制这些系统的能力。”
相关报道：人类学首席执行官呼吁放缓人工智能开发以降低安全步伐
根据阿莫代的规划，第一步即设立拥有员工权限的独立评估员，Anthropic已单方面承诺履行这一责任。
本周五，Anthropic确认将与埃森哲及其人工智能业务部门展开合作，“评估并进行模型红队，进行对齐评估并测试模型保障措施”，以此兑现上述承诺。
公司强调，鉴于嵌入式评估属于新兴技术领域，具体的操作流程仍在制定之中。
依据公告内容，Anthropic与埃森哲计划在未来五年内至少投入10亿美元。
Anthropic将在紧急情况下直接资助工作
Anthropic指出，目前尚未形成独立的评估资金体系，长期资金最终可能需要依靠合并或政府渠道解决。然而，考虑到工作的紧迫性，Anthropic将直接向埃森哲提供资金支持以开展相关工作。
同样地，该合作为非独家性质，Anthropic预计将在未来几周内宣布其他评估者，也将与之合作。
埃森哲表示，其Faculty团队擅长为全球领先的人工智能实验室测试和评估模型，并致力于构建设计上安全且具备伦理性的复杂人工智能系统。
埃森哲董事长兼首席执行官朱莉·斯威特表示：“嵌入式评估是一个新兴领域，我们期待与Anthropic合作，加速嵌入式评估员的发展，我们认为嵌入式评估将成为未来安全领域的重要组成部分。”
以上就是Anthropic敲定埃森哲为嵌入式评估者，为放缓前沿AI研发保驾护航的详细内容，更多关于埃森哲出任Anthropic嵌入式评估方的资料请关注其它相关文章！