Anthropic舍弃标志性安全护栏承诺 成AI行业最具戏剧性的政策转向之一
多年来一直以相较同行更为注重人工智能安全性的Anthropic PBC，如今已放松了对其“安全护栏”的承诺。这是AI行业迄今最具戏剧性的政策转向之一，也折射出一批曾经专注于帮助人类的初创公司，正将注意力转向利润与成功。
该公司在2023年发布的《负责任扩展政策》中曾表示，将会推迟可能引发危险的AI的研发。但Anthropic在周二发布的博客文章中，已经更新了规则，称如果公司认为自身相较竞争对手并不具备显著领先优势，将不再这么做。
Anthropic在文中写道，“政策环境已转向优先考虑AI竞争力与经济增长，而在联邦层面，以安全为导向的讨论尚未取得实质性的势头。”
这一调整颇令外界意外，因为在与OpenAI、Alphabet旗下谷歌以及埃隆·马斯克的xAI争夺这一被许多人视为革命性新技术的主导权之际，Anthropic长期以来试图以安全立场将自身与同行区分开。Anthropic首席执行官Dario Amodei曾在OpenAI任职，离开该公司的部分原因正是担忧OpenAI更为重视商业化和速度，而非安全性。
两家公司如今都在推动最快于今年上市，以把握投资者对AI的热情。Anthropic近期获得3，800亿美元的估值，而OpenAI则以超过8500亿美元的估值筹资。
Anthropic的一位发言人表示，“从一开始，我们就说过，AI的发展速度以及该领域的不确定性，要求我们必须快速迭代，并改进政策。”
本月早些时候，资深安全研究员Mrinank Sharma表示将离开Anthropic。他在发布到社交平台X的一封致同事信中写道：“我持续不断地发现自己，对我们所处的局面进行审视。”
“世界正处于危险之中，”他写道，“而且不仅仅来自AI或生物武器，也来自此时此刻正在发生的一系列相互关联的危机。”
责任编辑：刘明亮
