已绝食17天，美国男子在Anthropic总部外呼吁其停止AGI竞赛
IT之家 9 月 17 日消息，圭多・赖希施塔特（Guido Reichstadter）已绝食 17 天，他表示自己目前状态尚可，只是行动稍缓，但并无大碍。
据 TheVerge 报道，自 9 月 2 日起，赖希施塔特每天都会出现在人工智能初创公司 Anthropic 的旧金山总部外，从上午 11 点左右一直坚守到下午 5 点。他手持的黑板标语上写着“绝食抗议：第 15 天”，但事实上，他从 8 月 31 日就已停止进食。这条标语向 Anthropic 提出诉求：“停止通用人工智能（AGI）竞赛”。所谓通用人工智能，指的是具备与人类相当甚至超越人类认知能力的人工智能系统。
IT之家注意到，通用人工智能一直是科技公司 CEO 们热衷的“战斗口号”，无论是大型科技企业还是初创公司的领导者，都在竞相争夺这一具有主观性的里程碑。但在赖希施塔特看来，这些公司完全没有正视通用人工智能带来的生存风险。“这些前沿企业的目标，都是研发出具备人类水平、甚至超越人类水平的通用人工智能系统，也就是超级智能，”他在接受采访时表示，“我认为这种行为极其疯狂，充满风险，而且是极大的风险。我认为现在必须立刻停止。”在他看来，绝食抗议是吸引人工智能领域领导者关注的最直接方式。而如今，持这种想法并采取行动的并非他一人。
赖希施塔特提到了 2023 年 Anthropic 首席执行官达里奥・阿莫代（Dario Amodei）的一次采访，他认为这次采访充分体现了人工智能行业的鲁莽。阿莫代当时表示：“我认为，人工智能技术发展导致人类文明遭遇灾难性后果的概率，可能在 10% 到 25% 之间。”阿莫代及其他行业人士认为，通用人工智能的发展是不可避免的，他们声称自己的目标只是成为“尽可能负责任的守护者”。但在赖希施塔特眼中，这种说法是“虚构的谎言”，也是“自私自利的借口”。
在赖希施塔特看来，企业有责任避免研发可能对大规模人群造成伤害的技术；而任何了解这一风险的人，也都肩负着一定的责任。
“我现在所做的一切，本质上就是在履行自己的责任。我只是一个普通公民，但我尊重同胞们的生命与福祉，也关心我的国家民众，”他说，“更何况，我还有两个孩子。”
截至目前，Anthropic 尚未对置评请求作出回应。
赖希施塔特表示，每天在 Anthropic 总部外准备抗议时，他都会向公司的安保人员挥手致意；而当 Anthropic 的员工路过时，大多会刻意避开他的目光。不过他提到，至少有一名员工向他表达了类似的“灾难性风险担忧”。他希望能激励人工智能公司的员工“有勇气像人一样行动，而非公司的工具”，因为他们肩负着更重大的责任，毕竟“他们正在研发的是地球上最危险的技术”。
在人工智能安全领域，无数人都与他有着同样的担忧。该领域的圈子相对分散，对于人工智能长期来看可能带来的具体风险，以及如何有效防范这些风险，存在诸多分歧，就连“人工智能安全”这一术语本身，也充满争议。但大多数人能达成共识的一点是：人工智能当前的发展方向，对人类而言并非好兆头。
赖希施塔特透露，大约 25 年前上大学时，他第一次了解到“人类水平人工智能”的潜在可能，当时他觉得这一技术还十分遥远。但 2022 年 ChatGPT 发布后，他开始高度关注这一领域。他特别担忧的是，在他看来，人工智能正在加剧美国的威权主义倾向。
“我关心我们的社会，”他说，“我关心我的家人，关心他们的未来。我担心人工智能的发展会对他们产生影响。我担心人工智能的应用缺乏伦理约束。同时，我也担心有充分理由相信，人工智能不仅带来灾难性风险，甚至可能威胁人类的生存。”
近几个月来，为了让科技领域的领导者关注这一他认为至关重要的议题，赖希施塔特采取了一系列越来越公开的行动。他此前曾与一个名为“停止人工智能”（Stop AI）的组织合作，该组织致力于“永久禁止超级智能人工智能系统，以防止人类灭绝、大规模失业及其他诸多问题”。今年 2 月，他与该组织的其他成员一同将 OpenAI 旧金山办公室的门锁住，包括他在内的数人因妨碍公共秩序被警方逮捕。
9 月 2 日，赖希施塔特通过 Anthropic 的安保前台，向阿莫代递交了一封手写信件；几天后，他将这封信公之于众。信中要求阿莫代停止研发“自己无法掌控的技术”，并尽自己所能在全球范围内阻止人工智能竞赛；若阿莫代不愿这么做，需向他说明理由。赖希施塔特在信中写道：“为了我的孩子，也因为深知当前局势的紧迫性与严重性，我已在 Anthropic 办公室外开始绝食抗议…… 等待您的回应。”
“我希望他能有最基本的礼貌，回应我的请求，”赖希施塔特表示，“我认为这些（人工智能公司的领导者）从未真正受到过个人层面的质问。匿名地、抽象地‘思考自己的工作可能导致大量人员死亡’，与‘面对一位可能因自己的工作而受害的人，以人的身份向对方解释原因’，完全是两码事。”
在赖希施塔特发起这场和平抗议后不久，两名受他启发的人在伦敦发起了类似行动，持续在谷歌 DeepMind 总部外抗议；另有一人在印度加入抗议行列，并通过直播记录自己的绝食过程。
迈克尔・特拉齐（Michael Trazzi）参与了伦敦的绝食抗议，7 天后因两次险些晕倒，并在咨询医生后选择停止绝食，但他仍在支持另一名抗议者丹尼斯・舍雷梅特（Denys Sheremet），舍雷梅特目前已绝食 10 天。特拉齐与赖希施塔特一样，对人工智能持续发展背景下人类的未来感到担忧，但两人都不愿将自己归为某一特定团体或组织的成员。
特拉齐表示，自 2017 年起，他就开始思考人工智能的风险。他给 DeepMind 首席执行官德米斯・哈萨比斯（Demis Hassabis）写了一封信，不仅公开发布，还通过中间人转交。
信中，特拉齐请求哈萨比斯“从今天起，为协调未来暂停超级智能研发迈出第一步，公开声明：若西方及中国的所有其他主要人工智能公司均同意暂停前沿人工智能模型的研发，DeepMind 也将同意暂停。一旦所有主要公司均同意暂停，各国政府便可推动达成国际协议，以强制落实这一决定。”
特拉齐在接受采访时表示：“如果不是因为人工智能存在极大危险，我不会如此支持监管。但我认为…… 世界上有些事物，其发展动力在默认情况下会走向错误方向。而人工智能领域，确实需要监管。”
谷歌 DeepMind 传播总监阿曼达・卡尔・普拉特（Amanda Carl Pratt）在一份声明中表示：“人工智能领域发展迅速，人们对这项技术难免有不同看法。我们坚信，人工智能有潜力推动科学进步，改善数十亿人的生活。在我们构建‘人类从技术中受益、同时免受风险侵害’的未来过程中，安全、保障与负责任的治理始终是我们的首要任务，过去如此，现在亦然。”
特拉齐在社交平台 X（原推特）上发帖称，这次绝食抗议引发了他与众多科技公司员工的讨论。他提到，一名 Meta 员工问他：“为什么只针对谷歌的人？我们也在做重要的工作，我们同样身处这场竞赛之中。”
他还在帖文中表示，一名 DeepMind 员工称，人工智能公司“可能不会发布可能造成灾难性伤害的模型，因为机会成本太高”；而另一名 DeepMind 员工则“承认自己认为人工智能导致人类灭绝的可能性很大，但仍选择在 DeepMind 工作，因为该公司仍是最注重安全的企业之一”。
目前，赖希施塔特致阿莫代的信、特拉齐致哈萨比斯的信均未收到回应（谷歌也拒绝回答 The Verge 提出的“哈萨比斯为何不回信”的问题）。但两人仍抱有希望，认为他们的行动能换来对方的认可、一场会面，最理想的情况是，这些公司的 CEO 能承诺改变当前的发展方向。
在赖希施塔特看来：“我们正处于一场不受控制、可能走向灾难的全球竞赛中。若想找到出路，就需要人们愿意说出真相，承认‘我们无法掌控这一切’，并主动寻求帮助。”
(来源：新浪科技)
关联资讯:
OpenAI、Anthropic互评：GPT存在谄媚行为，Claude不易出现幻觉”
Claude for Chrome扩展限量测试：可AI操控浏览器，帮你写邮件
