抗议者聚集在 OpenAI、Anthropic 和 xAI 的办公室外，表达对行业的担忧

周六，抗议者走上旧金山街头，在 Anthropic、OpenAI 和 xAI 的办公室外驻足，呼吁有条件地暂停开发功能日益强大的人工智能。

据“停止人工智能竞赛“创始人兼纪录片导演 迈克尔·特拉齐 大约有200名抗议者参加了示威活动。参与者包括研究人员、学者以及机器智能研究所、PauseAI、QuitGPT、StopAI和Evitable等倡导团体的成员。

“很多人都在关注先进人工智能系统带来的这种风险，”特拉齐说道。 解密。 “大家一起游行表明，人们并非孤立地思考这个问题。有很多人关心这个问题。” ”

游行于中午在Anthropic公司办公楼外开始，随后前往OpenAI，最后到达xAI。每到一个地点，参与组织的活动人士和演讲者都会向抗议者发表讲话。

特拉齐表示，此次抗议旨在推动人工智能公司同意协调暂停构建更强大的人工智能模型，并与其他国家的人工智能开发商签订条约，以采取同样的行动。

他说：“如果中美两国同意停止开发更危险的模型，他们就可以集中精力改进对我们更有利的系统，比如医疗人工智能。这样对大家都有好处。”

停止人工智能竞赛 提议 有人呼吁各公司停止构建新的前沿模型，并将工作重心转移到安全方面，前提是其他主要实验室“切实地”也这样做。Trazzi 表示，这使得在人工智能实验室办公室前进行抗议变得更加重要。

持续的反对

这次抗议是近期一系列旨在干扰人工智能发展的行动中的最新一起。

2023年3月，生命未来研究所发表了一封公开信。 要求 在 ChatGPT 于前一年公开发布之后，暂停对领先的 AI 工具进行进一步增强。

签署者包括 xAI 创始人埃隆·马斯克、苹果联合创始人史蒂夫·沃兹尼亚克和 Ripple 联合创始人克里斯·拉森。自那以后，这封题为“暂停大型人工智能实验”的公开信已获得超过 33,000 签名。

9月份，特拉齐举办了一场为期一周的活动。 绝食抗议 在谷歌DeepMind伦敦办公室外， 圭多·赖希施塔特 他们在 Anthropic 旧金山办公室外举行了同步绝食抗议。

政府官员和人工智能持续发展的支持者认为，放缓美国的研究速度可能会让国外的竞争对手有机可乘。 优势 .

上周，特朗普政府发布了其 人工智能框架 制定人工智能发展相关法律的国家标准。白宫将其定义为…… 承诺 赢得人工智能竞赛。

“即便你身处中国或世界任何国家，没有人想要自己无法掌控的系统，”特拉齐说道。“因为企业和国家都在竞相以最快的速度构建系统，所以我们在安全方面走了捷径，偷工减料。从来没有没有赢家的竞赛。我们现在拥有的是一个无法掌控的系统，这就是为什么它被称为‘自杀竞赛’。”

但即便人工智能开发者同意暂停开发，验证这一承诺也并非易事。特拉齐建议，验证暂停开发的一种方法是限制用于训练新模型的计算能力。

他说：“如果你限制一家公司用于构建这些系统的计算能力，那么你实际上就限制了新模型的开发。”

旧金山抗议活动之后，特拉齐表示，在其他主要人工智能公司运营的地区可能会发生更多示威活动。

他说：“我们想走到员工身边，和他们交谈，也希望他们能和领导层沟通，推动内部变革。”他还补充说，举报人会拥有一定的权力，因为“是他们参与了变革的”。

OpenAI、Anthropic 和 xAI 尚未对此作出回应。 解密 请求评论。