OpenAI 发布联名公开信 警告 AI 给人类带来灭绝风险

OpenAI 发布联名公开信 警告 AI 给人类带来灭绝风险

5 月 30 日消息，350 位 AI 行业的高管、研究人员和工程师日前签署了一封公开信，表示担忧 AI 技术将对人类带来生存威胁。这封信由位于非营利组织人工智能安全中心发布，其中仅有一句话：“降低人工智能带来的灭绝风险应该成为一个全球优先事项，与大流行病、核战争等其他社会规模的风险并列。”

OpenAI 首席执行官 Sam Altman、Google DeepMind 首席执行官 Demis Hassabis、Anthropic 首席执行官 Dario Amodei 三位 AI 公司高管，以及 2018 年图灵奖得主 Geoffrey Hinton、Yoshua Bengio 已签署这封信。

自 ChatGPT 掀起 AI 热潮以来，对这项技术潜在风险的担忧持续增加。此次公开信引发了广泛关注和热议，也使得人们对 AI 技术的发展和应用有了更加深入的思考与探讨。

这份声明由总部位于旧金山的非营利组织人工智能安全中心发布，他们认为 AI 对人类构成生存威胁，所以发出了新的警告。整份声明仅有一句话，全部内容如下：

“降低人工智能带来的灭绝风险应该成为一个全球优先事项，与大流行病、核战争等其他社会规模的风险并列。”

AI

此前，马斯克联合超过千名产业界和学术界的大佬们，在“生命未来研究所（Future of Life Institute）”网站上发布联名公告。公开信中主要传达了两个方面的信息：一是警告人工智能存在对人类社会的潜在威胁，要求立刻暂停任何比 GPT-4 更强大的人工智能系统的训练，时间跨度至少 6 个月。二是呼吁整个人工智能领域以及政策制定者们，要共同设计一套全面的人工智能治理系统，对人工智能技术的发展进行监督和审查。