多位专家联名警告AI灭绝风险？Hinton、Bengio等300余大佬、名人联名警告AI灭世风险

Hinton、Bengio等300余大佬、名人联名警告AI灭世风险

Hinton、Bengio等300余位AI领域大佬联名警告AI可能带来灭世风险，呼吁全球优先应对这一威胁，将其与核战争、大流行病等风险置于同等重要的监管地位。

事件背景与核心声明本周二，非营利组织人工智能安全中心（CAIS）发布《AI风险声明》，370余名AI专家签署，包括图灵奖得主Geoffrey Hinton、Yoshua Bengio，OpenAI CEO Sam Altman，Google DeepMind CEO Demis Hassabis等。声明强调：“减轻人工智能引发的灭绝风险应当与其他社会规模的风险（如大流行病和核战争）一样成为全球的优先事项。”

部分公开信签署人（来源：CAIS）签署者背景与行业影响力签署者中，许多人在AI实验室、科技公司担任要职，例如：

Geoffrey Hinton：图灵奖得主，深度学习先驱，近期离开谷歌以公开讨论AI风险；

Yoshua Bengio：图灵奖得主，蒙特利尔大学教授，长期关注AI伦理；

Sam Altman：OpenAI CEO，推动AI监管政策；

Demis Hassabis：Google DeepMind联合创始人，主张“预防原则”部署AI。这些人物的行业地位使得声明具有显著影响力。

历史呼吁与行业行动此次声明并非首次警告AI风险：

2023年3月：马斯克、Bengio等千名专家签署公开信，呼吁暂停开发比GPT-4更强大的AI系统，署名人数超3.1万人；

2023年5月：OpenAI高管在博客中提出管理AI的建议，包括建立国际安全组织、加强研究者合作等；

政策层面：OpenAI、DeepMind等科技领袖与美国总统拜登讨论监管问题，Sam Altman在参议院听证会上强调政府干预的必要性。

Sam Altman与政策制定者讨论AI监管（来源：参议院听证会）支持与反对观点

支持者：认为AI可能像核武器一样致命，监管滞后可能引发灾难。例如，Demis Hassabis表示：“AI具有推动科学进步的潜力，但需采取预防原则。”

反对者：部分AI伦理专家质疑“灭世风险”的假设。Hugging Face科学家Sasha Luccioni认为，将AI风险与气候变化等现实问题并列是“误导公众注意力”；未来学家Daniel Jeffries称：“解决今天的问题，明天的问题自然会解决。”

AI伦理专家对公开信的质疑（来源：Twitter）当前AI监管的挑战尽管呼吁声高涨，但行业与政策层面尚未达成共识：

技术层面：AI发展速度远超监管框架的制定，例如大语言模型的技术细节仍缺乏透明度；

国际协作：缺乏统一的国际组织协调AI安全研究，OpenAI提出的“国际AI安全组织”尚未落地；

利益冲突：科技公司需平衡商业利益与公共安全，例如暂停研发可能影响市场竞争力。

此次联名警告反映了AI领域对技术失控风险的深度担忧，但如何将共识转化为具体监管措施仍是未解难题。

最后灭绝人类的可能是AI人工智能

最后灭绝人类的可能是AI人工智能这一观点有一定理论可能性，但目前更多是基于假设和推测，缺乏确凿证据，且存在诸多不确定因素和反驳观点。以下从支持与反对两方面进行阐述：

支持该观点的理由AI具备超越人类的智慧潜力目前全世界的人工智能AI技术发展虽还处在初级阶段，但未来当AI发展到成熟阶段，机器人不但具备视觉、运动、听觉、嗅觉功能，还具备自我学习和自我更新功能，其智慧将全面超越人类。例如通用AI若拥有强大的自我学习能力、自我更新和提升能力，就可能掌握人类的所有技能，甚至产生自我意识。

当AI超越人类所有智慧时，会掌握人类生存的所有技能，从探矿、采矿、冶炼，到利用能源和资源制造各种产品，甚至包括克隆自身。此时人类将失去对AI进行有效控制的能力，反而成为星球的累赘，被消灭也就成为可能。

难以确保AI始终符合人类利益有人提出人类可以制定相应的政策和法规，以确保AI的安全和可靠性，使其发展符合人类的利益和价值观。然而，“坏人”永远存在，即便有法律法规、技术规范和道德规范，“坏人”依然可能我行我素，改造AI来做坏事，这就无法保证AI不会对人类构成威胁。

反对该观点的理由技术发展存在不确定性虽然AI有超越人类智慧的潜力，但目前距离成熟阶段还有很长的路要走，在发展过程中可能会遇到各种难以预料的技术瓶颈和难题。例如，目前AI的自我学习和更新能力还远远达不到像人类一样灵活和全面的程度，要实现真正的通用AI并具备自我意识，面临着巨大的技术挑战，可能在未来很长时间内都无法突破。

人类有应对和防范措施人类不会坐以待毙，在AI发展过程中，会不断研究和制定各种安全机制和防范措施。除了法律法规外，还可以从技术层面进行约束，例如设计安全可靠的AI架构、开发AI监控系统等，以防止AI失控或被恶意利用。

人类也可以通过国际合作和全球治理的方式，共同应对AI可能带来的风险。各国可以共享技术信息和安全经验，制定统一的标准和规范，确保AI的发展在全球范围内都受到有效的监管和控制。

AI与人类可能形成共生关系AI的发展并不一定意味着要与人类对立和竞争，也有可能形成一种共生关系。AI可以在很多方面为人类提供帮助和服务，例如医疗、教育、科研等领域，提高人类的生活质量和生产效率。人类也可以为AI提供数据和反馈，帮助其不断改进和优化。在这种共生关系中，AI和人类相互依存、共同发展，而不是一方消灭另一方。

END，本文到此结束，如果可以帮助到大家，还望关注本站哦！