图灵奖得主发起，马斯克公开支持：必须暂停ChatGPT等所有AI系统的研发！

【资料图】

随着ChatGPT的横空出世，人工智能目前几乎一天一个台阶，向着人类不可预测的方向发展。

近日，加拿大蒙特利尔大学教授约书亚·本吉奥（Yoshua Bengio）嗅觉到了一丝来自人工智能的危险，作为2018年图灵奖（计算机领域的国际最高奖项）得主的他，发表公开信，强烈呼吁暂停所有比GPT4先进的AI系统暂停研发6个月。如今，这一建议已在网上获得了来自各领域超1000人的公开支持。

公开信中，约书亚·本吉奥表示：大量研究证实，能与人在智力方面竞争的AI系统可能对社会和人类构成深远的风险，高级AI虽然可能带来世界生命史上的深刻变化，但也理应受到相应的管理。不幸的是，目前与AI发展相应的规划与管理并不存在，最近几个月，世界各地陷入了无序的AI竞赛。没有人，哪怕创造出这些系统的人也没办法预测甚至有效的实施控制。

目前，人工智能在一般工作上已经变得与人具有同等的竞争力，但我们是否也应该先扪心自问：我们是否应该让它们生产的谎言来充斥我们的信息渠道，我们是否应该自动化所有的工作？我们应该冒着失去我们对文明控制的风险来发展它们吗？

因此，我们呼吁要求所有比GPT4先进的AI系统暂停研发6个月，然后制定对这种超过人类能力东西的对策，并建议，如果不暂停，应该由政府强制暂停。

最后，约书亚·本吉奥还认为AI开发者必须要与监管者合作，开发强大的AI管理系统。比如要有专门负责AI监管的机构，监督并跟踪AI系统的大量计算；以及对AI产出的内容进行水印等标记，帮助人类识别真假；甚至还要为AI的安全研究提供充足的资金，来应对AI可能造成的经济或政治破坏。

目前，约书亚·本吉奥的公开信已经有超过1000多人的公开签名与支持，其中也不乏一些知名人士，如其他计算机领域的专家以及世界数一数二的富豪马斯克，还有苹果公司的联合创始人斯蒂夫·盖瑞·沃兹尼亚克。

关键词：