跳至正文

AI恐致人类灭绝?业界共同声明:与核战同等对待

530e02f560f1a2c2d17e61b512cd840b

OpenAI与Google Deepmind负责人在内的专家们警告指出,AI可能导致人类的灭绝,应该跟大流行与核战等其他社会性规模危险一起成为全球优先事项。路透

OpenAI与Google Deepmind负责人在内的专家们警告指出,人工智慧(AI)可能导致人类的灭绝。

BBC报导,数十位AI科学家与其他知名人士在AI安全中心(CAIS)网页上刊登的一分声明签名。该声明指出,“缓解AI带来的灭绝危险应该跟大流行与核战等其他社会性规模危险一起成为全球优先事项”。报导称,这段简洁的声明旨在克服“可能难以表达对部分先进AI最严重风险的担忧”此一障碍,并且开启讨论。

在声名下方署名的学者与公众人士包括早先对超智能AI(super-intelligent AI)带来风险发出警告的辛顿(Geoffrey Hinton)博士、蒙特娄大学电脑科学教授班吉欧(Yoshua Bengio)、Google Deepmind执行长哈萨比斯(Demis Hassabis)、ChatGPT研发商OpenAI执行长奥特曼(Sam Altman)跟AI新创企业Anthropic执行长阿莫迪(Dario Amodei)。

辛顿、班吉欧与纽约大学教授杨立昆(Yann LeCun)因为在深度学习领域的开创性研究,并因此共同于2018年赢得表彰电脑科学领域杰出贡献的图灵奖,让外界经常称3人为“AI教父”。但不同于辛顿与班吉欧,也在Meta工作的杨立昆认为,这些世界末日级警告是过虑了。

许多其他专家同样认为,AI消灭人类的恐惧不现实,并且将注意力从已经成了问题的系统内偏见等议题分散。普林斯顿大学电脑科学教授纳拉亚南(Arvind Narayanan)此前告诉过BBC,类似科幻的灾难情景不实际,“目前的AI远远没有足够的能力让这些风险成形,因而将注意力自AI的短期危害转移离开”。

网页直连>>

Artificial intelligence poses “extinction” risk, bosses of top firms warn https://t.co/ljGiiz5ABh

— BBC News (World) (@BBCWorld) May 30, 2023 玖拾 | 新闻与资源: AI恐致人类灭绝?业界共同声明:与核战同等对待

了解 玖拾 的更多信息

订阅后即可通过电子邮件收到最新文章。