跳至正文

警告“AI恐致人类灭亡” 3大“教父”就他不同意

ae7e9ecc315c75beec6163237c1e0270

ChatGPT这类AI进步速度惊人,产学界不只1人出言警告可能威胁人类存亡。(资料照/路透)

人工智慧(Artificial intelligence,AI)当道,各行各业都在谈论如何应用AI,不少行业也面临因AI兴起而可能消失的风险,学界甚至警告会威胁到人类生存。现在就连OpenAI、Google Deepmind、Anthropic等多家AI企业领袖与业界、学界专家逾350人同声警告AI可能会导致人类灭绝,呼吁全球各界务必致力于降低此事发生的风险。于此同时也有科学家认为这种说法有夸大之嫌。

综合英国广播公司、路透社报导,这项发布于非营利组织“AI安全中心”(Center for AI Safety,CAIS)网站的声明简而有力:“全球应把降低AI造成人类灭绝风险的优先顺序,拉高到与大流行疾病、核武战争这些影响社会的议题并列。”

e8b20bd0e6e1333612f007d9ecb010db

辛顿日前已自Google离职,他认为AI很可能威胁人类生存。(资料照/美联社)

OpenAI执行长奥特曼(Sam Altman)、Google Deepmind执行长哈萨比斯(Demis Hassabis)、Anthropic创办人兼执行长阿莫戴(Dario Amodei)、研究AI先驱科学家辛顿(Geoffrey Hinton)、蒙特娄大学教授班吉欧(Yoshua Bengio)等人,都在署名之列。美国哈佛大学、中国清华大学等全球多所学府与研究机构的学者,也加入连署。

欧盟已开全球之先著手制定AI相关法案,奥特曼上週才批评欧盟管控过度还放话要退出欧洲,结果遭到政坛抨击。几天之后奥特曼就加入了CAIS的连署,立场显然大有转变。奥特曼预计週四(6月1日)与欧盟执委会主席范德赖恩(Ursula von der Leyen)会面。

e9a99485e9ef01aa43d27fa3be6b46ca

OpenAI执行长奥特曼。(美联社)

2018年以人工智慧深度学习(Yoshua Bengio)荣获“电脑界诺贝尔”图灵奖(Turing Award)的3名学者就包括辛顿与班吉欧,另一名获奖人是纽约大学教授、同时也在Meta任职的勒昆(Yann LeCun),3人并称“AI教父”。辛顿日前向路透社表示,AI对于人类构成的威胁“可能比气候变迁还大”。

不过,勒昆与辛顿、班吉欧对于此事的态度并不相同。勒昆认为这些世界末日一般的警告是夸大其辞。其他不赞同如此末日论调的专家认为,“AI恐导致人类灭亡”的恐惧不切实际,也会转移已知问题的焦点。

6ebe20e1c5c262850d6bbd95e83e12e7

“AI教父”之一勒昆对于辛顿等人发出AI恐致人类灭亡的论调并不赞同。(资料照/美联社)

普林斯顿大学电脑科学家纳拉亚南(Arvind Narayanan)先前已向英国广播公司表示,科幻小说一般的灾难场景并不真实:“目前AI的能耐根本不足以让这些风险成为现实,反而会分散世人对于近期AI害处的注意力。”

今年3月以来,AI带来的可能威胁如雪球般愈滚愈大。电动车厂特斯拉的老闆、钜富马斯克(Elon Musk)今年4月也加入公开信连署,敦促下一代AI技术开发应予以暂停。这封公开信质疑世人是否应该开发最终在数量、智商层面淘汰、取代人类的非人类智能。

美国与欧盟的美欧贸易暨科技委员会(U.S.-EU Trade and Technology Council, TTC)本週正好也在瑞典开会,预料会讨论有关AI规范议题。

玖拾 | 新闻与资源: 警告“AI恐致人类灭亡” 3大“教父”就他不同意

了解 玖拾 的更多信息

订阅后即可通过电子邮件收到最新文章。