跳至正文

AI威胁堪比核战!为何担忧?东西方态度有何不同?

ChatGPT问世以来,人工智能(AI)成为关注焦点,但一批全球顶尖科学家和企业领袖,近日却要求正视人类文明可能毁灭的风险,其中包含ChatGPT母公司的执行长。他们的担忧为何?东、西方对待AI发展的态度又有何不同?

9ffec0471a8514ba279b07a470d77a54

东西方对待AI的态度存在差异,图为ChatGPT示意图

(德国之声中文网)人工智能(AI)当红之际,来自全球顶尖的AI专家、研究人员、企业高管週二(5月30日)发布一项声明,要求各界审视AI可能造成人类文明灭绝的风险 。

这份声明由总部设在美国旧金山的AI安全中心(The Center for AI Safety)发布,主旨阐明:“减轻人工智能灭绝(人类)的风险,应该与大流行病和核战争等其他社会风险(一样),共同成为全球性的优先事项。”

谁签署了这份声明?

这份声明的签署人相当多,其中不乏重要的AI专家和企业高层,例如2018年图灵奖共同得主、被称为“AI教父”的辛顿(Geoffrey Hinton)和本希奥(Yoshua Bengio)。

ChatGPT的研发公司OpenAI执行长阿尔特曼(Sam Altman),以及搜索引擎巨头谷歌(Google)旗下人工智能公司“深度思考”(DeepMind)的执行长哈萨比斯(Demis Hassasbis),也位列其后。

各类学者专家和商界人士,包含一大批在谷歌和微软等公司工作的专业人士,以及其他领域的知名人士,如爱沙尼亚前总统卡柳莱德(Kersti Kaljulaid)、美国神经科学家和主持人哈里斯(Sam Harris),以及加拿大流行歌手和词曲作者葛莱姆丝(Grimes)等人。

核科学、流行病和气候变化专家,如作家麦克基本(Bill McKibben)也签署了声明。麦克基本曾以1989年的著作《自然的终结》敲响全球变暖的警钟,并在另一本书中对人工智能相关技术提出了警告。

d878bc616f225001976598a18a415611

OpenAI的执行长阿尔特曼也签署了这项宣言,图为今年5月16日他到美国参议院出席听证会。

 

为何担忧AI的安全?

这项声明的序言提到,各界“越来越多地讨论AI带来的广泛、重要和紧迫的风险”,但这仍“很难表达对AI一些最严重风险的担忧”,声明称应就克服这一风险障碍展开讨论,并“为更多的专家和公众人物创造常识,让他们也认真对待一些先进AI最严重的风险”。

声明发布的时机,恰逢美国-欧盟贸易和技术委员会在瑞典举行会议,政治家和科技名人预计近期将讨论人工智能的潜在监管问题。

今年稍早,特斯拉和推特执行长马斯克(Elon Musk)等1000多名研究和技术人员曾签署了一封更长的信函,呼吁各界暂停AI开发6个月,称AI“对社会和人类构成深远风险”。

该封信是对OpenAI发布新人工智能模型GPT-4的回应,但OpenAI、其合作伙伴微软和竞争对手谷歌的领导人,当时都没有签署这份文件。

AI安全中心主任德里克斯(Dan Hendrycks)解释:“我们正试图在这些风险发生之前解决它们,而不是在事后才解决灾难”。

美联社报道,随著新一代高性能AI聊天机器人(如ChatGPT)的兴起,人们越来越担心AI会超越人类并失控,并促使世界各国为开发中的技术制定法规。欧盟已率先拟定了AI法案,预计将于今年内获得批准。

今年4月,中国国家互联网信息办公室也起草了《生成式人工智能服务管理办法》草案,向社会大众公开征求反馈。

 

东西方对AI的态度落差?

美国《外交事务》杂志本週刊载文章指,根据市场调查机构益普索(Ipsos)于2022年发布的一项调查,只有35%的美国人认为AI的好处大于风险,使美国成为世界上对该技术前景最悲观的国家之一。

相比之下,中国是世界上对AI最乐观的国家,近五分之四的中国人相信AI的好处胜过风险。

新美国安全中心(CNAS)的副研究员德雷塞尔(Bill Drexel)和研究助理凯莉(Hannah Kelley)认为,在美国,灾难往往会促使公众意识提高、加强安全措施,因为它们的后果会扩及整个媒体和社会;但在中国,灾难事故很少能通过媒体引起反响,因为政府会为了维稳而封锁资讯。

2名专家指出,中国形成了一种“灾难健忘症文化”,公众很难要求改变,也无法迫使政府从代价高昂的事故中吸取教训。很少有人对错误负责,意味著企业主往往对安全问题视而不见,中国可怕的工业事故历史就是明证。

此外,若美国认识到AI构成的严重威胁,业界和政府可以加倍限制容易武器化的AI商业研究转移到中国,包括利用合资企业和中国投资的技术转让策略。

不过,益普索民调发布的2022年,ChatGPT尚未在全球刮起炫风,美中两国目前对于AI的发展态度或有所变化。

 

Nvidia创办人在台大受欢迎

相较于部分西方专家和企业高层对AI态度的谨慎,亚洲整体对待AI发展的态度似乎较为正面。另一个案例展现在美国AI芯片设计商英伟达(Nvidia,又译辉达)的执行长黄仁勋(Jensen Huang),正在台湾受到明星式的欢迎和接待。

彭博社报道,这位60岁的企业家近期来台参加台北国际电脑展(Computex),週末在台北夜市受到群众追捧,在台北国际电脑展也一直被粉丝和媒体包围。

在台北国际电脑展一场圆桌会议上,黄仁勋谈到AI监管,以及如何在中国等地使用该技术。黄仁勋认为,AI将超越科技业的界限,渗透到从农业、工厂、制药和气候变化的方方面面。

黄仁勋说,“人工智能让每件事看起来都不一样”,并谈到加速运算及生成式AI是现今电脑产业的两大趋势。他直言:“AI将是未来游戏非常重要的一部分。”

但在讨论中国时,他似乎显得态度慎重。他认为,北京将支持AI的发展,并利用这个机会培养本土企业家。

 

玖拾 | 新闻与资源: AI威胁堪比核战!为何担忧?东西方态度有何不同?

了解 玖拾 的更多信息

订阅后即可通过电子邮件收到最新文章。