跳至正文

AI或两三年内产生自我意识,如何防止它威胁人类?

” 发展 ChatGPT 并不是几家互联网公司竞争的问题,而是决定了中国未来在下一次产业革命里能不能有这个技术的积淀。” 全国政协委员、三六零集团创始人周鸿祎告诉时代周报记者。

周鸿祎已连续两届当选全国政协委员,” 安全 ” 一直是他的提案关键词。近期,ChatGPT 的巨大突破引发广泛讨论,周鸿祎不止一次地公开畅谈 ChatGPT 发展前景,也表达对人工智能安全的担忧。

在周鸿祎看来,ChatGPT 或大语言模型是人工智能发展的里程碑。它是通用人工智能的起点,也是强人工智能的拐点,因而 ChatGPT 会带来一场强人工智能或者通用人工智能为驱动力的工业革命。

ChatGPT 不仅是搜索引擎的加强版,也不止是一款聊天机器人。它通过 SaaS 方式所提供的人工智能服务,将重塑所有的数字化应用和行业。周鸿祎称,” 在这个领域,我们能迎头赶上。”

今年全国两会,周鸿祎提交提案,呼吁面对 ChatGPT 为代表的人工智能大模型技术的巨大跃升,我国理应奋起直追。人们在关注技术层面创新的同时,更要关注技术突破背后所依赖的创新模式。

be0a22561396ca9b16f4dfd533436f54

三六零集团创始人周鸿祎

推动人工智能大模型技术创新发展

ChatGPT 引发全球热议,周鸿祎今年的一份提案即关于 ChatGPT 为代表的人工智能大模型技术。

” 我们要在研究过程中找到产业发展规律。” 周鸿祎表示,比如,ChatGPT 为什么在美国能成功?为什么是美国人率先做出来?为什么 OpenAI 和微软能合作?” 弄清楚这些问题可以推动相关部门制定有利于诞生中国版 ChatGPT 的政策引导,推动中国的大学、科研机构和产业公司结合。” 周鸿祎说。

” 我们不能只看到它的大模型参数有多高。” 周鸿祎强调,最重要的是保持良好开放的合作文化。周鸿祎在提案中总结了 ChatGPT 成功的三点关键要素——首先是 ” 微软 +OpenAI” 的产研协同模式,其次是基于开源和众包的开放创新模式,最后是以通用大模型为中心的生态创新模式。

097c98db719edbaea8bcce9dbd0059d9

图源:图虫创意

周鸿祎建议,要建立 ” 大型科技企业 + 重点科研机构 ” 的产研协同创新模式,打造中国的 ” 微软 +Open AI” 组合,引领大模型技术攻关;从建设国家战略科技力量高度出发,筛选技术基础好的产研机构,组成优势互补的产业协同组合,发挥科研机构在关键核心技术上的研究优势;同时发挥大型科技企业在产品化、工程化、场景化、商业化和数据化方面的优势,成为大模型技术攻关和应用的引领龙头。

他还提出,支持设立多个国家级人工智能大模型的长期开源项目,打造开源众包的开放创新生态。周鸿祎认为,人工智能大模型不应成为少数公司垄断的高级技术,要最大程度地发挥出产业和社会价值。

围绕如何推进人工智能大模型技术创新发展,周鸿祎提议,针对多条技术路线以开源模式设立多个国家级长期项目,以 ” 大型科技企业 + 重点科研机构 ” 为龙头,通过开源、合作、众包和生态的创新模式,引导高校、科研机构和创新型企业形成多个技术路线的创新生态群。这一方面可以降低技术路线选择错误带来的风险,另一方面也避免技术成果垄断在少数机构手中,促进更大广度的科技创新和产业发展。

不发展才是最大的不安全

ChatGPT 带动一波创业热潮。美团联合创始人王慧文、原京东技术委员会主席周伯文、原搜狗 CEO 王小川等陆续宣布下场,进军这一前沿领域。

科技大佬复出江湖,阿里、腾讯、百度、字节等互联网大厂接连发声表态,将加大对人工智能的投入。热潮之下,中国版人工智能语言大模型和类 ChatGPT 产品的出现,只是时间问题。

OpenAI 率先研发出 ChatGPT,做对了哪些事?

周鸿祎认为,OpenAI 利用了大量的开源算法、论文,将各种开源成果巧妙结合在一起,并与微软合作,解决了工程化、算力、数据、产品体验、商业模式等问题。其次,OpenAI 像苹果建 App Store 生态一样,基于 ChatGPT 培育垂类应用。此外,用户流量也很重要,吸引用户使用的同时,还能基于人工标注的强化学习,喂养调试大语言模型。最后,OpenAI 有长期主义精神,有格局去做改变人类的通用人工智能创新。

在周鸿祎看来,中国互联网公司的工程化能力强,技术落地能力强。” 现在,ChatGPT 已做出了样本,有开源技术做基础,并不存在难以逾越的障碍,剩下的就是时间问题。” 周鸿祎坚信,” 在国家鼓励性政策的支持下,我国能用两三年时间达到比较好的跟随水平。”

人工智能语言大模型有着较高进入门槛,这主要体现在技术和资金两方面。

中信建投研报指出,Transformer 在网络结构上的进化带来了参数量和模型层数的提高,引起了生成式 AI 技术能力的质变;同时并行化优势允许其在更大的数据集上进行训练,这也促成了 GPT 等预训练模型的发展。

至于 ChatGPT 为何会能够对答如流,周鸿祎告诉时代周报记者,给 ChatGPT 喂养的训练语料很重要。他指出,此前人们错误的认为机器人既然是和人聊天,应该要学习聊天素材。实际上,社交工具所产生的聊天素材,知识含量很低。

” 我们聊天的时候,没有人在讲知识,都是互相抬杆,俏皮话、无厘头的话非常多。” 他解释道,这样训练出来的聊天机器人何止 ” 人工智障 “,还是 ” 人工杠精 “,对话毫无逻辑。

ChatGPT 回避了这类语料,就像一个人不一定善于表达,但是饱读诗书,表达儒雅、有逻辑,大家愿意和这样的人聊天。周鸿祎强调,给 ChatGPT 喂养高质量的语料极为关键。

101cdacf60fb5fd8d49cf095658c7e1c

图虫创意

人工智能技术推动社会进步,也暗藏风险。

周鸿祎担忧,假如让 ChatGPT 不限定输入语料,随意获取搜索、浏览互联网上的知识,有自主意识的 GPT 会不会在看完类似《终结者》的电影后,产生与人类为敌的想法?

产生意识之后,ChatGPT 第二步可能进化出 ” 眼睛 “、” 耳朵 “、” 手 ” 以及 ” 脚 “。目前,GPT 还只有 ” 大脑 “,如果加上 ” 眼睛 ” 和 ” 耳朵 “,能看懂人类的各种图像、视频,听懂各种音频,知识存储将突飞猛进,智能化水平也将大幅提升。

未来,ChatGPT 接入互联网的 API,进入万物互联时代,无疑相当于拥有了 ” 手 ” 和 ” 脚 “,间接拥有了操控世界的能力。届时,ChatGPT 不仅可以在网页上购买机票,可以打车、订外卖,甚至可以通过网页操纵各种物联网设备。

最后,ChatGPT 或许能实现自我进化。目前,ChatGPT 只会写一些简单代码。有一天,当它的代码能力提升之后,是否可以自动查阅自身代码,修正升级代码,甚至重新编译一个新的版本?如果这样,它就拥有了自我学习和进化的能力,实现了机器人制造机器人的前景。

周鸿祎坚持认为,不发展人工智能才是最大的不安全。” 人类是否会因此走入毁灭犹未可知。但是,我们不能因此就不发展技术,而是要知道技术的底线和边界在哪,从而去规范技术向着正确的方向发展。” 周鸿祎说。

玖拾-时事与资源: AI或两三年内产生自我意识,如何防止它威胁人类?

了解 玖拾 的更多信息

订阅后即可通过电子邮件收到最新文章。