首页 › 社会 › 查看内容

人工智能技术发展太快了？千人联名信吁暂停研究

时间: 2023-3-29 14:31| 来源: 美国中文网|评论: 发表评论分享到微信

摘要: 美国中文网报道周三，1千多名对人工智能持批评态度的人士——从行业高管、学者到技术专家——签署了一封公开信，呼吁至少暂停6个月的大型开放性人工智能实验。

网页截图

美国中文网报道周三，1千多名对人工智能持批评态度的人士——从行业高管、学者到技术专家——签署了一封公开信，呼吁至少暂停6个月的大型开放性人工智能实验。

信中写道，研究人工智能的公司“陷入了一场失控的竞赛，开发和部署更强大的数字思维，没有人——甚至他们的创造者——能够理解、预测或可靠地控制该技术。如果不能主动迅速暂停研发，政府就应该介入，要求暂停。”

这封信警告了潜在的世界末日情景。

信中问道：“我们是否应该开发出非人类的思想，最终可能会在数量上超过我们，比我们聪明，把我们淘汰，甚至取代我们？我们是否应该冒着失去对文明的控制的风险？这样的决策决不能委托给未经选举产生的技术领导者。”

SpaceX和特斯拉首席执行官马斯克、苹果联合创始人史蒂夫·沃兹尼亚克（Steve Wozniak）、IBM首席科学家格雷迪·布奇（Grady Booch）、稳定性人工智能公司首席执行官伊马德·莫斯塔克（Emad Mostaque）和技术伦理学家特里斯坦·哈里斯（Tristan Harris）都签署了这封信。

签署这封信的学者包括加州大学伯克利分校人类兼容人工智能中心负责人斯图尔特·罗素（Stuart Russell）、耶路撒冷希伯来大学历史学家尤瓦尔·诺亚·赫拉利（Yuval Noah Harari）和剑桥大学生存风险研究中心执行主任肖恩·奥黑吉尔泰（Sean O’Heigeartaigh）。

目前，公众可以使用的人工智能工具在普及和能力方面都在飞速发展。ChatGPT是一个非常熟练的聊天机器人，可以流利地使用语言，但在准确性上仍遇到困难。根据一些数据，ChatGPT在今年1月成为历史上增长最快的消费应用程序。两个月后，其母公司OpenAI发布了新版本的人工智能软件。谷歌、微软和Snapchat等科技公司纷纷将此类技术纳入自己的平台。

行业监管机构警告称，这些公司实际上是在普通公众身上测试新技术，而这些公司在部署这些技术时没有考虑更广泛的后果，比如扰乱劳动力市场等问题。就连OpenAI的首席执行官山姆•奥特曼（Sam Altman）也一再呼吁对该行业进行监管，尽管他并不是这封公开信的首批签名者之一。

虽然很多人都认为人工智能行业正在以危险的速度向前发展，但一些伦理学家批评这封信只关注人工智能理论上的终极危害。萨拉•迈尔斯•韦斯特（Sarah Myers West）是研究人工智能技术如何影响社会的非营利组织“人工智能现在研究所”（AI Now Institute）的董事总经理。她说，这封信忽略了人工智能行业的一些主要问题。

她说，像Google和微软这样的公司志在主导美国人工智能市场，这项技术可能会让大量创意工作者失业，而且这些公司过度宣传他们的产品能做什么。上个月，联邦贸易委员会（Federal Trade Commission）警告人工智能公司，不要对自己的产品做虚假的声明。

（编辑：张月如）