埃隆·马斯克等科技领袖呼吁暂停人工智能系统的培训

一群科技行业高管和学者签署了一封公开信，呼吁暂停至少六个月的大型公开人工智能实验。信中写道，研究人工智能的公司“陷入了一场失控的竞赛，开发和部署更强大的数字思维，没有人——甚至包括它们的创造者——能够理解、预测或可靠地控制。如果这样的暂停不能迅速实施，政府就应该介入并实施暂停。”这封信警告了潜在的世界末日情景。“我们是否应该开发出在数量上、智力上可能最终超过我们、被淘汰并取代我们的非人类思维？我们应该冒着失去对我们文明控制的风险吗？此类决定不得委托给未经选举的技术领导者。”

SpaceX和特斯拉首席执行官埃隆·马斯克（Elon Musk）、苹果公司联合创始人史蒂夫·沃兹尼亚克（Steve Wozniak）、IBM首席科学家格雷迪·布奇（Grady Booch）、稳定AI首席执行官埃马德·莫斯塔克（Emad Mostaque）和技术伦理学家特里斯坦·哈里斯（Tristan Harris）都签署了这封信，该信于3月29日（周三）上午发布。签署该协议的学者包括加州大学伯克利分校人类兼容人工智能中心主任斯图尔特·拉塞尔（Stuart Russell）、耶路撒冷希伯来大学历史学家尤瓦尔·诺亚·哈拉里（Yuval NoahHarari）和剑桥大学生存风险研究中心执行主任肖恩·奥海格泰（Sean O’Heigeartaigh）。

几十年来，对先进人工智能的担忧一直是科幻小说作者的素材，并在电影中成为主流，比如以世界末日为主题的《终结者》（Terminator）系列，甚至是更微妙的《她》（Her）。现在，随着现代人工智能发展的速度甚至让那些接近它的人都感到震惊。OpenAI首席执行官山姆·奥德曼（Sam Altman）多次呼吁对该行业进行监管，尽管他不在公开信的第一轮签署人之列。越来越多的技术专家开始警告说，现在是时候采取行动了。

可供公众使用的人工智能工具的流行度和功能都在飞速增长。ChatGPT是一个非常熟练的聊天机器人，它可以流利地使用语言，但在准确性方面存在困难，从某些指标来看，它在今年1月成为历史上增长最快的消费者应用程序。两个月后，它的母公司OpenAI发布了新版本的人工智能软件。谷歌、微软和Snapchat等科技公司纷纷将这种技术纳入自己的平台。行业监管机构警告说，这些公司正在对公众有效地测试新技术，而它们背后的公司在部署这些技术时没有考虑更广泛的后果，比如它们可能会如何扰乱劳动力市场。虽然许多人都认为人工智能行业正在危险地快速前进，但一些伦理学家批评这封信只关注人工智能理论上的、最终的危害。

研究人工智能技术如何影响社会的非营利组织AI Now Institute的常务董事莎拉·迈尔斯·韦斯特（Sarah Myers West）表示，这封信忽略了人工智能行业的一些主要问题。她表示，像谷歌和微软这样的公司准备主导美国人工智能市场，这项技术可能会让大量创意工作者失业，而且这些公司夸大了他们产品的功能。上个月，美国联邦贸易委员会警告现有的人工智能公司，不要对其产品做出可能不实的声明。“把注意力集中在假设的和长期的风险上，会分散我们此时此刻所需的监管和执法。”迈尔斯·韦斯特说。

未经允许不得转载：城市新闻网icitynews » 埃隆·马斯克等科技领袖呼吁暂停人工智能系统的培训