美国国务院委托的一份新报告揭示了人工智能不断发展所带来的“灾难性”国家安全风险，并警告称，联邦政府避免灾难的时间已所剩无几。该调查基于对200多位受访者的采访，包括领先人工智能公司的高管、网络安全研究人员、大规模杀伤性武器专家和政府内部的国家安全官员。这份报告由Gladstone AI发布，毫不掩饰地指出，在最糟糕的情况下，最先进的人工智能系统“可能对人类物种构成灭绝级威胁”。
一位美国国务院官员向CNN确认，该机构委托了这份报告，因为它持续评估人工智能如何与保护美国在国内外利益的目标相符。然而，该官员强调，该报告并不代表美国政府的观点。该报告中的警告再次提醒人们，尽管人工智能的潜力持续吸引投资者和公众，但也存在着真正的危险。
Gladstone AI的首席执行官兼联合创始人杰里米·哈里斯（Jeremie Harris）在3月12日（周二）告诉CNN：“人工智能已经是一项具有经济变革性的技术。它可以促进疾病治愈、科学发现，以及克服我们曾经认为不可逾越的挑战。但它也可能带来严重的风险，甚至是灾难性的。我们需要意识到这一点。越来越多的证据——包括发表在世界顶级人工智能会议上的实证研究和分析——表明，在某种能力的阈值以上，人工智能可能变得难以控制。”白宫发言人罗宾·帕特森（Robyn Patterson）表示，拜登总统关于人工智能的行政命令是“世界上任何政府为抓住人工智能的前景并管理其风险而采取的最重要的行动”。帕特森说：“总统和副总统将继续与我们的国际伙伴合作，并敦促国会通过两党立法，以管理与这些新兴技术相关的风险。”
“明显且迫切需要”进行干预
研究人员警告人工智能广泛存在两个核心危险。首先，Gladstone AI指出，最先进的人工智能系统可能被用作武器，带来潜在的不可逆转的伤害。其次，报告称，人工智能实验室内部存在私人担忧，即他们在开发的系统失控的可能性，“可能对全球安全造成毁灭性后果”。该报告称：“人工智能和通用人工智能的崛起有可能在全球安全方面引发不稳定，方式类似于核武器的引入。”报告补充说，存在人工智能“军备竞赛”的风险、冲突和“具有大规模杀伤性的致命事故”。Gladstone AI的报告呼吁采取大胆的新步骤，以应对这一威胁，包括启动新的人工智能机构，实施“紧急”的监管保障措施，以及限制用于训练人工智能模型的计算机算力。报告的作者在报告中写道：“美国政府显然迫切需要进行干预。”
安全顾虑
Gladstone AI的高管哈里斯表示，他们团队与公共和私人部门的官员之间的“前所未有的接触”导致了惊人的结论。据Gladstone AI称，他们与ChatGPT所有者OpenAI、Google DeepMind、Facebook母公司Meta和Anthropic的技术和领导团队进行了交谈。哈里斯在一段发布于格莱斯顿人工智能公司网站上的视频中说：“在这个过程中，我们学到了一些令人深思的东西。在高级人工智能领域，幕后的安全和保障状况似乎相当不足，与人工智能可能很快引入的国家安全风险相比。”Gladstone AI的报告称，竞争压力正在推动企业“以牺牲安全和保障为代价”加速人工智能的发展，这增加了最先进的人工智能系统可能被“窃取”并“武器化”以针对美国的前景。
这些结论增加了关于人工智能存在的灭绝性风险的警告数量，甚至包括一些行业中最有影响力的人士的警告。大约一年前，被称为“人工智能教父”的杰弗里·辛顿（Geoffrey Hinton）辞去了谷歌的工作，并公开表达了对这项技术的担忧。辛顿曾表示，人工智能在未来30年内导致人类灭绝的可能性为10%。去年6月，辛顿和其他数十位人工智能行业领袖、学者和其他人签署了一份声明，称“减轻人工智能带来的灭绝风险应该是全球的优先事项。”商业领袖对这些危险越来越担忧，即使他们将数十亿美元投入到人工智能的投资中。去年，在耶鲁大学CEO峰会上接受调查的CEO中，42%的人表示，人工智能有可能在5到10年后摧毁人类。
人类学习的类人能力
Gladstone AI在其报告中指出，一些知名人士已经警告过人工智能带来的生存风险，包括埃隆·马斯克（Elon Musk）、联邦贸易委员会主席莉娜·汗（Lina Khan）和OpenAI公司的前高管。此外，Gladstone AI还表示，一些人工智能公司的员工在私下也分享了类似的担忧。报告称：“一位知名人工智能实验室的个人表示，如果某个特定的下一代人工智能模型以开放获取的方式发布，那将是‘非常糟糕的’，因为该模型的潜在说服力可能会‘破坏民主’，如果它们在选举干扰或选民操纵等领域得以利用。”
Gladstone表示，他们要求人工智能领域的专家们私下分享他们对2024年人工智能事件可能导致“全球和不可逆转的影响”的个人估计。报告称，这些估计在4%到20%之间，表明这些估计是非正式的，可能存在很大的偏差。其中最大的不确定因素之一是人工智能的发展速度——特别是AGI（人工智能通用），这是一种假设的人工智能形式，具有类似甚至超越人类的学习能力。报告指出，AGI被视为“失去控制带来灾难性风险的主要驱动因素”，并指出OpenAI、Google DeepMind、Anthropic和Nvidia都公开表示AGI可能在2028年之前实现，尽管其他人认为这还要远得多。
（图片源于CNN）
未经允许不得转载：城市新闻网icitynews » 美国国务院警告！AI或成为人类“灭绝级”威胁，迫切需要政府干预
