人工智能的风险

伦敦（美联社）——先进的人工智能系统有可能产生极端的新风险，比如加剧广泛的失业，支持恐怖主义或横行，专家在周三的一份首次国际报告中对该技术带来的一系列危险进行了分类。

《先进人工智能安全国际科学报告》将于下月在巴黎举行的重要人工智能峰会之前发布。这份报告得到了包括美国和中国在内的30个国家的支持，标志着两国在争夺人工智能霸主地位的过程中罕见的合作。本周，尽管美国向中国提供了先进的芯片，但中国一家初创公司却以其廉价的聊天机器人震惊了世界。

领导这项研究的著名人工智能科学家约书亚·本吉奥（Yoshua Bengio）表示，由一组独立专家撰写的这份报告是对现有研究的“综合”，旨在帮助指导官员为这项快速发展的技术制定防护措施。

报告称：“风险很高。”报告指出，虽然几年前最好的人工智能系统几乎不能吐出一个连贯的段落，但现在它们可以编写计算机程序，生成逼真的图像，并进行长时间的对话。

虽然人工智能的一些危害已经广为人知，比如深度造假、诈骗和有偏见的结果，但该报告称，“随着通用人工智能变得更有能力，额外风险的证据正在逐渐出现”，而风险管理技术仅处于早期阶段。

本周，谷歌及其背后的组织对人工智能发出了警告。

该报告侧重于通用人工智能，以聊天机器人为代表，如OpenAI的ChatGPT，用于执行许多不同类型的任务。风险可分为三类：恶意使用、故障和广泛的“系统性”风险。

本吉奥和另外两位人工智能先驱在2019年获得了诺贝尔奖，他表示，参与报告的96名专家并不都对人工智能未来的发展抱有一致看法。人工智能研究界最大的分歧之一是，这项快速发展的技术何时会在各种任务上超越人类的能力，以及这意味着什么。

本吉奥说：“他们对情景也存在分歧。”“当然，没有人有水晶球。有些场景是非常有益的。有些是可怕的。我认为政策制定者和公众评估这种不确定性非常重要。”

研究人员深入研究了可能存在的危险的细节。例如，人工智能使学习如何制造生物或化学武器变得更容易，因为人工智能模型可以提供一步一步的计划。但报告称，目前尚不清楚他们如何应对武器化和运送这些制剂的实际挑战。

报告称，通用人工智能也可能改变一系列工作岗位，并“取代工人”。报告指出，一些研究人员认为，人工智能创造的就业机会可能比它夺走的就业机会更多，而另一些研究人员则认为，它将压低工资或就业率，尽管它将如何发挥作用还存在很多不确定性。

报告称，人工智能系统也可能失控，要么是因为它们积极破坏人类的监督，要么是因为人类不太关注。

然而，作者表示，许多因素使得管理风险变得困难，包括人工智能开发人员对他们的模型如何工作知之甚少。

该报告是在2023年11月主办的首届人工智能安全全球峰会上发布的，各国同意共同努力，遏制潜在的“灾难性风险”。在去年举行的后续会议上，人工智能企业承诺开发人工智能安全，世界各国领导人支持建立公共人工智能安全研究所网络。

这份报告也得到了联合国和欧盟的支持，旨在应对政府的变化，比如最近美国总统的过渡，让每个国家选择如何应对人工智能风险。唐纳德·特朗普总统在上任的第一天就废除了前总统乔·拜登的人工智能安全政策，并指示他的新政府制定自己的方法。但特朗普没有采取任何行动来解散拜登去年成立的人工智能安全研究所，该研究所是不断壮大的此类中心国际网络的一部分。

2月10日至11日，世界各国领导人、科技公司老板和民间团体将再次齐聚巴黎人工智能行动峰会。法国官员表示，各国将签署一份关于人工智能发展的“共同宣言”，并同意就人工智能技术的可持续发展做出承诺。

本吉奥表示，该报告的目的不是“提出一种评估系统或其他东西的特定方法”。作者没有对特定风险进行排序，也没有提出具体的政策建议。相反，他们列出了有关人工智能的科学文献所说的“一种政策制定者可以理解的方式”。

他说：“我们需要更好地了解我们正在建立的系统，以及随之而来的风险，这样我们才能在未来做出更好的决定。”

＿＿

美联社科技记者马特·奥布莱恩在罗德岛普罗维登斯为本报道做出了贡献。