Blog Detail

IT之家9月22日消息，根据彭博社的报道，联合国秘书长再次发出呼吁，要求对人工智能进行监管，以防止出现企业权力膨胀、杀人机器人横行的反乌托邦局面。

安东尼奥·古特雷斯在联合国大会上向各国领导人发表其任期内的最后一次讲话，警告人工智能带来的各种风险。他指出，前沿大模型的快速发展可能削弱主权国家的治理能力。

“我们正目睹权力大规模从各国政府手中转移到少数私营企业和个人手里。”古特雷斯在周二发言时呼吁达成国际共识，建立全新的人工智能安全保护机制。

“这项技术发展速度极快，其全部影响超出我们的理解范围。”他补充道。

据IT之家了解，这位77岁的联合国领导人已掌舵联合国十年。他描述了一幅暗淡的世界景象：战争不断、饥饿被用作武器、气候变化加剧，人权和法治持续遭践踏。他特别指出，人工智能和数据中心军备竞赛已成为剧烈变革时代的关键因素。同时，他含蓄地提及中美两国，呼吁建立约束机制，确保这项技术安全发展。

“拥有最强人工智能能力的政府，对全人类负有最大责任，应该搭建对话、透明互信和合作的沟通渠道。”他表示。

就在研究人员向顶尖AI开发企业发出警告，如果不加以控制，人工智能可能导致人类灭绝之后，各国领导人齐聚纽约参加联合国年度大会，各界的担忧情绪不断升温。

2022年凭借ChatGPT开启人工智能时代的OpenAI，在周一呼吁制定国际认可的标准，保障人工智能安全研发。

同样在周一，联合国人工智能专家小组发布一份报告，警告能力越来越强的模型可能脱离人类控制；二十多个国家和欧盟的领导人呼吁对先进人工智能模型实施强制性安全测试，甚至可以考虑设立新的全球性机构，确保人类始终掌握控制权。

在人工智能政策辩论中，美国总统特朗普的立场十分独特，与主流意见相左。特朗普反对放缓AI发展速度的呼吁。他认为一旦放慢脚步，中国就可能在这场技术竞争中反超美国，夺取行业主导地位。

“谁拿下人工智能，谁就赢得一切！”特朗普在周一社交媒体上发帖写道，“现在我们领先中国和其他所有国家，而我会守住这个优势！”

今年，一股庞大的AI基础设施投资浪潮推动标普500指数屡创新高；在美国11月中期选举来临之前，人工智能投资也助力维持该国经济增长。

特朗普将外界对人工智能的警告类比为对全球变暖的担忧，并称“人工智能威胁人类”这类说法纯属骗局。

美国国务卿马可·卢比奥在周二早晨接受福克斯新闻采访时表示：“总统的态度是，没错，如果人工智能确实会带来伤害，我们必须保护本国免受其害。但我们绝对不能放弃人工智能领域的前沿地位。这件事势不可挡；既然发展大势已定，我们就应当从中获益，并保持领先。”

古特雷斯几乎在其整个任期内，始终对人工智能风险发出警告。2017年，他首次在联合国大会开幕致辞时表示，人工智能既可以助力发展，极大改善民众生活，同时也会给劳动力市场、全球安全乃至“整个社会结构”带来巨大冲击。

时隔九年后，他发出的警告更为紧迫。如今风险已不再局限于就业冲击和贫富分化：自主性持续增强的AI模型可能出现非预期行为；人工智能还可以被用来发起网络攻击、协助研发生物武器。

“问题不在于技术本身；真正的危险是缺乏问责约束的技术。”他说，“人类正越来越多地把权力交给机器。人工智能可能失控，致命自主武器也已经从科幻设想一步步走入军事现实。”

“杀人机器人绝对不应该出现在我们的未来。”他补充说道。