联合国聚焦人工智能风险 OpenAI与Anthropic负责人呼吁加强警惕与合作
多家人工智能企业的负责人周三(9月23日）在联合国表示，人工智能的发展需要更高程度的警惕。Anthropic首席执行官达里奥·阿莫迪甚至承诺，必要时将单方面放慢研发速度。
发表时间： 更改时间：
6 分钟 浏览时间
OpenAI首席执行官萨姆·奥特曼在纽约向联合国安理会介绍情况时警告，人工智能目前的发展“需要极度关注”。他说：“随着人工智能研发过程越来越自动化，其性能提升的速度可能迅速加快。”
奥特曼与阿莫迪、人工智能平台Hugging Face的法国籍负责人克莱芒·德朗格一道，应邀向安理会介绍这项技术的发展现状及其风险。此次安理会会议由法国倡议召开，正值外界对人工智能发展方向的担忧日益加深。多名业内人士警告，人工智能可能对人类的未来构成威胁。
奥特曼表示：“我们不想落入盲目乐观的陷阱，但也不能陷入灾难论。……因此，我们将尽最大努力寻找一条中间道路。”他再次呼吁各国就人工智能展开合作。“历史上曾有一些时刻，彼此竞争、甚至并不友好的国家，面对一项新技术，仍能为了共同利益达成一致。现在也必须再次做到这一点。”
“必要时尽可能放慢”
奥特曼、阿莫迪及其他多家人工智能企业的负责人呼吁，对这项技术建立全球性的监督机制。
周一，包括加拿大、德国和澳大利亚在内的20多个国家的领导人主张加强监管，并提出可考虑在联合国框架下设立国际监管机构。周二，英国首相伯纳姆表示，希望在英国担任2027年二十国集团轮值主席国期间，推动制定人工智能安全标准。
不过，各国协调规则的外交努力可能很快遭遇阻力。美国反对任何形式的超国家监管。
法国外交部长巴罗周三在安理会会议上仍提议：“让我们在联合国框架下与企业携手，为这个新时代制定规则。”他主张“立即加强防护措施，建立全球人工智能治理机制”，以维护集体安全和人的尊严。
在外交领域取得进展之前，多家行业巨头正着手调整自身的风险管理机制。阿莫迪在安理会承诺，Anthropic将“在必要时尽可能放慢”人工智能研发速度，“确保”每一款新上市的模型都“真正安全”。
这是他首次单方面承诺放慢研发。十天前，他曾呼吁人工智能行业的主要企业协调放慢步伐，但这一倡议迄今尚未付诸实践。
奥特曼则表示：“行业不能仅仅因为收益过于可观、过于重要，就接受过高的技术风险。”不过，他并未在发言中明确承诺放慢研发速度。
KioskNews shows a cleaned-up reading view extracted from the publisher’s page — the original always lives on their site, not ours.