联合国人权高专呼吁采取紧急行动应对前所未有的人工智能风险

东盟头条9月15日电 联合国消息，联合国人权事务高级专员蒂尔克9月14日呼吁各国及全球“前沿”人工智能企业采取紧急行动，确保有实质意义的人工智能治理能够跟上其加速发展的步伐，并应对其对人权构成的前所未有的风险。

这位高级专员在致各国及人工智能开发者的一封公开信中表示：“我们正处于不可逆转的变革边缘，这不仅影响我们这一代人，更将影响未来几代人。”

蒂尔克表示，当前向日益强大的人工智能发展的竞赛，正使生活的方方面面面临更大的生存风险。

他指出，涉及自主人工智能系统的故障可能导致基本服务瘫痪、通信中断、关键基础设施不稳定，并直击民主制度的核心。

他说：“整个人口可能被切断清洁用水、供暖和金融服务，而具有自主行为能力的人工智能已经在加速战争的节奏和范围，并侵蚀着阻隔我们与大规模杀伤性武器发射之间的安全保障。”

这位高级专员强调，监管人工智能的窗口期十分有限，我们的命运将主要取决于当下关于人工智能如何设计、部署和治理所作出的选择。

蒂尔克说：“人工智能造成的危害并非假设——它们已经发生，且正处于风口浪尖。”

他指出，基本服务的自动化正在以某种方式进行，使边缘群体进一步被抛在后面；对数据和强大新监控工具的渴求正在大规模侵蚀隐私，且可能无法逆转；由人工智能驱动的虚假信息宣传活动正在以隐蔽的新方式扭曲公共辩论、破坏社会凝聚力，并给民主制度带来压力。

© Unsplash 广告中的人工智能可能加速全球信息完整性危机。

人权事务高级专员表示，处于前沿人工智能开发前沿的企业既有责任也有能力立即采取行动以降低风险。

他在信中写道：“必须制定、在整个行业实施并持续完善包含公认安全标准的健全人权尽职调查机制。这些标准的实施必须接受内部独立监督，以提高透明度和问责制。”

蒂尔克强调，拥有领先前沿人工智能企业的国家负有特殊义务，必须要求这些企业负责任地行事，并在其未履行责任时追究其责任。

他呼吁各国确保对代理能力进行独立且具备技术能力的验证，包括获取模型、文档和测试环境的权限，并强制要求持续开展人权尽职调查。

他在信中写道：“鉴于事关重大，且考虑到我们当前所处的境况，我呼吁各国和各公司通过多边论坛紧急行动起来，以国际人权法为基础，为治理先进的前沿人工智能模型制定行动路线。”

他说：“没有任何一个国家能够单独治理这项技术。任何企业都不应独自决定世界必须承受哪些风险。任何人都不应被迫以牺牲人权为代价来换取所谓的技术进步。”

他表示：“如今步入成年的这一代人，将在无法参与决策的情况下，承受因这一问题所作决定带来的后果。我们有责任确保这些决定是在公开透明、充分考虑其权利，并以这项事业的宏大格局所要求的谦逊态度下做出。”