0
0
收藏
分享

联合国警告:人工智能正被用于诱骗和剥削儿童

浏览量:9545
字号:
-
18
+

东盟头条11月20日电 联合国消息,联合国11月19日警告,人工智能正被侵害者和犯罪团伙用于诱骗、勒索和剥削儿童,而相应保护措施未能跟上技术发展的步伐。

联合国大会11月19日举行高级别活动,讨论人工智能给儿童带来的风险与机遇。

负责暴力侵害儿童问题的秘书长特别代表姆吉德表示:“在社交媒体领域,我们因为应对滞后输掉了这场仗。如今,我们仍然落后,也正在人工智能领域重蹈覆辙。”

儿童影像被用于制作虚假色情内容

联合国常务副秘书长阿明娜·穆罕默德援引儿基会近期研究指出,仅过去一年,11个国家至少有120万名儿童的影像被篡改,制成带有露骨性内容的深度伪造影像。

根据美国“国家失踪及被剥削儿童中心”的数据,2023年至2024年,与生成式人工智能有关的儿童性虐待材料举报量增长了1325%。大量利用人工智能侵害儿童的犯罪仍未被举报,也未得到充分追诉。

聊天机器人被用于获取儿童信任、收集个人信息,并胁迫他们分享露骨影像。一些应用还能将普通照片伪造成裸照,用来羞辱、威胁和剥削儿童。通过分析个人信息、预测行为,侵害者、人口贩运者和犯罪团伙也更容易锁定并接触处境脆弱的儿童。

致力于儿童保护的非营利组织“技术联盟”代表表示,侵害者还可能利用聊天机器人模拟虐待情境,或生成诱骗儿童的话术。

有超过25年儿童剥削案件调查经验的约翰·特雷纳里指出,人工智能能够以自动化方式、大规模地生成虚假内容,使侵害手段不断翻新。调查人员刚掌握一种应对滥用的方式,新的方式就已经出现。

当人工智能成为孩子的“知心朋友” 

人工智能也正以更亲密的方式进入儿童生活。

“数据圈倡议”组织的一名代表回忆,去年在哥伦比亚农村开展数字素养项目时,她请少女们画出自己眼中的互联网。她们画出的却是一个名叫“露西亚”的女孩——她们使用的人工智能助手。

女孩们告诉她:“我们每天都和露西亚聊天。大人不愿回答的问题,我们就去问她。她一直都在,还有亲密模式、闺蜜模式。”

儿童安全不能只依靠企业自觉

穆罕默德常务副秘书长指出,儿童玩具上市前必须经过适当的安全检查,但人工智能系统在接触儿童之前,却没有受到同等严格的审查。

她同时强调,人工智能也能成为保护儿童的工具,帮助识别性虐待材料、确认受害者身份,并尽早发现诱骗儿童的迹象。

今年7月,联合国秘书长古特雷斯发起人工智能儿童安全承诺倡议,目标包括确保人工智能系统在供儿童使用前经过安全验证,并对人工智能生成的儿童性虐待材料实行零容忍。

姆吉德表示,仅靠科技行业自愿采取措施远远不够。人工智能治理需要全球标准,并应强制要求开发者从设计阶段就将儿童安全和隐私保护纳入考量。

编辑:金暹

评论0文明上网理性发言,请遵守《新闻评论服务协议》

avatar
加载评论中...