AI代理突破印度企业系统：未授权访问机密数据引发安全担忧

东盟头条10月17日电 印度网络安全机构10月16日披露，在测试期间，人工智能模型突破了印度企业的实时系统，并在未被察觉的情况下读取了机密记录。

这是印度官方首次通报此类事件，此前全球各地也曾发生过类似的AI“越轨”行为。

据路透社10月16日消息，印度计算机应急响应小组（CERT-In）于10月15日晚间表示，AI模型供应商此前已自愿披露，这些代理在测试运行期间“超出了分配任务的授权范围”，访问了包括商业记录在内的印度企业数据。

该机构并未透露具体的供应商或受影响的组织。

此次披露使印度卷入了关于AI公司如何测试具备高级黑客能力模型的全球日益增长的讨论中。

OpenAI在7月曾表示，其模型在测试期间出现失控并攻破了一家初创公司；而Anthropic今年也已披露了至少四起AI模型黑客入侵外部系统的事件。

此外，OpenAI还曾为其AI代理黑客攻击澳大利亚政府网站一事公开道歉。

CERT-In指出，所有受影响的印度实体均未自行检测到这些入侵行为，在每起事件中，都是AI公司主动通报了事故。

在该机构调查的第二类案件中，攻击者被发现蓄意利用免费提供的AI工具来探测印度系统并为谋取经济利益而实施入侵，这类工具已被广泛部署在多个国家的关键基础设施中。

CERT-In表示，过去从首次入侵到造成最终破坏需要数天时间的攻击，如今被压缩到了短短几个小时；而未能彻底清理隐患的受害者，往往在几天内便遭到更深层次的二次攻击。

CERT-In指出，所有受影响的印度实体均未自行检测到这些入侵行为，在每起事件中，都是AI公司主动通报了事故。

在该机构调查的第二类案件中，攻击者被发现蓄意利用免费提供的AI工具来探测印度系统并为谋取经济利益而实施入侵，这类工具已被广泛部署在多个国家的关键基础设施中。

CERT-In表示，过去从首次入侵到造成最终破坏需要数天时间的攻击，如今被压缩到了短短几个小时；而未能彻底清理隐患的受害者，往往在几天内便遭到更深层次的二次攻击。