智能体异常抓取高德地图数据 腾讯:加强监控

2026-10-18 05:16:04 大公报
字号
放大
标准
分享

【大公报讯】据观察者网报道:腾讯混元16日发布声明,正式回应此前AI智能体反复尝试绕过高德地图访问限制的调查,承认公司在评估第三方AI模型期间,部分智能体出现非预期网页浏览行为。腾讯表示,相关活动来自对第三方模型评估,而非腾讯混元模型。经过内部审查,公司没有发现智能体蓄意针对特定平台或相互协同行动的证据。「我们高度重视这些调查结果,正在加强网络访问控制和智能体监控。」腾讯在声明中表示,公司将继续致力于开发安全、负责任的人工智能,并感谢研究社区提供反馈。

据此前报道,由多国AI安全研究人员组成的独立团队Swarmchasers发布调查报告,发现9月28日至10月8日期间,一批运行在腾讯云环境中的AI智能体累计进行2600余次高德地图数据提取尝试。这些智能体原本只被用于查询动物园、公园等场所的出入口信息及导航到达比例。正常访问受阻后,部分智能体尝试借助第三方网站执行代码、使用公开泄露的API密钥,甚至探测阿里巴巴相关预生产环境的接口。虽然多数尝试以失败告终,但部分智能体通过第三方服务或泄露的API凭据成功获取地图数据。研究人员没有发现它们成功进入阿里巴巴内部系统的证据。

研究团队通过公开安全扫瞄纪录、网络请求日志和智能体使用的临时收件箱,将相关活动追溯至腾讯云基础设施。Swarmchasers此前援引消息人士称,相关活动由腾讯内部独立于混元模型研发团队的评测研究团队开展,是一项临时研究,现已结束。

腾讯在此次声明中并未披露评测涉及的具体第三方模型、智能体网络访问权限及相关非预期行为产生的具体原因。此外,Swarmchasers还修改完整调查报告的标题,将原来「We found a Chinese fleet」(我们发现了一支中国智能体集群)改为「We found a Tencent agent fleet」(我们发现了一支腾讯智能体集群)。研究团队在编辑说明中解释,修改标题旨在明确此次事件责任归属。

内地AI企业正加强相关安全研究。10月14日,字节跳动Seed团队宣布成立新部门,重点研究模型安全与对齐、自动化安全测试、智能体行为监控和未来风险应对等问题。