科企推AI代理监控 防敏感资料外泄
- 字号
- 放大
- 标准

【大公报讯】以人工智能(AI)支援大规模合规营运的基础设施Sumsub宣布,扩展Know Your Agent(了解你的代理,简称KYA)框架,推出KYA Module for MCP解决方案,协助企业界定其开发或部署的AI代理在内部系统中的资料存取及操作权限,当中包括自行开发或在Claude、ChatGPT等模型上建立的AI代理。
Sumsub亚太区政府事务主管陈崇轩表示,AI代理在连接档案储存系统、通讯平台及金融系统后,往往需要广泛的存取权限以完成任务,不过,一旦获得授权,不少企业难以掌握AI代理实际执行的操作。
研究显示,65%受访机构表示,于过去一年曾发生至少一次由AI代理在网络中运作而引发的安全事故,其中以敏感资料外泄最为常见。
Sumsub解决方案工程部主管Nikolai Suhharnikov指出,KYA Module for MCP解决方主要在AI代理存取企业资料前增设管控机制,检视AI代理提出的每项请求,在资料提供予AI代理前移除个人资料及其他敏感信息。他提到,企业可根据资料敏感程度、操作性质、提出及接收要求的部门等条件,管理AI代理的权限,并设定系统在不同情况下采取相应措施。
高风险操作需额外验证
Nikolai Suhharnikov表示,当AI代理尝试存取敏感档案,或执行较高风险的操作,例如批核超过指定金额的发票或存取授权范围以外的文件时,系统可要求进行额外验证。
今年1月,Sumsub于KYA框架下推出AI代理验证解决方案,将自动化AI操作与经过验证的人类身份进行绑定,并于6月推出上下文协定(Model Context Protocol,简称「MCP」)整合解决方案,让第三方AI代理能够直接设定和操作Sumsub平台配置。

