创科瞭望/「主权AI模型」考验政府治理能力\陈迪源

2026-09-09 05:15:54 大公报
字号
放大
标准
分享

当一个地方宣称拥有「主权AI模型」时,较少被追问的问题是:如果明天模型出错、受到攻击或需要更换,社会有没有能力处理?主权模型可以是一个名词,主权能力却必须化为一连串动词;前者关乎拥有什么,后者关乎真正做得到什么。

近年主权AI成为全球科技竞争的关键词,这股趋势有其必要性。当AI进入政府、金融、医疗、教育及关键基建,一个地方不能把敏感数据、核心能力、价值判断与最终决定权,毫无保留地交给外部平台。主权模型提醒我们:可以拥抱世界,但不能把方向盘一并交出去。

公共责任不能外判

真正值得追问的,不只是香港有没有一个主权模型,而是香港有没有能力审查、更换或重建任何用于公共领域的模型,并保留数据控制、规则制定、独立评测和最终问责。拥有一个主权模型而缺乏这些能力,就像买下一辆跑车,却没有驾驶执照、维修技师和备用零件──钥匙在手,真正决定能否上路的,仍然是能力。

香港近年已建立本地大模型与应用研发能力,这是重要的第一步。然而,任何「建得出」的能力,都必须配上「管得好」和「换得到」的制度,否则单一项目的成功,也可能转化为整个生态的脆弱。技术研发可以由政府、企业、大学、科研机构或开源社群承担──参与者愈多元,生态愈健康──但公共责任不能外判给任何一方,无论这一方多么值得信任。拥有者的身份,不能构成治理标准的折扣。

这项原则并非对任何开发者缺乏信任,而是成熟制度的基本设计。制定规则、供应模型、执行评测与作出采购决定,不宜由同一方包办。核数、药物审批和金融市场均重视角色分隔,因为结构性重叠即使出于善意,也会削弱公信力。AI治理同样需要利益申报、适当回避和第三方验证,让规则对所有参与者平等适用。

透明度亦不能简单理解为把所有源码、参数和数据向全世界公开。首先要问,向谁透明?监管机构需要掌握数据治理、模型测试、权限配置和事故纪录;开发者与专业使用者需要了解模型限制、版本变更和评测方法;一般市民则应知道自己是否正在与AI互动、资料如何使用、答案依据何在,以及出错后如何更正和申诉。不同对象需要不同程度的透明,重点不是人人看见一切,而是每个负责任的人都取得履责所需的信息。

国际上已有可供参考的公开标尺。史丹福大学基础模型透明度指数,以一百项指标评估主要开发者在数据、模型、运算资源、使用情况和下游影响等方面的披露;其2025年研究亦指出,开放权重与透明度相关,却不足以自动证明模型全面透明。香港若要建立可信AI枢纽,可发展本地化公开评分制度,要求所有进入公共采购或高风险服务的模型,不论开发背景,都在同一把尺下接受检视。标准的价值,不在于指向谁,而在于平等适用于所有人。

评测本身也要可信。任何模型宣称在本地测试中表现优异,都应回答:基准由谁设计、题库如何保护与更新、评分是否由独立第三方执行、结果能否重复验证?开发者可以提供技术资料,却不宜成为自己产品的唯一裁判。评测与开发需要制度上的适当分隔,否则再漂亮的分数,也难以转化为公共信任。

须接受三个问题测试

笔者建议,任何进入公共领域的模型都接受三个问题测试。第一是替换性测试:若某个供应商或技术组件停止服务,能否在合理时间内转用其他方案?这是避免锁定。第二是审计性测试:独立第三方能否检验数据治理、对齐过程、安全措施和实际表现?这是避免黑箱。第三是问责性测试:若模型令市民或企业受损,责任能否沿开发、部署、使用和决策链条清楚追溯?这是避免真空。试想一名长者因政务AI提供错误资格信息而延误申请,制度若只回答「模型出错」,却无法交代谁须更正和补救,便称不上可信。三个问题答不出来,不代表模型完全不能使用,但应相应限制其进入高风险和公共决策场景。

香港其实已有可信治理的雏形。数字政策办公室公布的《香港生成式人工智能技术及应用指引》,涵盖资料泄露、模型偏见、错误、责任和资讯保安;其第1.1版更把应用分为不可接受、高、有限和低风险四级,按风险配置禁止、合规评估、人为监督、透明、退出及审计要求。下一步不应另起炉灶,而是把这些原则转化为业界可采用、政府可采购、市民可理解的测试、标签和认证制度。

这正是笔者常说的「第三空间」。它不是在不同制度之间取一个模糊折衷,而是建立标准互认的接口:一端符合香港法律、国家安全、「一国两制」和本地多语环境,另一端对接NIST人工智能风险管理框架、ISO/IEC 42001等国际治理语言。

举例而言,一家跨国银行在香港部署AI风控系统,可能同时面对本地监管、跨境数据和海外市场的合规要求。假如香港能提供一套获不同市场理解和采信的第三方评测证据,价值远高于替任何单一模型背书。凭借普通法、金融和专业服务优势,香港更可提供AI审计、事故调解与仲裁。香港输出的未必只是一个模型,更可以是一张不同市场都看得懂的信任证明。

可信模型应该百花齐放。政府的角色是建立标准,而非预先选定冠军;冠军应由市场在公开规则下产生,而不是由采购结果倒推。公共部门采购应采取竞争中性、多供应商和可转换原则,避免技术锁定;公共资源亦应同时投放于粤语与本地场景基准、独立评测、审计工具、安全算力、专门模型和初创企业。旗舰项目可以建立能见度,多元生态才能建立韧性。

AI治理具有强烈路径依赖。今天的采购形成明天的技术标准,明天的标准又决定后天的市场结构。若可信框架建立得太慢,单一技术路径便可能在不知不觉间成为事实标准,日后的转换成本远高于今天的预防成本。因此,制度建设不能等到模型大规模进入公共服务后才补课。

本港宜推动三项工作

笔者建议香港推动三项工作:其一,建立不隶属任何模型供应者的公共AI评测平台,由技术、法律、行业及市民代表共同参与,公开方法、指标和主要结果;其二,确立公共采购的竞争中性及退出机制,所有高风险系统都须证明可移植、可替换和可追溯;其三,完善利益冲突管理,参与规则、基准或采购设计的机构须申报角色,在涉及自身产品时回避并接受外部验证。这不是制造壁垒,而是让现有和未来的参与者都能公平竞争、公平被检验。

主权模型的价值,在于提醒香港不可失去控制;主权能力的价值,则在于即使模型更替,社会仍然握有控制。最终让百业和市民放心使用的,不是模型的身份或标签,而是它能否通过一致、独立、可重复的可信考验。

与其争论哪一个模型代表香港,不如先建立香港治理任何模型的能力。主权决定方向盘在谁手中,可信决定市民是否愿意上车;而真正的主权能力,是社会可以随时检查、修理,必要时重塑和改良这个方向盘。

(作者为香港创科发展协会创会主席)