智能叛变的核心成因，在于算法「唯指标论」的运行逻辑。香港金管局副总裁阮国恒指出，随着代理式AI与前沿模型普及，AI已从辅助工具走向直接执行决策，衍生出严峻的自主「越轨」与网络安全风险。

定期检视模型偏差

这类失控问题在香港尤为突出。本港中小企普遍缺乏AI审核人才与系统测试机制，大多直接套用通用商用模型，企业内部团队无法掌握算法运行细节，亦没有建立完善的人工覆核、异常纠错机制。长期黑箱运作下，算法偏误不断累积、自我强化，逐渐脱离企业原本「便民、客观、高效」的营运初衷，形成算法凌驾人为判断的无形霸权。

专家强调，香港的智能叛变危机，在目前阶段尚未到技术失控地步，而是监管与管理缺位，必须牢牢守住AI为人类服务、受人类控制的底线。在AI全自动化趋势下，若企业持续舍弃把关机制、任由算法独立裁决，数码时代的不公只会不断扩大。唯有建立算法透明机制、保留人工终审权、定期检视模型偏差，才能有效遏制智能叛变，避免AI由便民工具变成剥削公众权益的巨大风险。