编者按

人工智能（AI）高速迭代，为社会带来数码转型红利之余，亦衍生全新网络风险与治理难题。有人将AI风险视为遥远的科技末日，惟《大公报》透过访问多位本港专家学者及业界人士发现，AI危机绝非危言耸听，AI风险已经渗透到香港市民日常生活、企业营运、金融运作，成为真实的隐忧。

《大公报》推出「正视AI风险」系列专题，立足香港在地场景，拆解AI辅助网络攻击、深伪诈骗、演算法黑箱不公、法律监管空白四大核心危机，针对普罗市民、中小企、大型机构及政府监管多层面，提供可落地的防御对策与自保守则。本系列三篇专题由浅入深，揭露被大众忽视的智能风险，探讨香港如何在科技创新与安全防御之间取得平衡，筑牢属于香港的AI防线。

AI伪造的亲友声音、以假乱真的企业视像会议、几近完美的官方钓鱼网站与邮件，现正成为本港新型诈骗及网络攻击的主流手段。过去市民信奉「眼见为实」，惟在AI技术加持下，视觉、听觉接收的资讯随时可被伪造，传统的防骗、防毒思维已完全跟不上技术演变速度。

不少市民及中小企误以为，现时市面流传的AI网络攻击是人工智能自主产生恶意、主动发起破坏。生产力局首席数码总监黎少斌接受《大公报》专访时纠正，本港暂未发现AI自主生成病毒并独立攻击的案例，现阶段所有AI相关网安威胁，均是人为骇客借助AI工具放大破坏力。重塑防骗、防毒观念，是抵挡智能虚假洪流的第一道底线。\大公报记者 苑向芹

「现时网络威胁的核心改变，是市民肉眼、直觉的辨识能力，已经彻底落后于AI伪造技术。」生产力局首席数码总监黎少斌引述境外重大商业攻击案例时指出，有跨国企业高层在AI深伪伪造的视像会议中，听从「上级」指令完成多轮转账，最终损失近两亿元。整场诈骗画面逼真、对话逻辑完整，完全突破常人辨识极限。

传统防火墙形同虚设

中大新闻及传播学院助理教授古治雄博士补充，业界并无严格技术定义的「AI病毒」，更贴合现实的说法是「AI辅助恶意程式」。过去骇客发现系统漏洞后，需手动编写攻击代码，耗时费力；如今透过AI便可快速生成、即时改写程式，制造海量病毒变种。这直接扭转网络攻防格局，漏洞曝光后，企业修复系统的时间被大幅压缩，防御方被动陷入劣势。

传统防火墙、防毒软件的运作逻辑，是比对已知病毒的代码特征，实现拦截清除。惟AI可随机重写病毒代码、更改程式特征，令旧式防御系统形同虚设。黎少斌分析，AI时代的网安防御，必须抛弃「特征比对」的旧思维，转为监测程式异常行为、操作逻辑，与骇客「以AI对抗AI」。

有业界人士解释，不同于影视作品中AI自主反抗人类的科幻情节，现实层面的智能叛变，目前尚未发展到AI拥有自主意识，而是AI脱离人类设定的初衷，以极端、偏颇、违背伦理的方式完成工作目标，形成系统性失控，损害公众权益与社会公平。

不过，业界强调，市民无需过度恐慌。AI攻击仍需专业技术支撑，普通用户简单指令无法生成有效攻击程式，且主流AI大模型设有伦理与安全防火墙，可杜绝大部分恶意指令。真正的普适风险，集中在AI钓鱼诈骗——这类低门槛、高仿真的欺骗手段，已成为本港市民最易中招的智能威胁。

未经独立核实 预设虚假

立法会科技创新界议员邱达根补充，本港大型机构及关键基础设施营运者，已按照《关键基础设施保护条例》要求，定期开展AI攻防演练、系统压力测试，透过AI主动挖掘内部漏洞。数字政策办公室亦曾举办公开攻防测试，允许技术人员以AI模拟攻击政府网站，借此排查隐患。相对之下，中小企及普罗市民的防御能力，出现严重断层。

针对市民日常防御，黎少斌提出颠覆性防骗原则：「所有未经独立管道核实的资讯，一律预设为虚假。」不论是亲友索款的AI语音、快递银行的短讯通知、社群流传的官方通告，均需透过官方热线、固有联络方式二次查证，切勿轻信画面、声音与文字表象。

业界总结，AI现阶段并未主动「叛变」，而是成为不法分子的高效犯罪工具。香港社会的防御漏洞，不在技术设备，而在大众仍然滞留于前AI时代的辨识思维。重塑防骗、防毒观念，是抵挡智能虚假洪流的第一道底线。