井水集/正视AI风险

2026-10-05 05:15:04 大公报
字号
放大
标准
分享

人工智能飞速发展,在带来重大机遇的同时,也衍生出新的风险。《大公报》调查采访发现,AI风险绝非危言耸听,而是已经渗透到香港市民日常生活、企业营运、金融运作,提醒加强AI风险管控和全球治理已刻不容缓。

近期,全球AI巨头OpenAI首度因安全隐患撤回新模型发布,其安全主管更因担忧安全控制失效而辞职;美国总统特朗普指派国家情报总监兼任最高AI顾问,并宣布成立「超级智能部队」;IMF等亦警告AI部署或引发全球金融系统性风险。这些现象表明,AI安全的焦点已从「防止内容幻觉」转向「防止智能体失控」,并成为全球治理与国家战略竞争的核心议题。中美探讨建立AI安全紧急通报机制、白宫与科技巨头签署「超级智能协议」,均说明构筑AI安全防线已成为国际共识。

AI浪潮的冲击,不仅限于巨头竞争和大国博弈,还已影响到市民生活与中小企业的生存。比如,利用AI智能体进行的主动式新型诈骗防不胜防;个人隐私与企业数据在不知不觉中被「自动化扩散」;过度依赖AI面临「思考外包」与认知退化的危机。更严峻的是,AI应用造成的结构性失业正加速蔓延,技术壁垒拉大数字鸿沟,正在侵蚀弱势群体及中小企业的发展机会。

AI风险的本质,是一场关于「控制权与自主权」的争夺。在宏观治理层面,国际社会必须加强对话协作,就AI的风险与收益开展交流,严防技术被滥用恶用。要坚持法律规管和行业自律并重,时刻保持人类对AI技术的绝对管控,让人工智能真正服务于人类的发展进步。

对于普通人而言,应对AI挑战的黄金法则,不是将其拒之门外,而是「保持警惕,深度协作,强化人的核心价值」。每位市民都应主动提升AI素养,识别算法偏见,增强隐私意识;要学习与AI协作,从工具使用者转变为问题定义者、最终审核者。技术进步不可阻挡,守住判断力、创造力与价值观,才是守住了人相对于AI的最后优势。