随着AI深度融入香港商业与民生场景，算法黑箱已成为继数据外泄后，本港最隐蔽的数码风险。不同于可溯源的网络安全事故，AI黑箱运作具备不透明、无解释、难举证的特质，让市民时刻面临系统自动做出的「隐性人生审判」，却无从申诉维权。

现时本港招聘、信贷、保险、租务等领域，普遍采用AI自动评分与筛选机制。AI依托历史大数据运行，会不自觉复制社会固有偏见，将年龄、居住地、职业等标签转化为隐性歧视标准，造成部分群体求职落选、贷款被拒、保费偏高的不公结果。更关键的是，多数中小企以商业机密为由，封锁算法运算逻辑与评分规则，形成完全封闭的决策黑箱。

香港大学法律学院助理教授关韬睿指出，缺乏适当的人工覆核及操作纪录，可能增加厘清决策依据和责任的困难。企业应按用途和风险落实相关保障措施。他亦建议为中小企提供实用指引和技术支援，协助做好风险管理。

专家呼吁，破解算法黑箱乱象，需建立透明化机制。政府应强化监管引导，要求民生领域AI决策保留覆核流程与完整纪录；企业需主动公开基础评分规则；市民亦应提升权益意识，主动查询AI决策依据，打破算法垄断，守护数码时代的社会公平。