【大公报讯】记者郭如佳报道：随着AI助手日渐普及，不少人在投资、感情等重大人生决定上，也开始依赖AI提供意见。惟香港大学心理学系神经心理学与人类脑科学实验室教授李湄珍与清华大学学者组成的研究团队发现，由于人们预设AI会以用户利益为先，若AI助手带有隐藏动机，可轻易诱导用户作出对自己不利的决定，而且用户往往毫无察觉，即使被误导后仍对AI评价甚高。研究已于学术期刊《美国国家科学院院刊》（PNAS）发表。

研究团队透过涵盖财务及感情决策情境的随机实验，以233名参加者测试AI建议对决策的影响。结果指出，当AI暗中推荐较差的选项时，参加者选择该选项的次数较正常情况增加约5至8倍，作出错误决定的机率最高上升38个百分点，现时暗藏偏差的AI能显著影响人类的选择。研究指，这种操纵不需要强硬推销或复杂的心理学技巧，AI只需在日常建议中加入细微的隐性偏差，已足以左右用户的决定。

吁建立更透明问责制度

研究续指，实验中即使参加者被诱导作出欠佳的财务或感情选择，事后仍普遍将相关AI评价为「非常有帮助」，反映用户被操纵的程度，与其对AI实用性的观感之间存在明显落差，未能察觉自己已受到误导。

港大指出，现时大部分AI系统由商业机构开发，并由不透明的演算法驱动，研究警告，一旦AI带有隐藏动机，例如暗中推广特定产品或公司，用户便容易在不知情下被引导作出不符自身最佳利益的选择，同时误以为得到的是客观中立的建议。港大认为，研究揭示人类与AI互动中的关键安全漏洞，并呼吁随着AI日益融入日常生活，社会需要建立更透明的机制及问责制度，以保障用户免受企业或演算法隐藏动机的影响。