巴山快评 | AI“带偏”政策信息 一个需要共同应对的新问题

“自2025年1月1日起,宁波市将免费乘坐公交车的年龄从70周岁降低至65周岁……”如果你通过AI咨询“多大年纪的老年人在宁波可以免费乘坐公交”相关问题,可能会获得这样的回答。然而,这个看上去有鼻子有眼的回答,却是一条彻头彻尾的假消息。据宁波晚报报道,将该问题分别向三个人工智能软件提问,得到的回答中,仅有一个是正确的。

近年来,各类生成式AI技术及其应用迅速发展和普及。各类生成式AI大模型为各类“问题”提供答案的“出口”更多。但由于不同AI大模型的技术成熟度差别、信息抓取偏好差异等原因,它们生成答案的准确率,有明显差异。不同AI大模型的定位不同,生成不同类型问题的“答案”的能力也有差异。

就目前来看,要最大程度降低AI生成信息带来的误导,有两个方面需要尽快引起社会的重视。一方面,各类争相上马的AI大模型,在加快数据模型优化升级的同时,也应逐步完善相应的风险提醒机制。如去年9月,国家互联网信息办公室发布的《人工智能生成合成内容标识办法(征求意见稿)》就提出,服务提供者所提供的生成合成服务,包括文本、音频、图片、视频、虚拟场景等,均应在适当位置添加显著的提示标识。让这样的提示标识成为标配,既有助于唤起用户对AI生成“答案”准确性的甄别意识,防止陷入“偏听偏信”。

另一方面,进入AI生成信息的时代,要倡导建立一种新的大众数字素养,或者说新的获取优质信息的能力。在过去很长时间里,互联网中的信息供给,基本是“人工”生成的,人们获取信息也主要是依靠定向的平台、机构。虽然这里面也存在着因为不当的利益诱导带来的错误“路标”的问题,但总体上信息的供给还是偏向于专业化、单一化,且用户在准确性的核查上也更容易。

但进入AI生成信息时代,信息的提供主要依赖于一种大规模整合基础上的自动“提炼”,这里面不排除AI生成信息本身是以一些原本错误的信息为基础,由此便可能生成出错误的“答案”。可以说,虽然AI生成信息大大提升了信息大规模整合、“提炼”的效率,但对其准确性反而需要有更多甄别。这要求使用者必须要意识到AI大模型的局限性,对于其提供的“答案”要养成二次求证习惯。同时,面对同一个问题,不同用户的提问方式不同,也可能令AI生成不同的“答案”。这也意味着,借助AI寻找问题的“答案”,本身也需要用户提升“提问”的能力。

在这场新的信息变革中,人类如何最大程度趋利避害,尚需要方方面面的磨合,从技术到法律,再到观念、习惯等,都注定要有新的“适配”。 (朱昌俊)