“科技的省心”会不会日益造就人们“判断的懒惰”？

近日，两条有关“AI成为投诉对象甚至被告”的新闻，引发全网关注。一则是用户通过某AI助手预订饭店座位，到店后却被告知这仅为AI戏言，预订无效；另一则是有用户称轻信AI助手退机票亏600元，AI“承诺包赔”“打官司不用律师自己就能赢”却无法落到实处。小至柴米油盐、大到人生决策，当一些人把“信任”的重量全部加给AI，AI却开始跑偏——

明眼人一看就知道，这些事件的实质，是AI一味在给予情绪价值的同时又产生了人工拟真中不可遏制的“幻觉”：从技术原理上看，大语言模型的核心机制是“预测下一个最可能出现的字符”，首要目标是通过上下文理解生成流畅、连贯、最符合预期的回答，而非保证每一句话都符合事实真相——因为事实真相常常意味着碎片化、崎岖的，甚至往往跳出人们预期的各种微观可能的宏观合集，这超出了AI的能力范围。换句话说，AI无法穷尽现实生活存在的种种“毛刺”，只能在海量样本中试图总结并提炼出人们种种复杂行为背后的共性，来生成一个符合绝大多数人心理预期的“大概率合理回答”。

为什么人们常常对AI的“谄媚”产生某种“惬意性”？因为这原本就符合人们潜意识中根深蒂固的某种安全感，其来自从文明之初的“一起打猎最安全”“众人蹚开的路是大道”，到历史发展中积累经验、倚赖经验、推翻经验、再形成新的经验的整个过程。

而AI的高度拟真正在“劫持”人类的这一进化本能。

一些对新兴技术认识不足、信息辨别能力较弱的人，往往会将AI作为一个大号的搜索软件和集成化的工具窗口，从而在认知层面与AI所能提供的真实功能层面形成某种“剪刀差”：AI往往语境真实，信息却不乏谬误；口吻笃定，情感却尽皆虚妄——真假参半所营销出的“赛博社交”让人们猝不及防，于是，信任错位形成了风险的关键来源。

其实，从更广泛的意义上说，“尽信书则不如无书”的古老谚语早就提醒我们，要对知识来源的狭隘性保持必要警惕，如不要全然相信非权威媒体发布的重要消息，要加强对网络搜索结果的甄别。而当讨论的语境来到AI时代，技术进步以周为单位迭代，用户规模以亿级增长，这种理性的共识应该更快形成，而不应滞后于技术的发展。

不同AI提供的服务千差万别，有的AI随口打包票可能只是在迎合你的情绪，有的AI则需要一定权限才能帮你完成部分实际操作，有的App集成了大语言模型以帮助用户形成更好的服务体验……面对各种异常丰富的AI品类，广大用户该如何区分？存在的AI“幻觉”又该如何防范？仅让用户自行提高警惕，显然不够。

如何让研发与使用的“天平”不失衡？责任来到了开发者这一边——产品伦理应该与技术同步升级，甚至应走到技术发展的前面，对其发展方向进行必要的框定和纠偏。设置四个关键词，或可成为解决这一问题的突破口：“清晰”，杜绝AI在生成结论的过程中不透明；“追溯”，所有关键信息来源够权威、可验证；“升级”，对关键事实进行“强提醒”，乃至切入权威答疑界面；“熔断”，在金融、医疗、安全、隐私等场景中，以“提醒风险”代替“给出答案”。

从中，我们进一步发现，随着AI在信息传播中的影响力日益提升，越发凸显出权威信息发布平台及权威媒体的重要作用。这也提醒我们，在权威平台上形成和发布权威内容，更要慎用AI，让每一则信息都时刻经得起社会检验。

同时，全社会如何看待AI，还应经历一次重要的纠偏：过多宣传其全能高效的形象是否合适？是否应该将其高效率与多错漏的一体两面，多向公众，特别是认知能力不足的青少年群体和老年群体进行更多的客观展示？

不可否认，求知是推动人类文明发展的理性之光，而与“求知”相伴的另一概念“盲从”，却常常在反理性中阻碍个体与时代的求知——这一现象并不因AI时代的到来而有所改变。人不能两次踏入同一条河流，唯有“疑问”常存，才能击破你原本所理解的笼罩于“客观”之上的虚妄，这对于我们认识包括AI在内的技术发展本质尤为重要。

来源：南方+

编辑：“网信江门”编辑小组