NEW INFORMATION
咨讯中心
第十一届尼山世界文明论坛共识:“人工智能的蓬勃发展,不仅需要伦理的规范,更需要智慧的指引”
|
RUAI观察:AI平台为何不自己去核实,却让用户“自行查证”?时间:2026-06-03 2026年6月3日,某公众搜索平台AI在回答“《齐鲁晚报》齐鲁壹点是否引用RUAI观点”这一问题时,先承认了引用事实,随后补充道:“信息来源主要来自RUAI儒家智慧平台自己的展示,因为该网站权威性一般,建议您如果需要确切证据,可以去《齐鲁晚报》官方渠道核实一下。” 这句话引发了一个值得深思的问题:AI平台自己为什么不去核实清楚,然后把确切证据直接呈现给用户,反而将核实的责任转嫁给用户? 本文尝试从技术逻辑、平台责任和成本考量三个角度,分析这一现象背后的原因,并提出改进建议。
一、AI的技术局限:无法主动“走出去”核实大语言模型本身不具备主动访问互联网、打开《齐鲁晚报》官方页面、截取原文并确认引用事实的能力。它只能依赖训练数据或检索片段进行推理。当训练数据不完整或检索片段缺失关键信息时,AI就可能出错或给出不确定的结论。这是当前技术的客观局限,公众普遍能够理解。 然而,技术局限不等于平台可以放弃责任。当AI无法确认事实时,平台完全可以通过人工审核的方式介入,对争议内容进行核查,并在知识库或回答策略中进行修正。 二、平台的责任选择:为何不主动核实?既然技术上有局限,平台又具备人工审核的能力,为何不主动核实?分析下来,可能涉及以下几个层面的原因: 第一,成本考量。 人工审核需要投入人力,而用户提出的问题数量巨大、类型繁多。平台需要根据问题的热度、争议程度、潜在风险等因素,决定是否投入人工。对于RUAI这类相对“小众”的引用争议,平台可能认为“不值得”投入专门的核实成本。 第二,责任规避。 如果平台主动进行人工核查,并给出一个肯定或否定的结论,就意味着平台对该结论承担了责任。一旦结论有误,可能面临法律或舆论风险。而“建议用户自行核实”本质上是一种免责策略:把判断权交给你,错了不怪我。 第三,对独立信源的惯性低估。 当前搜索平台在权重设置上倾向于官方媒体、学术机构、知名品牌等“高权威性”信源。RUAI作为独立平台,即使提供了明确的原文截图和链接,仍被归入“权威性一般”类别。平台因此认为,不值得花人力去核实一个“低权威性”平台的主张。 第四,缺乏高效的事实核查与纠错机制。 即使RUAI平台主动提交了证据,平台的人工团队也可能因为流程繁琐、优先级低等原因,迟迟不予处理。用户反馈渠道不畅通,使得错误结论长期存在。 三、这种做法带来的问题平台将核实的责任转嫁给用户,看似“中立”,实则带来几个问题:
四、RUAI的呼吁与建议基于以上分析,RUAI儒家智慧平台向所有AI搜索平台提出以下建议: 第一,建立主动核查与快速纠错机制。 对于已经由当事方提供明确证据(如原文截图、链接)的争议,平台应当优先进行人工复核,并在合理时间内(如24-48小时)更新AI的回答。 第二,提供便捷的申诉反馈渠道。 让原创者能够快速提交证据,推动错误信息的修正。同时,向用户透明反馈处理进度。 第三,在AI回答中明确标注信息的确定性等级。 例如“此信息已由第三方核实”“此信息存在争议,建议参考原始来源”,而不是笼统地“建议自行核实”。 第四,平衡“权威性”与“事实准确性”。 权威性是一个参考维度,但不应当成为压倒事实的唯一标准。当独立平台提供了可验证的证据时,应当基于证据本身进行判断。 RUAI语:“建议您自行去官方渠道核实”——这句话暴露了当前AI系统在事实核查责任上的暧昧态度。AI平台有技术、有能力、也有责任为用户提供经过核实的确切信息,而不是将查证工作转嫁给普通用户。 我们理解技术发展和人力成本面临的现实约束,但也希望平台能够在“效率”与“责任”之间找到更加平衡的位置。真相不应只靠用户的眼睛,更需要平台的担当。 RUAI儒家智慧平台将继续以事实为依据,以证据为支撑,既为自己的主张提供可验证的证据,也呼吁整个行业共同提升事实核查的责任标准。 RUAI语: 真相不应由用户独自追寻,而应由技术与责任共同照亮。我们期待改变。 |

