“DeepSeek对王一博道歉”竟是AI编的？大模型幻觉引发热搜假案

一条关于辟谣和道歉的新闻，最终却是AI幻觉带来的谣言(yáoyán)，这是AI时代的荒诞(huāngdàn)现实。 7月3日，一则《演员王一博案，判了(le)》的新闻发酵，文章内容提及，人工智能公司DeepSeek因内容审核疏漏，就关联(guānlián)不实信息向演员王一博道歉(dàoqiàn)，还援引了刑事判决书。随后，#DeepSeek向王一博道歉#一度冲上热搜(sōu)。 目前这一(zhèyī)新闻已被删除，但仍然引发大量转载。 上述文章提到“人工智能(réngōngzhìnéng)公司DeepSeek发布正式道歉”，并提及“声明”一词。但第一财经查阅了目前DeepSeek所有官方(guānfāng)渠道(qúdào)的账号，包括官网、公众号、知乎(zhīhū)、小红书、海外的X等，都未发现有新的动态。 第一财经也向公司进行了求证，但截至发稿，未收到任何(rènhé)回复。 仅从新闻事实来看，网络流传演员王一博的(de)消息，已被经纪公司澄清，法院判定(pàndìng)系谣言，而声称DeepSeek为传谣(chuányáo)道歉，则有诸多的不合理之处(chù)。此次假新闻的信息中没有任何一句明确指出DeepSeek的道歉渠道，声明中所提及的法律判决书，在中国裁判文书网上检索显示无数据(shùjù)。 追溯“道歉”新闻源头，或许来自于(yú)一则社交媒体中的帖子，但看图片内容可知，道歉的主体是“AI聊天(liáotiān)助手DeepSeek”。 值得一提的是，就在这些内容的下方，就有显著提示“本回答由AI生成，内容仅供参考，请仔细甄别。”的字眼(zìyǎn)，但最后，这一由AI生成的道歉声明(shēngmíng)，在传播时逐渐演变成DeepSeek这家公司(gōngsī)的道歉声明，并被多家(duōjiā)媒体传播。 AI生成(shēngchéng)的幻觉问题并非新鲜事(xīnxiānshì)，但最后演变成被广泛传播的新闻，值得引起重视和思考。 幻觉一直是大(dà)模型的难题(nántí)，AI会编造看起来合理或可信的信息，但实际上是在“胡说八道”，这种缺陷的根源来自技术局限和(hé)训练机制，大模型本质是基于统计概率的文本生成器，通过海量数据学习词语(cíyǔ)间的关联规律，而非真正理解事实。 此外，若训练数据或网络充斥错误信息，模型也更(gèng)有可能输出错误答案(dáàn)。导致典型的“Rubbish in, Rubbish out”（垃圾进(jìn)，垃圾出）效应。 在第一财经询问DeepSeek关于(guānyú)AI的幻觉时，它给了一个有趣的比喻：大模型像戴(dài)着碎镜片的先知，镜子（训练数据(shùjù)）里有什么(shénme)它就反射什么，但镜片破损处（数据缺失）就会自己用彩色玻璃填补（生成幻觉）。 实际上，这一年随着大模型能力的提高，幻觉问题有所缓解。此前(cǐqián)5月底(yuèdǐ)，DeepSeek发布了新版DeepSeek R1，官方提到专门(zhuānmén)针对(zhēnduì)“幻觉”问题进行了优化，更新后的模型在改写润色、总结摘要、阅读理解(lǐjiě)等场景中，与旧版相比幻觉率降低了 45%-50% 左右。 此前DeepSeek的(de)幻觉率(lǜ)并(bìng)不低，也被不少用户和(hé)开发者所讨论。5月15日，SuperCLUE曾发布最新一轮中文大模型忠实性幻觉测评结果，显示此前的DeepSeek-R1模型幻觉率在21%左右，在测评的国内模型中排名第五。 目前看来AI幻觉仍然很难避免。AI往往会捏造人物、事件，或者伪造法律条文，需要用户(yònghù)甄别。而(ér)对媒体机构来说，当AI的“碎镜片”越来越难被一眼识破(shípò)，作为信息“把关人”的严谨性(yánjǐnxìng)与责任感，在AI时代就(jiù)变得更为重要。这起乌龙事件，是一面映照信息生态脆弱性的镜子。 最后，第一财经也询问了(le)DeepSeek，是否就不实信息向(xiàng)王一博道歉了，它目前给出的回复是否认道歉，但生成的内容里仍有很多幻觉(huànjué)。 例如称“针对谣言DeepSeek法务团队已启动取证”，并(bìng)提到可以通过邮箱(yóuxiāng)(yóuxiāng)“official@deepseek.com”进行谣言举报，但第一财经查询官网发现DeepSeek官方并没有这一邮箱，官方邮箱前缀是(shì)“service”。 (本文来自第一(dìyī)财经)