首页 资讯 正文

“DeepSeek对王一博道歉”竟是AI编的?大模型幻觉引发热搜假案

体育正文 89 0

“DeepSeek对王一博道歉”竟是AI编的?大模型幻觉引发热搜假案

“DeepSeek对王一博道歉”竟是AI编的?大模型幻觉引发热搜假案

一条关于辟谣和道歉(dàoqiàn)的新闻,最终却是AI幻觉(huànjué)带来的谣言,这是AI时代的荒诞现实。 7月(yuè)3日,一则《演员王一博(wángyībó)案,判了》的新闻发酵,文章内容提及,人工智能公司DeepSeek因内容审核疏漏,就关联不实信息向演员王一博道歉,还援引了刑事(xíngshì)判决书。随后,#DeepSeek向王一博道歉#一度(yídù)冲上热搜。 目前这一新闻已被删除,但仍然引发大量(dàliàng)转载。 上述文章提到(tídào)“人工智能公司DeepSeek发布正式道歉”,并提及“声明”一词。但第一财经查阅了(le)目前DeepSeek所有官方渠道的账号,包括官网、公众(gōngzhòng)号、知乎(zhīhū)、小红书、海外的X等,都未发现有新的动态。 第一财经也向公司进行(jìnxíng)了求证,但截至发稿,未收到任何回复。 仅从新闻事实来看,网络流传演员王一博的(de)消息,已被经纪公司澄清(chéngqīng),法院(fǎyuàn)判定系谣言,而声称DeepSeek为传谣道歉,则有诸多的不合理之处。此次假新闻的信息(xìnxī)中没有任何一句明确指出DeepSeek的道歉渠道,声明中所提及的法律判决书,在(zài)中国裁判文书网上检索显示无数据。 追溯“道歉(dàoqiàn)”新闻源头,或许来自于一则社交媒体中的帖子,但看图片内容可知,道歉的主体是(shì)“AI聊天助手DeepSeek”。 值得一提的是,就在这些内容的下方(xiàfāng),就有显著提示“本回答由AI生成,内容仅供参考,请仔细甄别。”的字眼,但最后,这一由AI生成的道歉(dàoqiàn)(dàoqiàn)声明,在传播(chuánbō)时逐渐演变成DeepSeek这家公司的道歉声明,并被多家媒体传播。 AI生成的幻觉问题并非新鲜事,但最后演变成被广泛传播的新闻(xīnwén),值得引起(yǐnqǐ)重视和思考。 幻觉一直是大模型的难题,AI会编造看起来合理或(huò)可信的信息,但实际上是在“胡说八道”,这种缺陷(quēxiàn)的根源来自技术局限和训练机制(jīzhì),大模型本质是基于统计概率的文本生成器(shēngchéngqì),通过海量数据学习词语间的关联规律,而非真正理解事实。 此外,若训练数据或网络(wǎngluò)充斥错误信息,模型也更有可能输出错误答案(dáàn)。导致(dǎozhì)典型的“Rubbish in, Rubbish out”(垃圾进,垃圾出)效应。 在第一财经询问DeepSeek关于AI的幻觉时,它给了一个(yígè)有(yǒu)趣的比喻:大模型像戴着碎镜片的先知,镜子(训练数据)里有什么它就反射什么,但镜片破损处(pòsǔnchù)(数据缺失)就会自己用(yòng)彩色玻璃填补(生成幻觉)。 实际上,这一年随着大模型(móxíng)能力的提高,幻觉问题有所缓解。此前5月底,DeepSeek发布了新版DeepSeek R1,官方提到专门(zhuānmén)针对“幻觉”问题进行了优化,更新后(hòu)的模型在改写润色、总结摘要(zhāiyào)、阅读理解等场景中,与旧版(jiùbǎn)相比幻觉率降低了 45%-50% 左右。 此前DeepSeek的幻觉率并不低,也被(bèi)不少用户和开发者所讨论。5月15日,SuperCLUE曾发布最新一轮中文大模型(móxíng)忠实性幻觉测评结果,显示(xiǎnshì)此前的DeepSeek-R1模型幻觉率在(zài)21%左右,在测评的国内模型中排名第五。 目前看来AI幻觉仍然很难避免。AI往往会捏造人物、事件,或者伪造法律条文,需要用户(yònghù)甄别。而对媒体机构来说(láishuō),当AI的“碎镜片”越来越难被一眼识破,作为信息“把关(bǎguān)人”的严谨性与责任感(zérèngǎn),在AI时代就变得更为重要。这起乌龙(wūlóng)事件,是一面映照信息生态脆弱性的镜子。 最后(zuìhòu),第一财经也询问了DeepSeek,是否就不实信息向王一博道歉了,它目前给出的(de)回复是否认道歉,但生成的内容里仍有(yǒu)很多幻觉。 例如(lìrú)称“针对谣言DeepSeek法务团队已启动取证”,并提到可以通过邮箱(yóuxiāng)“official@deepseek.com”进行谣言举报,但第一财经查询官网发现DeepSeek官方并没有(méiyǒu)这一邮箱,官方邮箱前缀是(shì)“service”。 (本文来自第一财经(cáijīng))
“DeepSeek对王一博道歉”竟是AI编的?大模型幻觉引发热搜假案

欢迎 发表评论:

评论列表

暂时没有评论

暂无评论,快抢沙发吧~