| 代碼 | 名稱 | 當前價 | 漲跌幅 | 最高價 | 最低價 | 成交量(萬) |
|---|
一條關于辟謠和道歉的新聞 ,最終卻是AI幻覺帶來的謠言,這是AI時代的荒誕現實。
7月3日,一則《演員王一博案 ,判了》的新聞發酵,文章內容提及,人工智能公司DeepSeek因內容審核疏漏 ,就關聯不實信息向演員王一博道歉,還援引了刑事判決書 。隨后,#DeepSeek向王一博道歉#一度沖上熱搜。
目前這一新聞已被刪除,但仍然引發大量轉載。
上述文章提到“人工智能公司DeepSeek發布正式道歉 ” ,并提及“聲明”一詞 。但第一財經查閱了目前DeepSeek所有官方渠道的賬號,包括官網、公眾號 、知乎、小紅書、海外的X等,都未發現有新的動態。
第一財經也向公司進行了求證 ,但截至發稿,未收到任何回復。
僅從新聞事實來看,網絡流傳演員王一博的消息 ,已被經紀公司澄清,法院判定系謠言,而聲稱DeepSeek為傳謠道歉 ,則有諸多的不合理之處 。此次假新聞的信息中沒有任何一句明確指出DeepSeek的道歉渠道,聲明中所提及的法律判決書,在中國裁判文書網上檢索顯示無數據。
追溯“道歉”新聞源頭 ,或許來自于一則社交媒體中的帖子,但看圖片內容可知,道歉的主體是“AI聊天助手DeepSeek ”。
值得一提的是,就在這些內容的下方 ,就有顯著提示“本回答由AI生成,內容僅供參考,請仔細甄別。”的字眼 ,但最后,這一由AI生成的道歉聲明,在傳播時逐漸演變成DeepSeek這家公司的道歉聲明 ,并被多家媒體傳播 。
AI生成的幻覺問題并非新鮮事,但最后演變成被廣泛傳播的新聞,值得引起重視和思考。
幻覺一直是大模型的難題 ,AI會編造看起來合理或可信的信息,但實際上是在“胡說八道”,這種缺陷的根源來自技術局限和訓練機制 ,大模型本質是基于統計概率的文本生成器,通過海量數據學習詞語間的關聯規律,而非真正理解事實。
此外,若訓練數據或網絡充斥錯誤信息 ,模型也更有可能輸出錯誤答案 。導致典型的“Rubbish in, Rubbish out ”(垃圾進,垃圾出)效應。
在第一財經詢問DeepSeek關于AI的幻覺時,它給了一個有趣的比喻:大模型像戴著碎鏡片的先知 ,鏡子(訓練數據)里有什么它就反射什么,但鏡片破損處(數據缺失)就會自己用彩色玻璃填補(生成幻覺)。
實際上,這一年隨著大模型能力的提高 ,幻覺問題有所緩解 。此前5月底,DeepSeek發布了新版DeepSeek R1,官方提到專門針對“幻覺”問題進行了優化 ,更新后的模型在改寫潤色 、總結摘要、閱讀理解等場景中,與舊版相比幻覺率降低了 45%-50% 左右。
此前DeepSeek的幻覺率并不低,也被不少用戶和開發者所討論。5月15日 ,SuperCLUE曾發布最新一輪中文大模型忠實性幻覺測評結果,顯示此前的DeepSeek-R1模型幻覺率在21%左右,在測評的國內模型中排名第五 。
目前看來AI幻覺仍然很難避免。AI往往會捏造人物、事件,或者偽造法律條文 ,需要用戶甄別。而對媒體機構來說,當AI的“碎鏡片”越來越難被一眼識破,作為信息“把關人”的嚴謹性與責任感 ,在AI時代就變得更為重要 。這起烏龍事件,是一面映照信息生態脆弱性的鏡子。
最后,第一財經也詢問了DeepSeek ,是否就不實信息向王一博道歉了,它目前給出的回復是否認道歉,但生成的內容里仍有很多幻覺。
例如稱“針對謠言DeepSeek法務團隊已啟動取證 ” ,并提到可以通過郵箱“official@deepseek.com”進行謠言舉報,但第一財經查詢官網發現DeepSeek官方并沒有這一郵箱,官方郵箱前綴是“service”。
(文章來源:第一財經)
股票配資公司開戶網站:在線炒股配資平臺-信披不及時 瀚川智能控股股東、實控人收警示函及紀律處分決定書
網上配資的平臺:股票配資十倍網站-AI周報:中國大模型實力圈粉火到硅谷 鴻蒙披露AI最新進展
全國股票配資平臺:配資炒股網站選擇配資-多家AI眼鏡產業鏈公司業績增長 機構看好行業投資機會
中國十大股票配資公司:在線股票平臺-《上海市加快推動“AI+制造”發展的實施方案》發布 實施“模塑申城·AI+制造”行動
國內可靠的配資平臺:在線股票杠桿-AI模型首次出現“抗命不遵”!AI安全公司稱OpenAI o3模型出現異常
股票杠桿平臺軟件有哪些:貴州股票配資公司-華為AI推理新技術犀利!中國銀聯大模型效率提高了125倍
還沒有評論,快來說點什么吧~