如何看待AI“一本正經(jīng)地胡說八道”
(資料圖片僅供參考)
【點(diǎn)評】
所謂AI幻覺，可以通俗地理解為AI也會像人產(chǎn)生心理幻覺一樣，遇到不熟悉或超出“知識儲備”的問題時，編造一些并不存在的細(xì)節(jié)，生成與事實(shí)相悖的答案。一項(xiàng)調(diào)研顯示，對于“公眾認(rèn)為使用AI應(yīng)用過程中有哪些突出問題”，反饋?zhàn)疃嗟氖?ldquo;內(nèi)容不準(zhǔn)確，或含虛假信息”，占比高達(dá)42.2%。
AI幻覺從何而來？可能得從源頭尋找答案。
大模型的工作原理，是基于概率生成內(nèi)容。給它上半句，它就根據(jù)自己“學(xué)”過的海量知識，“算出”下半句該說什么。比如，當(dāng)用戶輸入“今天天氣非常”，它大概率會接“不錯”“熱”“潮濕”等答案，而不會出現(xiàn)“甜”。同時，大模型又不是簡單地儲存所有事實(shí)，而會像人腦記東西那樣，進(jìn)行大量壓縮和泛化——也就是“抓概要、找規(guī)律”。因此，當(dāng)“喂給”大模型的訓(xùn)練數(shù)據(jù)包含虛假信息時，它就會產(chǎn)生“幻覺”、給出錯誤答案。
有報告顯示，我國生成式人工智能產(chǎn)品用戶規(guī)模達(dá)2.49億人。用戶規(guī)?？焖僭鲩L，AI幻覺潛藏的風(fēng)險也隨之增加。比如，如果一些看似合理卻與現(xiàn)實(shí)相去甚遠(yuǎn)的內(nèi)容被AI反復(fù)學(xué)習(xí)，會形成“數(shù)據(jù)污染—算法吸收—再污染”的惡性循環(huán)。有效防范由此帶來的虛假信息泛濫，已成為不容回避的課題。
不過也有觀點(diǎn)認(rèn)為，AI幻覺可被視作一種“發(fā)散思維”和“想象力”。理論上，如果把訓(xùn)練一個大模型看作信息“壓縮”的過程，那么大模型經(jīng)過推理、輸出答案就是一個信息“解壓”的過程。這種處理信息的方式，可能會出現(xiàn)謬誤，也可能觸發(fā)新的創(chuàng)造。對發(fā)展尚未定型的新事物，要保持開放心態(tài)，辯證看待其利與弊，在有效防范弊端的同時，給予足夠空間使之朝好的方向成長。
短時間內(nèi)，AI幻覺問題難以被解決。各方都在努力降低其負(fù)面影響，相關(guān)部門也加大了對違規(guī)AI產(chǎn)品的處置力度，推動生成合成內(nèi)容標(biāo)識加速落地。一些大模型廠商在積極行動，比如文心大模型利用檢索到的信息來指導(dǎo)文本或答案的生成，提高了內(nèi)容的質(zhì)量和準(zhǔn)確性；通義大模型加強(qiáng)訓(xùn)練語料管理，通過“紅藍(lán)對抗”機(jī)制提升對虛假信息的識別能力。對廣大用戶而言，則要加快提升AI素養(yǎng)，學(xué)會“智慧”地運(yùn)用“智慧工具”，既借助大模型破除思維定式、啟發(fā)創(chuàng)新思路，又提高自身有效獲取、理解、評估和使用信息的能力。
人類塑造工具，工具也影響人類生活。應(yīng)對AI幻覺等問題挑戰(zhàn)的過程，既促使人們思考改進(jìn)工作方法，也為AI不斷進(jìn)化提供了源動力。激發(fā)新技術(shù)的正向價值，讓AI更好融入生產(chǎn)生活、賦能千行百業(yè)，我們邁向智慧時代之路才能走得更加穩(wěn)當(dāng)、更加順暢。
標(biāo)簽：
搶先讀
- “人工智能+”重塑制造業(yè)競爭優(yōu)勢
- AI拓展信息通信業(yè)新天地
- 如何看待AI“一本正經(jīng)地胡說八道”
- 人工智能應(yīng)用場景加速拓展 要聞速遞
- “車路云一體化” 讓“聰明車”跑上“智慧路” 當(dāng)前信息
- AI拓展信息通信業(yè)新天地-今日觀點(diǎn)
- 國家網(wǎng)信辦發(fā)布《網(wǎng)信部門行政處罰裁量權(quán)基準(zhǔn)適用規(guī)定》 微資訊
- “車路云一體化” 讓“聰明車”跑上“智慧路”|最新快訊
- 探訪世界互聯(lián)網(wǎng)大會開放日 這個市集會讓你大開眼界|今日熱門
- 今日熱文：前5個月我國規(guī)上互聯(lián)網(wǎng)企業(yè)完成互聯(lián)網(wǎng)業(yè)務(wù)收入7735億元
- 看熱訊：車企縮短賬期，供應(yīng)鏈有何影響？
- 每日消息!以硬核創(chuàng)新實(shí)力閃亮國際舞臺 江淮汽車榮獲“科技創(chuàng)新優(yōu)秀案例”
- 快播：新疆石河子航空產(chǎn)業(yè)向全產(chǎn)業(yè)鏈發(fā)展邁進(jìn)
- 新疆石河子航空產(chǎn)業(yè)向全產(chǎn)業(yè)鏈發(fā)展邁進(jìn) 焦點(diǎn)信息
- （活力中國調(diào)研行）拓展多元場景 安徽低空經(jīng)濟(jì)“高飛”
- 焦點(diǎn)速讀：新疆石河子航空產(chǎn)業(yè)向全產(chǎn)業(yè)鏈發(fā)展邁進(jìn)
- 播報:國家礦山安全監(jiān)察局公布2025年第二批典型執(zhí)法案例
- 國家礦山安全監(jiān)察局公布2025年第二批典型執(zhí)法案例
- A股高開 海洋經(jīng)濟(jì)概念股持續(xù)強(qiáng)勢
- 2025（中國）亞歐商品貿(mào)易博覽會簽約金額逾4179億元
- 6月份中國倉儲指數(shù)為51% 連續(xù)八個月運(yùn)行在擴(kuò)張區(qū)間
- 7月3日央行開展572億元7天期逆回購操作 焦點(diǎn)日報
- 寧夏銀川：智能化與科技創(chuàng)新雙輪驅(qū)動 激活高質(zhì)量發(fā)展新動能 播資訊
- 焦點(diǎn)要聞：寧夏銀川：智能化與科技創(chuàng)新雙輪驅(qū)動 激活高質(zhì)量發(fā)展新動能
- 熱頭條丨中國首座海水漂浮式光伏項(xiàng)目建成投用
- A股海洋經(jīng)濟(jì)板塊周三表現(xiàn)亮眼
- 中國工商銀行獲準(zhǔn)擔(dān)任土耳其人民幣清算行
- 通訊！A股海洋經(jīng)濟(jì)板塊周三表現(xiàn)亮眼
- 每日時訊!京津兩地離境退稅“即買即退”實(shí)現(xiàn)跨城互認(rèn)
- 機(jī)構(gòu)指2025年香港IPO集資額有望重奪全球首位
- 中國工商銀行獲準(zhǔn)擔(dān)任土耳其人民幣清算行_焦點(diǎn)日報
- 機(jī)構(gòu)指2025年香港IPO集資額有望重奪全球首位|焦點(diǎn)簡訊
- 上墳之交是什么意思？上墳之交是什么梗？
- 黃式自信是什么意思？黃式自信是什么梗？|最資訊
- 黃式自信是什么意思？黃式自信是什么梗？
- 山正是什么意思？什么是山正？ 當(dāng)前熱議
- 社交天花板是什么意思？什么是社交天花板？|每日熱聞
- 觀焦點(diǎn)：走進(jìn)首都“材料谷”：政企攜手打造完整新材料產(chǎn)業(yè)鏈生態(tài)
- 焦點(diǎn)快播：你的鎂偷走了我的鋅是什么意思？你的鎂偷走了我的鋅是什么梗？
- 從每月一班到每日十班 河南中歐班列累計(jì)運(yùn)貨逾1228萬噸-每日頭條
- 山東青年創(chuàng)新“智”造 推動民營企業(yè)向“新”而行 每日快播
- 挫男是什么意思？什么是挫男？_時訊
- 今日觀點(diǎn)!中國首艘甲醇雙燃料動力集裝箱船完成綠色甲醇加注
- 海南加速船舶岸電推廣進(jìn)程 推動綠色低碳航運(yùn)|焦點(diǎn)滾動
- 今日訊！南寧粵桂協(xié)同創(chuàng)新中心啟動運(yùn)營
- 南寧粵桂協(xié)同創(chuàng)新中心啟動運(yùn)營
- 觀焦點(diǎn)：優(yōu)化“個轉(zhuǎn)企”辦理流程 九部門出臺意見
- 薅學(xué)家是什么梗？什么是薅學(xué)家？ 天天快報
- 報告稱中國健康科技產(chǎn)業(yè)已轉(zhuǎn)向轉(zhuǎn)型深化階段發(fā)展-快資訊
- 每日快訊!優(yōu)化“個轉(zhuǎn)企”辦理流程 九部門出臺意見
- 【新視野】歐冠十六郎是什么意思？歐冠十六郎是什么梗？
- 焦點(diǎn)關(guān)注：女通訊錄是什么意思？女通訊錄是什么梗？
- 飯性戀是什么意思？飯性戀是什么梗？
- 天天資訊:精神小學(xué)生是什么意思？精神小學(xué)生是什么梗？
- 單身永動機(jī)是什么意思？單身永動機(jī)是什么梗？|每日速讀
- 內(nèi)膽是什么梗？內(nèi)膽是什么意思？
- 百事通！我國創(chuàng)新藥獲批上市呈井噴效應(yīng)
- 焦點(diǎn)！我國創(chuàng)新藥獲批上市呈井噴效應(yīng)
- 卡農(nóng)后遺癥是什么意思？卡農(nóng)后遺癥是什么梗？
- 每日訊息!空閑型焦慮是什么意思？空閑型焦慮是什么梗？
- 每日觀點(diǎn):家用電器出現(xiàn)這幾種情況一定要注意！真的該換新了
- 中國西安醫(yī)療團(tuán)隊(duì)赴哈薩克斯坦培訓(xùn)“洋中醫(yī)”
- 魚刺卡喉，喝熱水可軟化？丨中新真探 每日速訊
- 我國全面進(jìn)入主汛期！這些知識值得收藏
- 家用電器出現(xiàn)這幾種情況一定要注意！真的該換新了 視點(diǎn)
- 焦點(diǎn)短訊！全力搜救中！河南西峽極端強(qiáng)降雨致8人失聯(lián)
- 播報:你習(xí)以為常的6個行為，正在加速結(jié)節(jié)生長！很多人忽視了
- 3歲兒童被熱水燙傷致嚴(yán)重感染 這樣處理不可取
- 上海專家6厘米切口手術(shù)“剪斷”患者十年痙攣枷鎖
- 每日報道：上海專家6厘米切口手術(shù)“剪斷”患者十年痙攣枷鎖
- 血常規(guī)上的“箭頭”代表什么？這4個指標(biāo)很關(guān)鍵|快報
- 長三角地區(qū)50家醫(yī)院72位專家聚力編寫共識 提升腎臟罕見腫瘤診療水平
- 油膩大叔控糖60天變型男，控糖真的這么管用嗎？
- 你習(xí)以為常的6個行為，正在加速結(jié)節(jié)生長！很多人忽視了
- 天天資訊:身體這5處“發(fā)紅”的人氣血足更健康 對照檢查
- 你習(xí)以為常的6個行為，正在加速結(jié)節(jié)生長！很多人忽視了|熱點(diǎn)評
- 溫網(wǎng)綜合：王欣瑜迎開門紅 鄭欽文連續(xù)三年止步首輪
- 每日速看!男籃人才培養(yǎng)亟待跳出“舒適圈”
- 頭條：3歲兒童被熱水燙傷致嚴(yán)重感染 這樣處理不可取
- 斯諾克冠軍聯(lián)賽：肖恩·墨菲爆冷出局
- 2025全國青少年冰球訓(xùn)練營在“中國冰球之城”開啟
- 滾動:曼城爆冷出局 國米慘遭淘汰
- 溫網(wǎng)綜合：王欣瑜迎開門紅 鄭欽文連續(xù)三年止步首輪-每日報道
- 今熱點(diǎn)：（尋味中華丨非遺）千年儺面有了“新面孔”
- 14世紀(jì)以來武備藝術(shù)特展寧波開幕 抗戰(zhàn)大刀展現(xiàn)民族精神 新資訊
- 【獨(dú)家】2025年上半年中國內(nèi)地電影票房達(dá)292.31億元
- 古代中國的“計(jì)程車”如何工作？
- 西藏拉薩百歲養(yǎng)路工人的入黨心愿 今日快訊
- 中國文物迎暑期“出差”熱潮 年輕人從打卡轉(zhuǎn)向讀史 熱聞
- 新疆拾光｜穿越絲路 聽龜茲壁畫“奏響”千年樂舞篇章
- 中俄友好城市晚會點(diǎn)亮撫遠(yuǎn)盛夏之夜 熱頭條
- 暴雨、大霧、強(qiáng)對流 中央氣象臺今晨三預(yù)警齊發(fā)_焦點(diǎn)速讀
- 暑期學(xué)車熱，警惕“低價包過”坑
- 訊息：華北地區(qū)東北地區(qū)四川盆地等地多降雨 江淮江南等地將有持續(xù)性高溫
- 動態(tài):為了規(guī)范納稅繳費(fèi)信用管理，促進(jìn)納稅人繳費(fèi)人誠信自律，提高稅法遵從度，推進(jìn)社會信用體系建設(shè)，國家稅務(wù)總局發(fā)布《納稅繳費(fèi)信用管理辦法》。哪些情形會被直接判為D級？一張圖帶你看明白↓
- 抗日英雄譜丨吉鴻昌：國破尚如此 我何惜此頭-每日消息
- 為了規(guī)范納稅繳費(fèi)信用管理，促進(jìn)納稅人繳費(fèi)人誠信自律，提高稅法遵從度，推進(jìn)社會信用體系建設(shè)，國家稅務(wù)總局發(fā)布《納稅繳費(fèi)信用管理辦法》。哪些情形會被直接判為D級？一張圖帶你看明白↓
- 【播資訊】云南大臨鐵路線路區(qū)間發(fā)生水害 列車臨時停運(yùn)
- 拆包裝像“闖關(guān)游戲”，過度包裝怎么治？
- “90”后告訴90后：什么是“紅”