“AI教父”辛頓:多模態(tài)聊天機器人已具有“意識”,各國應分享讓AI“善良”的技術_每日視訊
7月26日,2025世界人工智能大會(WAIC)正式開幕。在上午的開幕儀式上發(fā)表主題演講后,圖靈獎得主、諾獎得主、“AI教父”杰弗里·辛頓(Geoffrey Hinton)出席了下午的科學前沿全體論壇,與上海AI Lab主任周伯文展開一場尖峰對話。在現場,辛頓受到了全體觀眾的熱烈歡迎。
可以說AI“有意識”,各國應分享讓AI善良的方法
首先,周伯文詢問了辛頓對于“多模態(tài)和語言模型能發(fā)展出自己的主觀體驗”的觀點的解讀。辛頓表示,這嚴格來說并不是一個科學問題,而是取決于對“主觀體驗”或“意識”的定義,實際上,許多人對這些概念的理解存在系統性錯誤。
為解釋這一觀點,辛頓先談到了自己在1987年發(fā)表的論文《The Horizontal-Vertical Delusion》中的經典案例,他指出,許多人在描述水平與垂直的概念時雖然能夠正確區(qū)分,但在實際判斷中存在系統性混淆,忽視了“垂直”其實是一種非常特殊的方向。
將其類比到“模型是否有主觀意識”的論點,辛頓指出:“我認為,許多人對于‘主觀體驗(subjective experience)’這類術語的理解完全錯誤。他們的理論很有說服力,但完全錯誤。這并非一個科學問題,而是建立在一個錯誤的關于心理狀態(tài)的模型上,關于這些術語的運用。所以,我的觀點是,當今的多模態(tài)聊天機器人已經具有意識。”
在辛頓之前,2024圖靈獎得主、阿爾伯塔大學教授Richard Sutton也在會上發(fā)表了視頻演講,稱AI發(fā)展已進入一個模型能夠在真實環(huán)境中持續(xù)學習和積累經驗的新階段。
關于主觀體驗,辛頓進一步闡釋道,當AI以機器人等形式進入世界,它們就有了自己的“體驗”,可以從自己的經驗中學習:“我認為它們會有經驗,但經驗不是事物。而且經驗不像照片,經驗是你和一個物體之間的關系。”
關于AI安全,辛頓再次強調,讓AI“聰明”和“善良”是兩個截然不同的問題,為了實現這兩者,即使是同一個大模型也需要兩種訓練技術:“所以,國家應該分享讓模型善良的技術,即使他們不愿意分享讓模型聰明的技術。”
辛頓補充道,可能存在讓AI善良的通用訓練方法,但當AI變得越來越智能時,保證其善良的現有方法也可能失效,所以需要在這個方面進行大量研究。
建議年輕研究者“著眼于那些你認為所有人都做錯了的領域”
在對話中,辛頓還談到,自己獲得諾貝爾物理學獎是一個“錯誤”:“他們很想頒獎給AI領域,但沒有AI領域的諾貝爾獎,所以他們只能將物理學獎頒給AI(的科學家)。”
關于AI對其他領域科學發(fā)展的影響,辛頓認為,AI確實為科學做出了許多貢獻,最顯著的一個例子是醫(yī)藥領域的蛋白質折疊,相信AI今后也能為科學帶來更多突破。
最后,被問到對年輕研究者們的建議,辛頓表示,在進行原創(chuàng)研究時,要著眼于那些“認為其他所有人都做錯了”的領域:“通常在這種情況下,你會鉆研自己認為正確的更好的方法,并最終理解為什么其他人會那樣做、為什么你是錯的。但是,不要放棄,不要認為自己的方法很愚蠢,不要在意導師的意見,堅持自己的方法直到理解錯在哪里。而有時,當你堅持自己所相信的,結果是你沒有錯。這就是出現重大突破的地方。輕易放棄的人無法成功,你需要在其他人反對時堅持下去。”
辛頓補充道,有一種邏輯能夠支撐這一觀點:“你要么擁有好的直覺,要么擁有壞的直覺。如果你的直覺好,你當然應該堅持自己的直覺;如果你的直覺不好,那么做什么都無關緊要,所以你依然應該堅持自己的直覺。”
在當天上午的演講中,辛頓發(fā)表了一篇圍繞AI安全的主題演講。辛頓表示,人類實際上很像大語言模型。他將人類目前的處境比作養(yǎng)小老虎當寵物,如果人類想要生存,必須找到辦法訓練AI,不要讓AI消滅人類,讓一個真正聰明的AI不想接管世界:“我們目前根本不知道如何做到這一點,長遠來看,這是人類面臨的最重要的問題。好消息是,這是一個所有國家都應該能夠合作解決的問題。”
2024年10月8日,瑞典皇家科學院宣布,將2024年諾貝爾物理學獎授予美國普林斯頓大學的約翰·霍普菲爾德和加拿大多倫多大學的杰弗里·辛頓,以表彰他們“為推動利用人工神經網絡進行機器學習作出的基礎性發(fā)現和發(fā)明”。辛頓是卷積神經網絡理論的領軍人物,也被視為由ChatGPT掀起的本輪AI技術躍進背后的奠基性科學家,被譽為“AI教父”。
本次世界人工智能大會以“智能時代 同球共濟”為主題,共規(guī)劃了超100場專業(yè)論壇,匯聚1200余位全球專家,12位圖靈獎、諾獎得主,大會將持續(xù)至7月28日。
標簽:
搶先讀
- 每日消息!農業(yè)農村部等十部門印發(fā)《促進農產品消費實施方案》
- 國家統計局解讀:6月份規(guī)模以上工業(yè)企業(yè)利潤降幅收窄_每日動態(tài)
- “AI教父”辛頓:多模態(tài)聊天機器人已具有“意識”,各國應分享讓AI“善良”的技術|每日視訊
- 今亮點!國家統計局解讀:6月份規(guī)模以上工業(yè)企業(yè)利潤降幅收窄
- “AI教父”辛頓:多模態(tài)聊天機器人已具有“意識”,各國應分享讓AI“善良”的技術_每日視訊
- 中國的音樂創(chuàng)作,怎么才能有觀眾緣?_熱點評
- 手術闊別巡回賽6個半月,商竣程終于要回到想念已久的賽場了
- 手術闊別巡回賽6個半月,商竣程終于要回到想念已久的賽場了|速看料
- 《年輪》原唱之爭,密密麻麻是誰的自尊|每日速訊
- 中國的音樂創(chuàng)作,怎么才能有觀眾緣?
- 聚焦:體壇聯播|國安遭遇中超兩連敗,王楚欽乒超三戰(zhàn)三勝
- 收好這份觀賽攻略,斯諾克上海大師賽看球更盡興!
- 當前看點!中國的音樂創(chuàng)作,怎么才能有觀眾緣?
- 焦點報道:中國央行將開展4000億元MLF操作
- “鋼鐵巨臂”架右江 百色升船機破西南“通江達海”難題|即時看
- 即時看!中國央行將開展4000億元MLF操作
- 【快播報】廣西設立科技成果轉化基金 首期母基金達20億元
- 今日熱文:中國央行將開展4000億元MLF操作
- 廣西助機電企業(yè)拓東盟市場 暢通“廣西制造”出海通道 今日熱搜
- 廣西設立科技成果轉化基金 首期母基金達20億元
- 今日熱訊:山東助企紓困有“實招” 民營經濟“煥”新活力
- 每日簡訊:廣西來賓赴穗開展現代農業(yè)招商 簽約項目投資額逾15億元
- 證監(jiān)會同意線型低密度聚乙烯、聚氯乙烯、聚丙烯月均價期貨注冊 每日速訊
- 山東助企紓困有“實招” 民營經濟“煥”新活力
- 焦點資訊:中國斗南花卉展覽館開館 講述“亞洲花都”蝶變之路
- 中國證監(jiān)會同意大連商品交易所聚丙烯等三個化工品月均價期貨注冊
- 上半年新疆外貿規(guī)模創(chuàng)歷年同期新高
- 兩部門發(fā)文加強金融服務農村改革 推進鄉(xiāng)村全面振興
- 廣東惠東:累計保護野生海龜上岸產卵745窩
- 廣東惠東:累計保護野生海龜上岸產卵745窩 每日焦點
- 活力中國調研行|如何救助野生動物幼崽?專業(yè)人士教你幾招
- 活力中國調研行|如何救助野生動物幼崽?專業(yè)人士教你幾招
- 速看:重慶梁平:巴蜀美麗庭院繪就和美鄉(xiāng)村新圖景
- 千城百縣看中國|內蒙古:聽見草原的呼吸 感受孩子的心跳
- 大運會中國志愿者的得與失|焦點快報
- 天天資訊:北京升級發(fā)布暴雨黃色預警信號 啟動全市防汛三級應急響應
- 河北升級重大氣象災害(暴雨)應急響應至Ⅲ級 快播
- 活力中國調研行|花樣鄉(xiāng)村高原“盛放”
- 地鐵站“空調醫(yī)生”:攀高爬低 守護一份“清涼”
- 《中國農村發(fā)展報告2025》在京發(fā)布
- 北京升級發(fā)布暴雨黃色預警信號 啟動全市防汛三級應急響應|每日熱點
- 家里太多“吧唧”致女孩中毒就醫(yī)?這些“隱形毒物”你家可能也有|關注
- 每日消息!年輕人更青睞潮流“價值共鳴”
- 海河流域提升防汛和洪水防御應急響應
- 內蒙古持續(xù)發(fā)布農田漬澇災害風險預警
- 當前關注:內蒙古持續(xù)發(fā)布農田漬澇災害風險預警
- 年輕人更青睞潮流“價值共鳴”_微頭條
- “棉密碼”衛(wèi)生巾被檢出致癌物,從“合規(guī)”到安全還差多遠
- 供需兩端支撐 鉑金價格年內漲超五成 焦點速讀
- 最新快訊!真有用還是玩噱頭?“高科技”防曬產品受質疑
- “棉密碼”衛(wèi)生巾被檢出致癌物,從“合規(guī)”到安全還差多遠
- 我國兒童化妝品步入發(fā)展快車道 今日熱訊
- “大白熊”加入高端戶外混戰(zhàn)|速訊
- 中國交響樂團新樂季發(fā)布 十余部中國作品將與觀眾見面 3套作品為世界首演
- 《藏海傳》領跑上半年劇集市場 爆款劇少了 短集數劇或迎風口
- 黃土地里,有著現實主義的深沉力量 微速訊
- 祛魅與重構《讓我來唱》探索全女性音樂競技新范式|滾動
- 長野健、祖賓·梅塔、鄭明勛接力來京演出 大師用指揮棒寫下北京情緣 當前熱門
- 祛魅與重構《讓我來唱》探索全女性音樂競技新范式 每日熱點
- 從《林則徐》到《費加羅的婚禮》 國家大劇院“第二現場”重新定義藝術傳播的邊界|天天資訊
- “國家隊”紛紛出戰(zhàn) 向長劇標準看齊 短劇暑期檔不止于“爽”|每日聚焦
- 資訊:紀錄片《詩美成都》:一場美好的心靈之旅
- 頭條焦點:紀錄片《詩美成都》:一場美好的心靈之旅
- 中國電影產業(yè)破局票房依賴癥
- 音樂與城市雙向奔赴!申城演唱會多點開花
- 中國電影產業(yè)破局票房依賴癥_熱門
- 北京將發(fā)放1000萬元觀影補貼助力暑期國慶電影市場 快資訊
- 第19屆西寧FIRST青年電影展揭幕 45部入圍影片集中展映
- 鴻星爾克“熊貓家園守護計劃”啟動, 國貨與國寶的“雙向奔赴”再續(xù)感動
- 今日看點:斯里蘭卡將出任第22屆東博會特邀合作伙伴
- 首屆全球智能機械與電子產品博覽會在廣州進行推介
- 超級充電樁真能緩解“充電焦慮”嗎|速讀
- 熱議:逐“綠”而行 向“新”而興——能源革命的浪潮奔涌,國神公司站立在潮頭
- 國網定西供電公司:帶電消除隱患 保障電網安全穩(wěn)定運行|最新消息
- 重點聚焦!逐“綠”而行 向“新”而興——能源革命的浪潮奔涌,國神公司站立在潮頭
- 訊息:中國石化亮相鏈博會 以硬核科技繪就能源未來新圖景
- 國網定西供電公司:帶電消除隱患 保障電網安全穩(wěn)定運行
- 今日熱門!國家電網:電網升級賦能高質量發(fā)展 綠電躍階加速能源轉型
- 【播資訊】戰(zhàn)略為舵 人才為槳 北控水務青年干部培訓班正式開班
- 第三屆動力電池質量安全大會啟動會在京召開
- 國際首個納米金剛石標準發(fā)布
- 國家電網:電網升級賦能高質量發(fā)展 綠電躍階加速能源轉型 焦點播報
- 戰(zhàn)略為舵 人才為槳 北控水務青年干部培訓班正式開班 每日速訊
- 廢料“重生記”——國神公司以科技之力破解綠色循環(huán)密碼-動態(tài)
- 每日簡訊:新華能源周報丨國家能源局發(fā)布最新全國電力工業(yè)統計數據;多家能源央企高層調整
- 北控水務集團總裁周敏一行拜訪晉城市副市長楊曉雷
- 最資訊丨“源網荷儲智多場景用戶側儲能應用沙龍暨負荷中心低碳保供與靈活性資源潛力研究成果發(fā)布”在江蘇蘇州舉行
- 吳橋縣亮相《300秒看家鄉(xiāng)》 千年雜技韻·萬象煥新程|觀焦點
- 吳橋縣亮相《300秒看家鄉(xiāng)》 千年雜技韻·萬象煥新程
- 300秒看家鄉(xiāng)︱甘肅省隴南市宕昌縣:紅色圣地 千年藥鄉(xiāng) 山水官鵝 康養(yǎng)福地
- 創(chuàng)新文旅體驗破解審美疲勞-滾動
- 看!夜間經濟熱度不一般
- 劍閣縣亮相《300 秒看家鄉(xiāng)》:雄關古道承千年文脈,文旅融合啟發(fā)展新篇
- 今日熱聞!“舊廠房”變身“新地標” | 樂陵拾光沉浸式街區(qū)正式亮相
- 劍閣縣亮相《300 秒看家鄉(xiāng)》:雄關古道承千年文脈,文旅融合啟發(fā)展新篇
- 焦點速遞!中歐旅游“你來我往”深度互動
- “詩畫秦嶺 醉美留壩” 留壩縣亮相《300秒看家鄉(xiāng)》
- 一盤鍋包肉 與城一起火 微資訊
- 中歐旅游“你來我往”深度互動
- 300秒看家鄉(xiāng)︱河北省邯鄲市永年區(qū):太極之鄉(xiāng) 魅力永年