人工智能雙刃劍，如何把好“安全關(guān)”？
面對人工智能這把雙刃劍，我們該如何把好“安全關(guān)”?鄔江興首先指出，AI算法模型存在“三不可”的基因缺陷，即不可解釋性、不可判識性以及不可推論性。
他認為，整個AI安全可分為內(nèi)生安全問題和非內(nèi)生安全問題，內(nèi)生又分為個性問題和共性問題，當下，網(wǎng)絡(luò)內(nèi)生安全問題正在全面挑戰(zhàn)當今世界生態(tài)系統(tǒng)底層驅(qū)動技術(shù)。網(wǎng)絡(luò)內(nèi)生安全范式應(yīng)當是AI可信應(yīng)用系統(tǒng)理論發(fā)展方向，智能時代需要正確的理論方向，以確保AI技術(shù)的健康發(fā)展。
中國科學(xué)院院士馮登國談到，當前，人工智能技術(shù)已經(jīng)從較為單一的算法發(fā)展階段跨越到了軟件、硬件與應(yīng)用場景相結(jié)合的全方位、一體化的發(fā)展階段，AI算法的更新迭代，使得傳統(tǒng)安全分析技術(shù)無法適應(yīng)人工智能領(lǐng)域出現(xiàn)的新算法和新模型。
馮登國表示，應(yīng)對網(wǎng)絡(luò)空間安全形勢變化，需要更堅實、富有彈性的網(wǎng)絡(luò)空間安全保障體系。他從數(shù)據(jù)泄露、關(guān)基保護、深度偽造、錯誤信息涌現(xiàn)等角度解讀大模型伴生的安全風險和挑戰(zhàn)，并從政策法規(guī)制定、前沿技術(shù)探索和創(chuàng)新能力提升三個維度思考應(yīng)對之策。
綠盟科技集團董事長、總裁胡忠華直言，近年來持續(xù)加大在數(shù)據(jù)安全、人工智能等領(lǐng)域的創(chuàng)新投入。一方面，圍繞日志降噪、推理研判、自動化滲透攻擊三個安全實戰(zhàn)場景，持續(xù)迭代安全垂域大模型，通過提示詞工程構(gòu)建安全專家思維鏈，并使用檢索增強、知識圖譜提升可信度和專業(yè)度，為用戶提供具備可落地的安全檢測、研判能力。
另一方面，持續(xù)加強技術(shù)研究與創(chuàng)新，從構(gòu)建可信任的安全智能生態(tài)出發(fā)，逐步構(gòu)建“大模型+小模型”協(xié)同安全運營新體系，并在大模型安全性方向進行深入研究，發(fā)布了AI大模型安全威脅矩陣及風險評估工具，幫助用戶在自有模型時管理安全風險。
教育部信息技術(shù)新工科聯(lián)盟網(wǎng)絡(luò)空間安全工委會主任、杭州市人工智能學(xué)會副理事長胡瑞敏認為，在數(shù)據(jù)被列為第五大生產(chǎn)要素的今天，應(yīng)對數(shù)據(jù)供不出、流不動、安全保障難等挑戰(zhàn)，亟需構(gòu)建一個面向數(shù)據(jù)要素化的數(shù)據(jù)生命周期安全防護體系。
胡瑞敏以數(shù)據(jù)安全風險事件為切入點，引出當前數(shù)據(jù)安全面臨的困境，即數(shù)據(jù)分級分類、可信確權(quán)以及數(shù)據(jù)安全利用，并進一步對其團隊在數(shù)據(jù)安全防護密碼技術(shù)領(lǐng)域的研究工作進行了介紹。
國家工業(yè)信息安全發(fā)展研究中心首席專家、數(shù)據(jù)安全所所長李俊指出，數(shù)據(jù)作為數(shù)字經(jīng)濟時代的關(guān)鍵新興生產(chǎn)要素，保障數(shù)據(jù)安全已成為事關(guān)國家安全與經(jīng)濟社會發(fā)展的重大問題。隨著新一代信息技術(shù)與制造業(yè)深度融合，工業(yè)企業(yè)數(shù)字化、網(wǎng)絡(luò)化、智能化加速推進，工業(yè)數(shù)據(jù)載體漏洞和后門、非受控運維、數(shù)據(jù)暴露面等數(shù)據(jù)安全風險日益突出。
標簽： 人工智能 雙刃劍 立案必須滿足三個條件
搶先讀
- 西藏大學(xué)舉辦第七屆珠穆朗瑪文學(xué)藝術(shù)獎獲獎作品論壇
- 2024“愛運動，愛飛行”模擬飛行進社區(qū)活動（廈門站）亮相文博會
- 人工智能雙刃劍，如何把好“安全關(guān)”？
- “演唱會+”讓“城市流量”曲終人不散
- bread是可數(shù)還是不可數(shù)？bread前面用some還是much？
- 搬遷需求主導(dǎo)北京辦公樓租賃市場 部分以價換量成效明顯
- 國慶消費火熱 樓市信心修復(fù) 政策組合拳發(fā)力
- 西藏林芝秋色絢爛
- 北京鏈家打造簽約服務(wù)中心 一站式服務(wù)引領(lǐng)房產(chǎn)交易新體驗
- 美的置業(yè)發(fā)布董事調(diào)整相關(guān)公告 進一步提升公司治理水平
- 和光煦境 | 朝青實境現(xiàn)房 收獲時間的答案
- 北京科技金融辦公新地標 中海金融中心亮相
- 中國鐵建地產(chǎn)持續(xù)深耕長三角 打造產(chǎn)品核心競爭力
- 對以舊換新騙補、套補行為必須零容忍
- 第十六屆邊坡工程技術(shù)大會在北京落幕
- 全國住房城鄉(xiāng)建設(shè)行業(yè)職業(yè)技能大賽在合肥舉辦
- 杜馬·博科當選博茨瓦納總統(tǒng)
- 塞爾維亞火車站雨棚倒塌事故死亡人數(shù)升至14人
- 高新區(qū)扎實開展“進萬企、解難題、優(yōu)環(huán)境、促發(fā)展”工作
- 深秋收獲忙
- 中國圖書亮相伊斯坦布爾國際圖書展
- 交通運輸部孫文劍：破解交通時代之困 打造“兩路”超級IP
- 神十八載人飛行任務(wù)取得圓滿成功 葉光富累計飛行超一年創(chuàng)紀錄
- 2024玉溪撫仙湖半程馬拉松賽舉行
- 俄羅斯符拉迪沃斯托克舉辦“友誼之路”中國傳統(tǒng)文化推廣活動
- 神舟十八號航天員乘組安全順利出艙
- 四川宣漢：“宣工夜宵”正式上線“工享時光”
- “四葉草”“定妝” 靜待第七屆進博會啟幕
- 葉光富、李聰、李廣蘇平安抵京 太空出差半年平安回家
- 成都京東方醫(yī)院腫瘤中心醫(yī)生在全省比賽中斬獲佳績
- 達州市中心醫(yī)院獲批“四川省級醫(yī)養(yǎng)服務(wù)人才培訓(xùn)基地”
- 上“新”了，進博會！
- 南充市南部縣人民醫(yī)院李濤：醫(yī)者仁心照亮生命之光
- 2024年四川省住院醫(yī)師規(guī)范化培訓(xùn)宣講進校園暨醫(yī)學(xué)生人文教育宣講活動在川北醫(yī)學(xué)院附屬醫(yī)院舉辦
- 廣元市第三人民醫(yī)院：生死時速！八旬老人嘔吐窒息醫(yī)護施救力挽生命
- 山東蒙陰 探索符合山區(qū)特色司法為民舉措
- 南充市南部縣司法局續(xù)寫“法治進校園”新篇章
- 電力賦能文旅熱 電靚宜賓新名片
- 西華師大國際學(xué)院師生赴附中開展文化交流活動
- “李寧杯”2024第一屆全國匹克球冠軍賽在成都市新津區(qū)天府農(nóng)博園G2館圓滿落幕
- “進博效益”吸引新朋友 眾多老朋友和進博“全勤生”也如約而至
- “聰明車”必須是“安全車”
- 萬千氣象看四川——資陽雁江：一顆蜜柑種出新“橘”面
- “四葉草”“定妝” 靜待第七屆進博會啟幕
- 三峽庫區(qū)進入高水位運行 沿江小鎮(zhèn)秋意如畫
- 中國女足2：0戰(zhàn)勝越南女足 獲永川國際女足錦標賽冠軍
- 上海：陸家嘴亮燈迎接進博會
- 行業(yè)專家熱議氫能燃料電池技術(shù)應(yīng)用：需在乘用車市場發(fā)力
- 中國空間站第七批空間科學(xué)實驗樣品順利返回
- 長江文化藝術(shù)季在湖北宜昌閉幕
- 美心紅酒小鎮(zhèn)第6屆紅酒節(jié)暨穿越時空奇妙夜本周六開啟
- 第二十屆桂臺經(jīng)貿(mào)文化合作論壇在廣西南寧開幕
- 第五屆漢豐湖“水上歡樂季”啟動
- 2024中國醫(yī)師公益大會舉辦 鐘南山：醫(yī)者也要重視人文精神
- 電梯里的“救命按鈕”怎么才能在緊急時刻不掉鏈子？
- 印尼勒沃托比火山噴發(fā)致9人死亡
- 救命產(chǎn)品也有假貨 過濾式消防自救呼吸器售假現(xiàn)象普遍
- 10個飯后小習(xí)慣 有1個真不建議你做！
- 焦點訪談：接續(xù)逐夢 屢創(chuàng)紀錄
- 從“歇腳地”到“打卡地” 內(nèi)蒙古高速服務(wù)區(qū)成為交旅融合新窗口
- 徽風皖韻，浸潤網(wǎng)絡(luò)普法
- 電梯里的“救命按鈕”怎么才能在緊急時刻不掉鏈子？
- 孩子注意力不集中、好動，怎么辦 | 科普時間
- 今年前三季度 江西省建筑業(yè)企業(yè)完成總產(chǎn)值6920.4億元
- 電梯里的“救命按鈕”怎么才能在緊急時刻不掉鏈子？
- 10個飯后小習(xí)慣 有1個真不建議你做！
- 能源轉(zhuǎn)型持續(xù)推進 厚植可持續(xù)發(fā)展清潔底色
- 中新健康｜第五屆易水學(xué)派傳承創(chuàng)新發(fā)展大會在河北易縣開幕
- 前三季度南昌市規(guī)上工業(yè)企業(yè)營收5228.43億元 同比增長12.0%
- 中國國際消費中心城市消費月啟動 陳吉寧王文濤慎海雄出席 龔正殷勇張工胡衡華作推介
- “蟹卡”提貨、民宿預(yù)訂……三季度消費投訴熱點一覽
- 中國多地法官及業(yè)界人士齊聚重慶高院 共話知識產(chǎn)權(quán)保護
- 中國國際消費中心城市消費月啟動 陳吉寧王文濤慎海雄出席 龔正殷勇張工胡衡華作推介
- 江西南昌推出存量房交易“一人一窗一機”服務(wù)新模式
- 突然惡心、嘔吐、腹瀉？警惕諾如病毒感染！| 科普時間
- 水資源費改稅推向全國 影響幾何？
- 強冷空氣影響持續(xù)！明后天早晨全國多地氣溫將創(chuàng)今年立秋來新低
- 中新健康｜數(shù)智化醫(yī)療如何助力健康中國建設(shè)？院士專家齊支招
- 中新健康｜第五屆易水學(xué)派傳承創(chuàng)新發(fā)展大會在河北易縣開幕
- 學(xué)前教育法草案三審 明確保護學(xué)前兒童名譽隱私
- 中新健康｜數(shù)智化醫(yī)療如何助力健康中國建設(shè)？院士專家齊支招
- 中新健康｜天津率先實現(xiàn)國家傳染病智能監(jiān)測預(yù)警前置軟件部署應(yīng)用
- 重慶潼南全力打造中國第一汽車后市場
- 中新健康｜天津率先實現(xiàn)國家傳染病智能監(jiān)測預(yù)警前置軟件部署應(yīng)用
- 從山東濟南出發(fā)，跨越2900公里 “疆電入渝”特高壓工程“心臟設(shè)備”入渝
- 提高額度 降低利率 國家助學(xué)貸款政策有兩大調(diào)整
- 學(xué)前教育法草案三審 明確保護學(xué)前兒童名譽隱私
- 川渝農(nóng)民工服務(wù)周啟動 2000家企業(yè)將帶來約6萬個崗位
- 海南遭遇新一輪強降雨 加快災(zāi)后重建
- 基礎(chǔ)研究較快增長 江西研發(fā)經(jīng)費投入總量和強度實現(xiàn)雙增長
- 中新教育｜聚焦家庭教育熱點話題 政產(chǎn)學(xué)研界共話未來發(fā)展
- 重慶武隆景區(qū)設(shè)立外幣兌換點 助力旅游國際化發(fā)展
- 學(xué)前教育法草案三審 明確保護學(xué)前兒童名譽隱私
- 中國四部門調(diào)整完善國家助學(xué)貸款政策
- 百余方古印原物亮相西泠印社甲辰秋季雅集系列展
- 中新教育｜紀念盛宣懷誕辰180周年系列活動在滬舉辦
- 諾獎得主皮埃爾·阿戈斯蒂尼受聘南開大學(xué) 共建國際聯(lián)合研究中心
- “在中國為全球” 松下七赴進博之約展示首發(fā)首展新品
- 浙江嘉興：第十二屆西塘漢服文化周啟幕
- 財政部將在沙特利雅得發(fā)行美元主權(quán)債券