2023年中國網(wǎng)絡文明大會算法治理論壇昨日在廈門舉辦。論壇以“算法治理向上向善 網(wǎng)絡文明共建共享”為主題展開探討，來自算法領域的專家學者和企業(yè)代表通過主題演講等形式，聚焦人工智能技術發(fā)展的重點難點，立足算法綜合治理在新形勢下的迫切需求，共同探討人工智能技術創(chuàng)新發(fā)展新路徑、算法綜合治理新方法。
算法是數(shù)字社會、數(shù)字經(jīng)濟的重要基礎，在社交媒體、電子商務、信息平臺等多領域被廣泛應用。在主題演講環(huán)節(jié)，6位嘉賓分別圍繞“通用人工智能的應用與治理”“AIGC時代全媒體傳播體系面臨的挑戰(zhàn)及對策建議”“AI大模型應用下的算法治理挑戰(zhàn)與應對”“智能算法安全現(xiàn)狀與綜合治理實踐”“總臺算法——大模型價值認知”等不同角度展望算法治理未來方向，共同尋求合理有效的算法治理路徑。
AI應用不斷推陳出新
AI變革的時代，隨著算力不斷發(fā)展，數(shù)據(jù)的膨脹，算法的創(chuàng)新和迭代，業(yè)界已經(jīng)涌現(xiàn)出各種各樣的模型，能夠把人工智能的能力發(fā)揮出來，影響各行各業(yè)。近日，阿里云宣布AI繪畫創(chuàng)作大模型“通義萬相”開啟定向邀測，這是繼大語言模型“通義千問”、聚焦音視頻內容的“通義聽悟”之后，阿里云通義大模型家族的又一位新成員�！叭绻獙⒋竽Ｐ退惴ㄟ@一技術推廣、運用到生產(chǎn)和科研中去，它的成本一定要降低，才可能被更多人使用，而這也是我們集團當前的發(fā)展思路�！卑⒗镌浦悄芗瘓F副總裁朱冉說。
百度自 2019 年開始大模型的研發(fā)工作，先后發(fā)布知識增強文心系列模型。前不久，百度正式發(fā)布文心大模型 3.5 版本，進一步在基礎模型、知識增強、檢索增強等多項核心技術上取得創(chuàng)新。百度集團人工智能算法委員會主席、集團副總裁吳甜表示，大模型還面臨著不少的挑戰(zhàn)，大模型建設非常復雜，難度高、成本高，在算力、數(shù)據(jù)、算法三個層面要有深厚的積累。應用場景雖然現(xiàn)在很豐富，但大量的場景在引入大模型技術解決問題的同時，也遇到各種各樣的問題，包括穩(wěn)定性和可控性等。
算法治理面臨不少挑戰(zhàn)
“算法缺陷導致智能系統(tǒng)存在崩潰隱患，如自動駕駛事故、金融市場閃崩、地區(qū)大停電等等�！敝袊茖W院計算技術研究所副所長程學旗提到算法治理面臨著不少的挑戰(zhàn)，算法濫用導致社會不公和群體極化，危害社會穩(wěn)定，如派單算法霸凌、算法誘使沉迷、大數(shù)據(jù)殺熟，推薦算法引發(fā)信息繭房和社會偏見等。他認為，算法治理要擁抱“技術治理”主義，要利用風險監(jiān)測系統(tǒng)開展算法風險自動巡查，構建算法評估體系支撐，常態(tài)化算法安全評估。加快建設和出臺系列算法合規(guī)標準，形成監(jiān)測、研判、評估的算法治理閉環(huán)體系，各方共同協(xié)作，構建一個良性的可持續(xù)發(fā)展的生態(tài)。
要大力推進發(fā)展更要全流程管理
人民網(wǎng)董事長、總裁，傳播內容認知全國重點實驗室主任葉蓁蓁表示，未來只能用AI治理AI，統(tǒng)籌發(fā)展與安全，首先要大力推進發(fā)展，不發(fā)展或者發(fā)展慢，將是最大的不安全。
新華社媒體融合生產(chǎn)技術與系統(tǒng)國家重點實驗室常務副主任賀大為表示，從算法的訓練模型，以及它的應用，全流程都應該進行相應的管理�！岸@個管理的過程，應該是各部門乃至全社會形成合力�！�(記者 盧金福)