「自主決策AI」與「開源AI」的監(jiān)管方向成為全球熱話。有鑒於此，嶺南大學(xué)（嶺大）與意大利博洛尼亞大學(xué)一連兩日(10月25日至26日)合辦「第二屆人工智能治理技術(shù)國際研討會」。該研討會是「第28屆歐洲人工智能大會」的一部分，匯聚多位世界頂尖專家、學(xué)者與政策制定者，旨在提升AI風(fēng)險評估、責(zé)任追蹤及安全保障等方面的監(jiān)測，促進(jìn)亞洲與歐洲在AI治理上的跨區(qū)域交流。為期兩天活動共吸引逾150名學(xué)者和學(xué)生參與。
研討會於博洛尼亞大學(xué)工程學(xué)院以線上及線下形式進(jìn)行，聚焦三大核心議題，包括(一)「開源AI」的治理；(二)「自主決策AI」的風(fēng)險與治理；以及(三)邁向「以人為本的AI」的技術(shù)。
嶺大副校長姚新期望就AI治理的問題，將『亞洲觀點』帶入歐洲討論平臺，同時汲取歐洲的經(jīng)驗，促進(jìn)全球在AI技術(shù)開發(fā)與應(yīng)用方面制定藍(lán)圖。
嶺大副校長（研究及創(chuàng)新）及唐天燊機器學(xué)習(xí)講座教授姚新教授就「開源AI治理」發(fā)表專題演講。他指出，人工智能正迅速改變世界，但AI透過內(nèi)部運算所作出的建議或決策，背後原因仍然模糊，業(yè)界有必要透過技術(shù)提升AI模型的透明度和可解釋性。他表示：「監(jiān)管AI不僅是倫理或法律的問題，更需要利用技術(shù)支援監(jiān)測、審計與問責(zé)，推動發(fā)展更可靠、可監(jiān)管的AI系統(tǒng)。我們希望就AI治理的問題，將『亞洲觀點』帶入歐洲討論平臺，同時汲取歐洲的經(jīng)驗，促進(jìn)全球在AI技術(shù)開發(fā)與應(yīng)用方面制定藍(lán)圖。」
IBM研究部（東京）資深技術(shù)人員Takayuki Osogami博士指出，某些AI系統(tǒng)可以自己做決策、計劃未來甚至制定策略，這類「自主AI」如果沒有適當(dāng)規(guī)管，可能帶來嚴(yán)重風(fēng)險，包括危及人類安全或引發(fā)全球性災(zāi)難。他認(rèn)為，目前大部分規(guī)管只看AI的運算能力大小，這不足以判斷真正的風(fēng)險。他建議應(yīng)觀察AI系統(tǒng)「自主行動的程度」，即它能自己做多少決策，來作為評估風(fēng)險的指標(biāo)，這比單純看它處理的數(shù)據(jù)或環(huán)境更準(zhǔn)確。
歐洲人工智能、數(shù)據(jù)與機器人協(xié)會主席Emanuela Girardi女士指出，近年出現(xiàn)的「自主決策AI」與「實體AI」，能在數(shù)碼世界或現(xiàn)實中自行決策和行動，帶來前所未有的管治挑戰(zhàn)。這些AI系統(tǒng)幾乎毋須人類監(jiān)督就能運作，遠(yuǎn)超現(xiàn)有針對人類操作系統(tǒng)而設(shè)的規(guī)管範(fàn)圍，可能引發(fā)多層面的風(fēng)險。例如，「自主決策AI」可能採取意想不到的方式完成目標(biāo)，甚至透過心理手法影響用戶;而「實體AI」則可能出現(xiàn)安全問題，從自動駕駛汽車到家用機械人，一旦出錯可能造成傷亡或財物損失。無論是AI伴侶可能引發(fā)的心理操控，還是工業(yè)及家居自動機械人的部署，都顯示政府和機構(gòu)目前仍難以跟上快速發(fā)展的新技術(shù)。
她又指出，目前全球AI管治碎片化、缺乏協(xié)調(diào)，即使有不少國家推出倫理原則或指引，仍未有具約束力的規(guī)管框架。她提出，歐洲及全球?qū)用娑夹枰⒖尚械墓苤慰蚣埽_保AI符合人類價值觀並接受有效監(jiān)管。
圖爾庫大學(xué)資訊系統(tǒng)科學(xué)教授Matti M?ntym?ki教授在研討會上指出，企業(yè)需要將倫理原則和監(jiān)管要求這些抽象概念，轉(zhuǎn)化為應(yīng)用AI的實際決策流程和問責(zé)機制。他又分享與業(yè)界合作五年的研究成果，提出一套專為不同組織設(shè)計的AI治理框架，在實際應(yīng)用中得到的寶貴經(jīng)驗和教訓(xùn)，能為不同企業(yè)建立可靠的AI治理提供清晰指引。
其他參與研討會的講者和嘉賓，均為世界各地學(xué)術(shù)界、產(chǎn)業(yè)界和政府部門等不同領(lǐng)域的知名且極具影響力的學(xué)者，包括嶺大數(shù)據(jù)科學(xué)學(xué)院工業(yè)數(shù)據(jù)科學(xué)部副教授劉佳琳教授;慕尼黑工業(yè)大學(xué)人工智能倫理研究所所長Christoph Lütge教授;倫敦大學(xué)學(xué)院計算機科學(xué)系教授Mirco Musolesi教授;費拉拉大學(xué)數(shù)學(xué)與計算機科學(xué)系教授Fabrizio Riguzzi教授;博洛尼亞大學(xué)法律理論與人工智能與法律、法律哲學(xué)教授Antonino Rotolo教授;Convergence Analysis人工智能安全研究員Elliot Mckernon博士;特倫托大學(xué)博士後研究員Daniele Proverbio博士;麥基爾大學(xué)研究員Tomer Jordi Chaffer先生;弗勞恩霍夫智能分析與資訊系統(tǒng)研究所資深數(shù)據(jù)科學(xué)家Rebekka G?rge女士;以及生成式人工智能共享平臺聯(lián)合主席Anni Lai女士。
?。攬D 嶺大和意大利博洛尼亞大學(xué)合辦「第二屆人工智能治理技術(shù)國際研討會」。）
電話：（香港）852-2564 0768
（深圳）86-755-83518792 83518734 83518291
地址：香港九龍觀塘道332號香港商報大廈
