外灘大會參會規(guī)模創(chuàng)新高,關(guān)注如何防止AI作惡

MeiTai

外灘大會參會規(guī)模創(chuàng)新高,人們都在關(guān)注如何防止AI作惡

第一財(cái)經(jīng)

9月7日廓鞠，2024 Inclusion·外灘大會正式閉幕咬腋。事實(shí)上村刨，這一天下午叮喳，距離大會閉幕幾個(gè)小時(shí)前凿栅，仍有觀眾在排隊(duì)入場锣裆。官方數(shù)據(jù)顯示，本屆大會共吸引了5.2萬人現(xiàn)場參會幼潮，無論是參會規(guī)模還是國際嘉賓的數(shù)量，均創(chuàng)下了歷史新高坏榜。除了年輕人坯苹，記者注意到，觀眾隊(duì)伍中還有不少老人摇天、小孩粹湃。

本屆外灘大會以“科技·創(chuàng)造可持續(xù)未來”為主題，包括36場開放見解論壇泉坐、10多場創(chuàng)新者舞臺为鳄、2場AI創(chuàng)新賽事、1場10000平方米的展覽以及1場綠色生活節(jié)和1場科技人才招聘會腕让。據(jù)統(tǒng)計(jì)孤钦，三天時(shí)間內(nèi)，有30余項(xiàng)AI新成果在本屆外灘大會發(fā)布纯丸，包括螞蟻AI生活管家“支小寶”偏形、AI金融管家“螞小財(cái)”，AI健康管家等。

10000平方米的展覽場地匯集了眾多企業(yè)參展俊扭，記者觀察到队橙，相比往年，準(zhǔn)備各類裝備體驗(yàn)贝泞、互動的廠商越來越多了淮辕，許多展臺前，觀眾為參與體驗(yàn)排起長隊(duì)牡罚。重視人文性俯炮，成為本屆外灘大會的一大特點(diǎn)。除了開幕式上24歲的獨(dú)臂男孩周鍵借智能仿生手演奏鋼琴的動人瞬間淡碟，在外灘大會的展區(qū)霹壁，借助設(shè)備觀眾可以體驗(yàn)將腦電波以花朵的形式可視化，讓瞬間的情緒形成紀(jì)念一步。還有可實(shí)現(xiàn)“擁抱傳遞”的設(shè)備剿稼，穿戴上內(nèi)嵌人造肌肉纖維的特制背心，當(dāng)另一個(gè)人擁抱裝有壓力傳感器的模型時(shí)率满，體驗(yàn)者便能感受到模擬其聲控茂禁、觸覺反饋和溫度調(diào)節(jié)等多種感官元素的“遠(yuǎn)程擁抱”。

在這一年的外灘大會上夷呐，如何讓“技術(shù)向善”的討論和研發(fā)更加被業(yè)界重視瞻窗。

AI醫(yī)療受關(guān)注

為期三天的展覽中，AI醫(yī)療的相關(guān)產(chǎn)品悼做、企業(yè)展臺總有著最多的人流量疯特，“爸媽記憶力下降了怎么辦?”“AI如何輔助癌癥篩查?”這些問題讓不少觀眾不自覺就邁入了相關(guān)展區(qū)，不斷有老人加入腦健康檢測肛走，有年輕人加入腦電波的“畫圖”漓雅。

“和去年相比，今年外灘大會AI人工智能的份額感覺更高了朽色，而且不是像之前傻乎乎的那種邻吞，今年的很多應(yīng)用是真的有用的，明顯能感覺到算法提升了很多葫男，比如說面部識別功能或者語音交互功能抱冷，都感覺上升了一個(gè)檔次，效果變好了梢褐，所以大家體驗(yàn)的熱情也高旺遮。”一位參會的展商對記者表示盈咳。

來不及喝口水趣效，達(dá)摩院AI醫(yī)療展臺的工作人員就迎來了下一位咨詢的觀眾瘦癌，今年的外灘大會上，達(dá)摩院醫(yī)療AI實(shí)驗(yàn)室展出了其AI醫(yī)學(xué)影像分析產(chǎn)品绊叙，借助AI技術(shù)填丢，這項(xiàng)產(chǎn)品能夠從平掃CT中進(jìn)行胰腺癌、食管癌夸营、腸癌敞灸、胃癌等八大癌癥及一系列慢性病的篩查，吸引了不少觀眾贫介。

展臺的工作人員告訴記者区酷，通過AI識別，這項(xiàng)產(chǎn)品能夠在肝癌翠蓄、肺癌等癌癥篩查中達(dá)到90%以上的準(zhǔn)確率丛幌，提升醫(yī)生的工作效率，補(bǔ)足一些醫(yī)療資源不均衡帶來的問題抢纹。

“其實(shí)這項(xiàng)技術(shù)主要是面向B端的懒碍，為醫(yī)生服務(wù)，客戶更多是醫(yī)院谚剿、體驗(yàn)機(jī)構(gòu)缝驳、保險(xiǎn)公司、公益組織以及軟件廠商之類的归苍，但這兩天很多個(gè)人也非常感興趣用狱。”上述工作人員表示拼弃。盡管許多AI醫(yī)療產(chǎn)品并未直接面向C端用戶夏伊，但外灘大會的觀眾們對AI醫(yī)療將如何改變疾病的診治感到好奇。

博斯騰科技的展臺則吸引到了大量的老年觀眾吻氧，許多老人紛紛拿出手機(jī)通過支付寶“碰一碰”進(jìn)行答題溺忧，檢測自己得阿爾茲海默病的風(fēng)險(xiǎn)指數(shù)。展區(qū)的工作人員介紹医男，通過許多數(shù)據(jù)、資料的支撐捻勉，這款產(chǎn)品能夠通過答題測驗(yàn)镀梭、語音交互、動作識別等方式檢測阿爾茲海默病踱启，并通過大模型生成用戶專屬的腦健康訓(xùn)練計(jì)劃报账。

“我們的產(chǎn)品2020年成型，但借助攝像頭的動態(tài)識別功能是今年剛推出的庵恨，主要是借力于AI功能的發(fā)達(dá)迄帘，包括訓(xùn)練方案的推薦修扁，也的確在大模型出現(xiàn)后智能了很多±瓶觯”該展區(qū)的工作人員告訴記者峡逆。隨著AI的發(fā)展，更多AI醫(yī)療產(chǎn)品的“進(jìn)化”值得期待钩榄。

需要強(qiáng)調(diào)的是念弧，目前，許多AI醫(yī)療產(chǎn)品的診療效果仍缺乏公開數(shù)據(jù)或第三方權(quán)威機(jī)構(gòu)的驗(yàn)證武也，相關(guān)展臺的工作人員也均表示AI醫(yī)療產(chǎn)品無法完全代替醫(yī)生診療需求依播，以輔助作用為主。不過耿逐，AI在醫(yī)療問題中的應(yīng)用的確被業(yè)界期待。

不少大廠也在押注AI醫(yī)療賽道醇舶。外灘大會上姻蚓，支付寶發(fā)布AI應(yīng)用新產(chǎn)品“AI健康管家”，為用戶提供找醫(yī)生秋茫、讀報(bào)告史简、陪看診、問醫(yī)保肛著、管健康等30多項(xiàng)AI健康服務(wù)圆兵。百川智能創(chuàng)始人王小川則介紹，百川智能將重點(diǎn)在大醫(yī)療AI領(lǐng)域做投入枢贿，從兒科醫(yī)生殉农、全科醫(yī)生兩個(gè)切入點(diǎn)發(fā)力，希望在明年實(shí)現(xiàn)醫(yī)療的低成本和可及性局荚，減少醫(yī)院的擠兌現(xiàn)象超凳。

全國政協(xié)常委周漢民在外灘大會的一場論壇中表示，隨著人工智能等新技術(shù)的不斷發(fā)展和應(yīng)用耀态，醫(yī)療產(chǎn)業(yè)正迎來一場深刻的變革轮傍。據(jù)他觀察，從最初的影像診斷首装、輔助診療抱典、基因檢測，到近年來的藥物發(fā)現(xiàn)赊偿、臨床試驗(yàn)绵另、健康管理等，人工智能在提高精準(zhǔn)度與效率绅鉴、個(gè)性化治療姨莽、數(shù)據(jù)處理等方面具備顯著優(yōu)勢厉源。他指出，醫(yī)療健康與人工智能的融合還延伸到了中醫(yī)領(lǐng)域仲侈。

談及人工智能在醫(yī)療產(chǎn)業(yè)的應(yīng)用情況豆蝠，周漢民表示，人工智能在醫(yī)療健康產(chǎn)業(yè)的應(yīng)用應(yīng)著力提高精準(zhǔn)性误目、適用性和安全性项蝉，此外，還需關(guān)注人工智能的引入是否會導(dǎo)致醫(yī)護(hù)人員技能萎縮轴私、對人工智能的信任的誤判以及信息超載白找。

以AI對抗AI

在期待技術(shù)帶來美好生活的同時(shí)，如何預(yù)防技術(shù)“作惡”也成為外灘大會討論的熱點(diǎn)話題赁严。

今年的外灘大會上扰柠，舉辦了包括“afac2024金融智能創(chuàng)新大賽”和“全球Deepfake攻防挑戰(zhàn)賽”兩場子賽事在內(nèi)的AI創(chuàng)新大賽，由于近日韓國曝出“Deepfake”（深度偽造技術(shù)）事件疼约，被認(rèn)為是采用新犯罪手段的“N號房”案件重現(xiàn)卤档，以AI對抗AI,Deepfake攻防挑戰(zhàn)賽尤其受到觀眾的挑戰(zhàn)。

事實(shí)上程剥，隨著AI技術(shù)的發(fā)展劝枣，Deepfake滋生欺詐等黑色產(chǎn)業(yè)鏈，AI換臉欺詐帶來的經(jīng)濟(jì)財(cái)產(chǎn)損失织鲸、名譽(yù)受損等事件正在成為全球挑戰(zhàn)舔腾。

在外灘大會展區(qū)，許多觀眾現(xiàn)場拍照搂擦，然后利用Deepfake換臉模型和算法稳诚，通過視頻活化、微笑和眼鏡模版對觀眾的真實(shí)照片進(jìn)行換臉瀑踢，親身感受了Deepfake的逼真扳还。

而在外灘大會AI創(chuàng)新賽·全球Deepfake攻防挑戰(zhàn)賽的表演賽上，觀眾更是為AI識別AIGC偽造圖片感到激動咱茂。在這場表演賽中掰废，主持人拿出了9張瑪麗蓮夢露等女星的照片，其中2張是AIGC偽造的缴碉，選手用自己的參賽模型給出每張圖片的偽造概率值敢添，并對概率值最高的2張照片與正確答案進(jìn)行比對。最終帽惠，兩支參賽隊(duì)伍的模型都找到了正確答案挎茂。

在后續(xù)的互動中艇线，一個(gè)有趣的現(xiàn)象是剧鹏，人類肉眼能夠看出“一眼假”的偽造圖片热轨，AI可能識別不出，一些肉眼真假難辨的圖片盔惑，AI反而能識別梨耽。新加坡科技研究局周天異教授分析，人類在判斷圖像是否偽造會依賴直覺和邏輯律坎，一些人類一眼便知的問題AI無法聯(lián)系相關(guān)背景统岭、情形無法識別，而一些難以識別的圖片粉臊，AI一絲不茍草添、勤勤懇懇地完成人類指令的工作模式反而能找出問題。他表示扼仲，相比“一眼假”的圖片远寸，恰恰是這些難以識別的圖片往往給人類帶來更大損失，因此屠凶，用AI應(yīng)對Deepfake有著重要意義驰后。

“從我們現(xiàn)在看到的數(shù)據(jù)來看，我們叫Deepfake的攻擊也好矗愧，AIGC的生成偽造灶芝，今年的攻擊量比去年大概增加了10倍，去年攻擊的濃度大概是1%唉韭，今年就是10%夜涕。整個(gè)風(fēng)險(xiǎn)其實(shí)是呈指數(shù)級上升的情況，這不僅僅是在中國纽哥，在韓國钠乏，在菲律賓、印尼等國家都有類似的情況發(fā)生柬激》天簦”外灘大會AI創(chuàng)新賽·全球Deepfake攻防挑戰(zhàn)賽出題人、ZOLOZ技術(shù)總監(jiān)姚偉斌表示行忘，10%的濃度意味著業(yè)界發(fā)現(xiàn)線上的流量有10%是Deepfake的流量秧诊，隨著AIGC的發(fā)展，生成的成本會越來越低牡徘，效率越來越高喧撕，明年可能不是20%，可能是50%式伶，這是一個(gè)必須重視的威脅呀琢。

更多引導(dǎo)AI向善的觀點(diǎn)也在外灘大會被討論，姚偉斌坦言贡金，研發(fā)檢測算法壕归，只是遏制Deepfake技術(shù)濫用的方式之一群娃。這種方式是相對滯后的。如果要從根源上防范欺詐行為癞季，姚偉斌認(rèn)為應(yīng)在標(biāo)準(zhǔn)和立法角度劫瞳，要求給A IGC 內(nèi)容建立通用標(biāo)識，比如每一張AIGC生成的視頻或圖片都在文件信息里帶一個(gè)簽名或水印绷柒，這樣平臺管理更有依據(jù)志于，也能讓AIGC 可以更可信。

“讓人工智能幫助人彈鋼琴废睦，而不是作惡伺绽。”是本屆外灘大會反復(fù)強(qiáng)調(diào)的價(jià)值觀嗜湃。上海市數(shù)據(jù)科學(xué)重點(diǎn)實(shí)驗(yàn)室主任肖仰華表示憔恳，AI的大規(guī)模濫用是可能損害人之為人的本性的。要有所為有所不為净蚤，但凡傷害人之為人之本性的AI應(yīng)用钥组，我們要謹(jǐn)慎，要加以限制今瀑。為此程梦，“我們要重視技術(shù)治理，并將治理提前考慮橘荠，做到未雨綢繆乞贡。”

浙江強(qiáng)腦科技創(chuàng)始人兼CEO韓璧丞則表示克酿，AI倫理委員會的存在非常重要颅唇。技術(shù)前進(jìn)的時(shí)候，更應(yīng)該關(guān)注“走的慢”的人限匕∥髁罚“當(dāng)一個(gè)足以改變世界的技術(shù)出現(xiàn)時(shí)，我們先用它來幫助最需要的人”困荤。