深圳2022年11月15日 /美通社/ -- 11月6-9日,第31屆國際人工智能聯(lián)合會議-中國會議(IJCAI 2022 China)在深圳坪山燕子湖國際會展中心召開。其中,大會主題論壇《隱私計算與聯(lián)邦學(xué)習(xí)》由微眾銀行、聯(lián)邦學(xué)習(xí)FATE開源社區(qū)、香港科技大學(xué)、清華大學(xué)智能產(chǎn)業(yè)研究院、廈門大學(xué)、深圳大學(xué)、中國科學(xué)院計算研究所、南洋理工大學(xué)、騰訊云等國內(nèi)外知名企業(yè)、高校和機構(gòu)聯(lián)合主辦,并于11月8日在線上線下同步順利進行。
數(shù)據(jù)要素的戰(zhàn)略性意義已成為全球共識,隱私計算正快步邁進規(guī)?;虡I(yè)應(yīng)用階段。隱私計算和聯(lián)邦學(xué)習(xí)為數(shù)據(jù)要素高效流通提供了可行的方案,被業(yè)界廣泛關(guān)注和使用,同時也成為人工智能國際頂會上的熱門方向之一。在此背景下,本次論壇邀請了數(shù)位隱私計算和聯(lián)邦學(xué)習(xí)研究和應(yīng)用領(lǐng)域的帶頭人進行特邀演講,并且邀請被接收論文的作者分享最新的研究成果。
專家學(xué)者云集,助力隱私計算與聯(lián)邦學(xué)習(xí)大發(fā)展
論壇榮譽主席、香港科技大學(xué)計算機與工程系講席教授和前系主任、微眾銀行首席人工智能官楊強教授發(fā)表題為《可信聯(lián)邦學(xué)習(xí)》的主題演講。楊強教授表示,聯(lián)邦學(xué)習(xí)是人工智能和隱私計算的重要交集,如何使聯(lián)邦學(xué)習(xí)更加安全可信和高效是今后產(chǎn)業(yè)和學(xué)界關(guān)注的重點,可信聯(lián)邦學(xué)習(xí)的提出順應(yīng)了產(chǎn)業(yè)發(fā)展的新趨勢。開源是可信聯(lián)邦學(xué)習(xí)實現(xiàn)普惠的重要路徑,在開源平臺的支撐下,聯(lián)邦學(xué)習(xí)在多個場景涌現(xiàn)出了優(yōu)秀的應(yīng)用案例,并且分享了FATE開源社區(qū)最新工作進展和未來發(fā)展規(guī)劃。此外,楊強教授還展望了跨平臺互聯(lián)互通、完善聯(lián)邦學(xué)習(xí)安全機制等行業(yè)未來發(fā)展重點,給聯(lián)邦學(xué)習(xí)的進一步發(fā)展指明了方向。
針對聯(lián)邦學(xué)習(xí)系統(tǒng)中的效率、安全、性能平衡與優(yōu)化問題,論壇主席、清華大學(xué)智能產(chǎn)業(yè)研究院副研究員劉洋博士發(fā)表了《聯(lián)邦學(xué)習(xí)系統(tǒng)中效率-安全-性能平衡探索》主題演講,介紹了最新研究進展。劉洋博士指出,數(shù)據(jù)安全與隱私,傳輸效率,異構(gòu)數(shù)據(jù)、異構(gòu)設(shè)備的適配,訓(xùn)練效果等是聯(lián)邦學(xué)習(xí)當前面臨的核心問題,聯(lián)邦學(xué)習(xí)安全分級評估,聯(lián)邦學(xué)習(xí)防御評估,防御標簽和后門攻擊,F(xiàn)edBCG,F(xiàn)edSSO,F(xiàn)edGEMS,TailorFL等多項最新研究進展為構(gòu)建安全高效的聯(lián)邦學(xué)習(xí)框架提出新的解決思路和挑戰(zhàn)問題。
中國科學(xué)院計算技術(shù)研究所所務(wù)委員/研究員、智能研究部主任陳益強研究員詳細介紹了名為《MetaFed:一種基于環(huán)形知識蒸餾的元聯(lián)邦學(xué)習(xí)框架》的最新論文。該論文提出了"元聯(lián)邦"既"聯(lián)邦之聯(lián)邦"概念,及MetaFed層次化動態(tài)環(huán)聯(lián)邦學(xué)習(xí)框架。通過自適應(yīng)的環(huán)形知識蒸餾,累積通用知識,舍棄冗余知識,以較小通信代價,達到在無中心服務(wù)端參與情形下獲取精度提升及個性化學(xué)習(xí)。在分享的最后,陳益強研究員提出了"模型即服務(wù)",像互聯(lián)網(wǎng)一樣方便快捷的"中國模型網(wǎng)"等未來愿景。
針對如何解決聯(lián)邦學(xué)習(xí)面臨的公平與激勵問題,論壇主席、新加坡南洋理工大學(xué)計算機科學(xué)與工程學(xué)院南洋助理教授于涵進行了《Contribution and Fairness-Aware Federated Learning》主題演講,創(chuàng)新性地提出了相關(guān)解決方案。于涵教授表示,聯(lián)邦學(xué)習(xí)要實現(xiàn)快速發(fā)展,需要一個良好生態(tài)的支持。而只有滿足公平,同時對貢獻者進行適當激勵才能激勵大家積極參與共同建設(shè),從而形成良好的行業(yè)生態(tài)環(huán)境。
產(chǎn)學(xué)精英匯聚,推動隱私計算與聯(lián)邦學(xué)習(xí)前沿實踐
聯(lián)邦學(xué)習(xí)已在金融、醫(yī)療、營銷廣告與推薦、智慧城市等多行業(yè)多領(lǐng)域廣泛落地探索,除了最新理論研究進展分享,多位嘉賓介紹了工業(yè)實踐成果,為聯(lián)邦學(xué)習(xí)的行業(yè)應(yīng)用提供了標桿案例。
基于聯(lián)邦學(xué)習(xí)在推薦領(lǐng)域的實踐,深圳大學(xué)軟件工程研究中心副主任潘微科副教授分享了跨用戶聯(lián)邦推薦(Cross-User Federated Recommendation)方面的研究進展,并重點介紹了一個通用的跨用戶聯(lián)邦推薦框架FMSS。在該框架中,通過虛假標記和秘密共享兩個技術(shù),可以實現(xiàn)在評分預(yù)測、物品排序和序列推薦等聯(lián)邦推薦場景中保護用戶的評分數(shù)值和評分行為,從而達到隱私保護的目的。此外,通過分析和實驗展示了該框架的安全性和無損性。
營銷與廣告領(lǐng)域是聯(lián)邦學(xué)習(xí)的重要應(yīng)用場景,騰訊 Angel PowerFL 隱私計算平臺負責(zé)人程勇博士帶來題為《聯(lián)邦深度學(xué)習(xí):最新進展和應(yīng)用》的主題演講,聚焦在縱向聯(lián)邦深度學(xué)習(xí)(VFDL)領(lǐng)域,從程序化廣告場景中的數(shù)據(jù)協(xié)同應(yīng)用難題,以及跨域推薦場景里的數(shù)據(jù)協(xié)同應(yīng)用難題等現(xiàn)實應(yīng)用挑戰(zhàn)切入,分享了VFDL如何在實踐中不斷優(yōu)化迭代,從而更好滿足業(yè)務(wù)需求,助力業(yè)務(wù)持續(xù)增長目標。程勇博士認為,VFDL具有很高的研究價值和應(yīng)用潛力,探索空間很大,下一步將帶領(lǐng)團隊重點探索SplitNN之外的下一代VFDL訓(xùn)練和推理架構(gòu)(Go beyond SplitNN)。
數(shù)字福建城市交通大數(shù)據(jù)研究所(廈門大學(xué))常務(wù)副所長范曉亮分享了《數(shù)字教育領(lǐng)域的隱私計算應(yīng)用初探》。他指出,數(shù)據(jù)作為一種新型的生產(chǎn)要素,已經(jīng)成為數(shù)字經(jīng)濟的發(fā)展基石,隱私計算的需求也愈發(fā)旺盛。除了在金融、醫(yī)療、政務(wù)、運營商場景外,在高等學(xué)校數(shù)字化轉(zhuǎn)型領(lǐng)域也有迫切的隱私計算需求。今年剛好是高等教育數(shù)字化轉(zhuǎn)型元年,廈門大學(xué)和中國信通院牽頭了國內(nèi)首個隱私計算應(yīng)用面向高等教育數(shù)字化場景的應(yīng)用規(guī)范的團體標準,旨在引領(lǐng)高等高校內(nèi)部機構(gòu)之間、高校之間以及高校與外部之間在課程、實踐、學(xué)生評價、產(chǎn)學(xué)研合作等全流程的數(shù)據(jù)安全流通和隱私計算應(yīng)用。
除了嘉賓的分享,8篇被IJCAI 2022接收的隱私計算與聯(lián)邦學(xué)習(xí)相關(guān)的論文的作者也進行了現(xiàn)場論文講解,分享了最新的研究成果。同時,論壇還設(shè)置了問答互動環(huán)節(jié),聽眾和論文作者進行實時探討交流。
最后,論壇主席、微眾銀行人工智能首席科學(xué)家范力欣博士對整個論壇進行了精彩的總結(jié)發(fā)言。范力欣博士指出,本場隱私計算和聯(lián)邦學(xué)習(xí)論壇從技術(shù)原理、現(xiàn)實挑戰(zhàn)、實踐應(yīng)用、前沿探索等多個方面進行了全面的分享和討論,精彩紛呈。對于來參會的IJCAI 2022優(yōu)秀論文作者表示感謝并提出期望,鼓勵大家能夠勇于突破和敢于提出好的研究問題。提出一個好的問題往往比解決一個問題更難也更重要,希望未來有好的問題、新的方向不斷涌出,一起助力整個行業(yè)蓬勃發(fā)展。
隱私計算和聯(lián)邦學(xué)習(xí)論壇作為第31屆國際人工智能聯(lián)合會議-中國會議的重要組成部分,云集了多位行業(yè)專家學(xué)者和優(yōu)秀論文作者。通過精彩分享和觀點碰撞,使得隱私計算和聯(lián)邦學(xué)習(xí)對于數(shù)據(jù)要素高效流通的重要意義達到更廣泛的共識,提升了技術(shù)落地應(yīng)用廣度和深度,推動了技術(shù)生態(tài)快速、高質(zhì)量發(fā)展。相信隱私計算和聯(lián)邦學(xué)習(xí)的發(fā)展將會為未來AI的應(yīng)用、數(shù)據(jù)要素的流通、數(shù)字經(jīng)濟的深入發(fā)展指引新的方向。