直播 | 清華大學李一鳴:後門攻擊簡介

「AI Drive」是由 PaperWeekly 和 biendata 共同發起的學術直播間,旨在幫助更多的青年學者宣傳其最新科研成果。我們一直認爲,單向地輸出知識並不是一個最好的方式,而有效地反饋和交流可能會讓知識的傳播更加有意義,從而產生更大的價值。

本期 AI Drive,我們邀請到清華大學博士生李一鳴,爲大家帶來後門攻擊簡介的專題直播。對本期主題感興趣的小夥伴,1 月 20 日(週三)晚 7 點,我們準時相約 PaperWeekly B 站直播間。

直播信息

後門攻擊是一種新興的針對深度學習模型的攻擊方式,攻擊者在模型的訓練過程中通過某種方式對模型植入一些後門。當後門未被激發時,被攻擊的模型具有和正常模型類似的表現;而當模型中埋藏的後門被攻擊者激活時,模型的輸出變爲攻擊者預先指定的標籤以達到惡意的目的。後門攻擊可以發生在訓練過程非完全受控的很多場景中,例如使用第三方數據集、使用第三方平臺進行訓練、直接調用第三方模型等,因此對模型的安全性造成了巨大威脅。

在本次分享中,我們將介紹後門攻擊的基礎知識和一些經典方法,並介紹我們在這個領域的一些探索。

本次分享的具體內容有: 

  • 後門攻擊的基礎知識

  • 後門攻擊的三種經典範式

  • 我們在後門攻擊的三個探

  • 展望

嘉賓介紹

 李一鳴 清華大學博士生 

李一鳴,清華大學數據科學和信息技術專業三年級博士生。其研究興趣爲安全性機器學習,主要包括後門學習、對抗學習和數據隱私保護。

直播地址 & 交流羣

本次直播將在 PaperWeekly B 站直播間進行,掃描下方海報二維碼點擊閱讀原文即可免費觀看。線上分享結束後,嘉賓還將在直播交流羣內實時 QA,在 PaperWeekly 微信公衆號後臺回覆「AI Drive」,即可獲取入羣通道

B 站直播間:

https://live.bilibili.com/14884511

合作伙伴

????

現在,在「知乎」也能找到我們了

進入知乎首頁搜索「PaperWeekly」

點擊「關注」訂閱我們的專欄吧

關於PaperWeekly

PaperWeekly 是一個推薦、解讀、討論、報道人工智能前沿論文成果的學術平臺。如果你研究或從事 AI 領域,歡迎在公衆號後臺點擊「交流羣」,小助手將把你帶入 PaperWeekly 的交流羣裏。

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章