T05

對抗攻擊

Adversarial Attack

簡短答案

刻意對輸入資料添加人眼難以察覺的擾動,使 AI 模型產生錯誤預測的攻擊方式。

深入解釋

攻擊者透過計算梯度找到最小擾動,使模型信心十足地做出錯誤分類。對抗攻擊揭示了深度學習模型脆弱性,在安全關鍵場景需特別防護。

實際案例

在停車標誌上貼幾個小貼紙,導致自駕車 AI 將其誤認為限速標誌。

本頁為 AIATCL 備考用非官方內容;考試資訊請以主辦單位公告為準。