| 基于梯度優(yōu)化的大語言模型后門識別探究 | |
| 所屬分類：技術論文 | |
| 上傳者：wwei | |
| 文檔大小：1222 K | |
| 標簽： 大語言模型 后門攻擊 基于梯度的后門識別 | |
| 所需積分：0分積分不夠怎么辦？ | |
| 文檔介紹：隨著大語言模型的流行并且應用在越來越多的領域，大語言模型的安全問題也隨之而來。 通常訓練大語言模型對數(shù)據(jù)集以及計算資源有著極為苛刻的要求，所以有使用需求的用戶大部分都直接利用網(wǎng)絡上開源的數(shù)據(jù)集以及模型，這給后門攻擊提供了絕佳的溫室。后門攻擊是指用戶在模型中輸入正常數(shù)據(jù)時模型表現(xiàn)像沒有注入后門時一樣正常，但當輸入帶有后門觸發(fā)器的數(shù)據(jù)時模型輸出異常。防止后門攻擊的有效方法就是進行后門識別。目前基于梯度的優(yōu)化方法是比較常用的，但使用這些方法時內(nèi)部影響因子的設定對識別效果具有一定影響。文章就詞令牌數(shù)量、最鄰近數(shù)量、噪聲大小進行了實驗測量和作用機制的分析，以便為后續(xù)使用這些方法的研究者提供參考。 | |
| 現(xiàn)在下載 | |
| VIP會員，AET專家下載不扣分；重復下載不扣分，本人上傳資源不扣分。 | |
Copyright ? 2005-2024 華北計算機系統(tǒng)工程研究所版權所有 京ICP備10017138號-2