| 基于梯度優(yōu)化的大語言模型后門識(shí)別探究 | |
| 所屬分類：技術(shù)論文 | |
| 上傳者：wwei | |
| 文檔大小：1222 K | |
| 標(biāo)簽： 大語言模型 后門攻擊 基于梯度的后門識(shí)別 | |
| 所需積分：0分積分不夠怎么辦？ | |
| 文檔介紹：隨著大語言模型的流行并且應(yīng)用在越來越多的領(lǐng)域，大語言模型的安全問題也隨之而來。 通常訓(xùn)練大語言模型對(duì)數(shù)據(jù)集以及計(jì)算資源有著極為苛刻的要求，所以有使用需求的用戶大部分都直接利用網(wǎng)絡(luò)上開源的數(shù)據(jù)集以及模型，這給后門攻擊提供了絕佳的溫室。后門攻擊是指用戶在模型中輸入正常數(shù)據(jù)時(shí)模型表現(xiàn)像沒有注入后門時(shí)一樣正常，但當(dāng)輸入帶有后門觸發(fā)器的數(shù)據(jù)時(shí)模型輸出異常。防止后門攻擊的有效方法就是進(jìn)行后門識(shí)別。目前基于梯度的優(yōu)化方法是比較常用的，但使用這些方法時(shí)內(nèi)部影響因子的設(shè)定對(duì)識(shí)別效果具有一定影響。文章就詞令牌數(shù)量、最鄰近數(shù)量、噪聲大小進(jìn)行了實(shí)驗(yàn)測(cè)量和作用機(jī)制的分析，以便為后續(xù)使用這些方法的研究者提供參考。 | |
| 現(xiàn)在下載 | |
| VIP會(huì)員，AET專家下載不扣分；重復(fù)下載不扣分，本人上傳資源不扣分。 | |
wwei 的最新分享
- 基于大數(shù)據(jù)的飛參數(shù)據(jù)融合集成與應(yīng)用技術(shù)研究
- 戰(zhàn)場(chǎng)大數(shù)據(jù)與數(shù)據(jù)安全防護(hù)的認(rèn)識(shí)與思考
- 基于圖卷積神經(jīng)網(wǎng)絡(luò)的分布式半監(jiān)督自動(dòng)標(biāo)注方法
- 用于數(shù)據(jù)采集和應(yīng)用的便攜式保障系統(tǒng)設(shè)計(jì)
- 基于多源態(tài)勢(shì)數(shù)據(jù)融合的體系仿真與效能評(píng)估方法
- 面向輕武器射擊的數(shù)據(jù)智能采集關(guān)鍵技術(shù)研究
- 數(shù)據(jù)質(zhì)量治理解決方案研究
- 基于分布式處理的航天試驗(yàn)大數(shù)據(jù)分析研究
Copyright ? 2005-2024 華北計(jì)算機(jī)系統(tǒng)工程研究所版權(quán)所有 京ICP備10017138號(hào)-2