神經資料安全、隱私與密碼學
模型逆推/重建攻擊
一種濫用對已訓練解碼器之存取權,以重建具代表性的輸入或還原某項私密屬性的攻擊,實際上是把模型反向運行。針對神經解碼器,這可能意味著再生與某類別相關的特徵性神經型態,或從模型加上有限的輸出中,推論出敏感標籤(某項病況、某個意圖詞)。
重建通常為近似而非對原始訊號的逐字還原,其成敗取決於模型將私密資訊與其受訓任務糾纏的程度。這是不宜把已釋出的解碼器或其梯度視為可安全分享的核心理由,即使原始記錄已被保留不公開亦然。
又称
另见
一種濫用對已訓練解碼器之存取權,以重建具代表性的輸入或還原某項私密屬性的攻擊,實際上是把模型反向運行。針對神經解碼器,這可能意味著再生與某類別相關的特徵性神經型態,或從模型加上有限的輸出中,推論出敏感標籤(某項病況、某個意圖詞)。
重建通常為近似而非對原始訊號的逐字還原,其成敗取決於模型將私密資訊與其受訓任務糾纏的程度。這是不宜把已釋出的解碼器或其梯度視為可安全分享的核心理由,即使原始記錄已被保留不公開亦然。