Dolda Bakdörrstriggrar i Transformers

🔍 Kategori: technique 🏷️ Alias: Transformer Backdoor, Neural Backdoor, Trojaned LLM ⚖️ Forensisk standard

Ett dolt mönster i en neural nätverksmodell som får modellen att fungera normalt i vardagliga sammanhang, men som triggar en elakartad handling så snart ett specifikt ord eller tecken dyker upp.

🔬 Forensisk Betydelse & Utredningsmetodik

Kräver viktsanalys och granskning av uppmärksamhetsmatriser (attention maps) för att avslöja trojaner i modeller från tredje part.

⚙️ Tekniska Parametrar & Verktygsstöd

Forensiska verktyg:
ONNX Weight Diff Attention Visualizer
MITRE ATT&CK: AML.T0018 ↗

📚 Källor & Fördjupning

🏛️ IEEE Computer Society

IEEE S&P: Trojaning Attack on Neural Networks

Läs specifikation →

Alla begrepp Sök incidenter i Intelligence →