Modellextraktion & Inversion

🔍 Kategori: technique 🏷️ Alias: Model Inversion, Model Extraction, Training Data Extraction ⚖️ Forensisk standard

Attackmetoder som genom upprepade systematiska API-anrop återskapar modellens hemliga interna vikter eller rekonstruerar känsliga träningsdata (t.ex. ansikten eller patientjournaler).

🔬 Forensisk Betydelse & Utredningsmetodik

Nyckelmetod i dataskyddsutredningar för att bevisa om en distribuerad modell olovligen exponerar konfidentiell information från träningsfasen.

⚙️ Tekniska Parametrar & Verktygsstöd

Forensiska verktyg:
ART (Adversarial Robustness Toolbox) CleverHans
MITRE ATT&CK: AML.T0024 ↗

📚 Källor & Fördjupning

🏛️ USENIX

USENIX Security: Model Inversion Attacks that Exploit Confidence Information

Läs specifikation →

Alla begrepp Sök incidenter i Intelligence →