AI Red Teaming (Säkerhetstestning av AI)

🔍 Kategori: method 🏷️ Alias: AI Red Teaming, LLM Red Teaming, Adversarial AI Testing ⚖️ Forensisk standard

Strukturerad metodik där säkerhetsexperter systematiskt attackerar och utmanar en AI-modells spärrar, robusthet och dataintegritet före driftsättning.

🔬 Forensisk Betydelse & Utredningsmetodik

Red teaming-rapporter och exekveringsprotokoll utgör nödvändigt bevismaterial för att uppvisa regelefterlevnad (due diligence) enligt EU AI Act.

⚙️ Tekniska Parametrar & Verktygsstöd

Forensiska verktyg:
PyRIT Garak Promptfoo
Standarder: NIST SP 800-115, EU AI Act

📚 Källor & Fördjupning

🏛️ Microsoft Docs

Microsoft: Planning Red Teaming for Generative AI Applications

Läs specifikation →

Alla begrepp Sök incidenter i Intelligence →