DIN EN 18282:2026-11 - Entwurf

Dieses Dokument befasst sich mit organisatorischen und technischen Lösungen, die darauf abzielen, die Cybersicherheit von KI-Systemen mit hohem Risiko während des gesamten Lebenszyklus zu gewährleisten, und die den jeweiligen Umständen und Risiken angemessen sind. Die technischen Lösungen zur Behebung von KI-spezifischen Schwachstellen umfassen gegebenenfalls Maßnahmen zur Verhinderung, Erkennung, Reaktion, Behebung und Kontrolle von Angriffen, die darauf abzielen, den Trainingsdatensatz (Data Poisoning) oder die beim Training verwendeten vortrainierten Komponenten (Model Poisoning) zu manipulieren, Eingaben, die das Modell zu einem Fehler veranlassen sollen (gegnerische Beispiele oder Modellumgehung), sowie Angriffe auf die Vertraulichkeit oder Modellschwächen. Dieses Dokument enthält objektive Kriterien, anhand derer entschieden werden kann, ob eine bestimmte technische oder organisatorische Lösung ein bestimmtes Schwachstellenziel angemessen erreicht. Das zuständige nationale Normungsgremium ist der Arbeitskreis NA 043-01-42-05 AK "Anwendungen" im DIN-Normenausschuss Informationstechnik und Anwendungen (NIA).