Adieu, Integrität!

Die KI schafft neue Optionen und vereinfacht vieles, bringt aber auch neue Risiken im Bereich der Informationssicherheit. Die ISO/IEC 27001 definiert Integrität als die Eigenschaft, dass Informationen korrekt, vollständig und unverändert sind und nur autorisiert verändert werden. Integrität umfasst daher insbesondere die Richtigkeit von Informationen, deren Vollständigkeit, Unverfälschtheit, Nachvollziehbarkeit von Änderungen und den Schutz vor unbefugter Manipulation.

Während klassische Cyberangriffe häufig auf den Diebstahl oder die Verschlüsselung von Daten abzielen, eröffnet KI neue Möglichkeiten, die inhaltliche Vertrauenswürdigkeit von Informationen zu beeinträchtigen.

Damit entsteht ein erweitertes Handlungsfeld für die Informationssicherheit.

Bedrohungen der Integrität durch KI

Erzeugung plausibler Falschinformationen

Generative KI kann innerhalb weniger Sekunden Texte erzeugen, die fachlich überzeugend erscheinen, tatsächlich jedoch falsche Aussagen enthalten, im Ergebnis erhält man:

• fehlerhafte Arbeitsanweisungen

• falsche technische Spezifikationen

• unzutreffende Managemententscheidungen

• fehlerhafte Verträge

• falsche Sicherheitskonzepte

Die besondere Gefahr liegt darin, dass die Inhalte sprachlich hochwertig und glaubwürdig wirken und deshalb häufig ungeprüft übernommen werden. Dramatisch aus Sicht der ISO 27001: Die Integrität der Information ist beeinträchtigt, obwohl keine klassische Manipulation eines IT-Systems stattgefunden hat!

Halluzinationen als Integritätsrisiko

Große Sprachmodelle können Informationen erzeugen, für die keine tatsächliche Grundlage existiert, im Ergebnis erhält man:

• erfundene Normkapitel

• nicht existierende Gerichtsentscheidungen

• falsche Gesetzeszitate

• erfundene Quellen

• unzutreffende technische Fakten

Das Risiko besteht weniger im technischen Fehler als darin, dass Nutzer die Inhalte als valide Fachinformationen interpretieren.

Manipulation von Entscheidungsgrundlagen

Immer mehr Unternehmen nutzen KI zur Unterstützung von Entscheidungen bei:

• Risikobewertungen

• Bewerberauswahl

• Kreditentscheidungen

• Lieferantenbewertungen

• Sicherheitsbewertungen

Werden Trainingsdaten oder Eingaben manipuliert, entstehen fehlerhafte Entscheidungen. Hier wird nicht die Information selbst verändert, sondern der Entscheidungsprozess.

Datenvergiftung (Data Poisoning)

Ein wesentliches Risiko besteht in der gezielten Manipulation der Datenbasis, im Ergebnis erhält man:

• manipulierte Trainingsdaten

• fehlerhafte Sensordaten

• absichtlich verfälschte Dokumente

• manipulierte Wissensdatenbanken

Die KI erzeugt anschließend konsistent falsche Ergebnisse! Dies stellt einen klassischen Integritätsverlust dar.

Prompt Injection

Bei KI-Systemen entstehen neue Angriffsformen. Ein Angreifer kann Eingaben so gestalten, dass die KI

• Sicherheitsregeln ignoriert,

• interne Informationen verwendet,

• falsche Antworten erzeugt oder

• bestehende Anweisungen überschreibt.

Obwohl die eigentlichen Daten unverändert bleiben, wird die Integrität der Informationsverarbeitung beeinträchtigt.

Automatisierte Desinformation

KI ermöglicht erstmals die einfache und schnelle industrielle Erzeugung von Desinformation:

• täuschend echte E-Mails

• gefälschte Pressemitteilungen

• manipulierte Berichte

• fingierte Dokumente

• Deepfakes

Dadurch wird die Vertrauenswürdigkeit von Informationen erheblich reduziert.

Veränderung von Dokumenten

KI kann Dokumente automatisiert verändern, beispielsweise:

• Zusammenfassungen

• Übersetzungen

• Korrekturen

• Umformulierungen

Dabei können Inhalte unbeabsichtigt verändert werden. Gerade für Verträge,          Norminterpretationen, Sicherheitsrichtlinien und Betriebsanweisungen stellt dies ein erhebliches Integritätsrisiko dar.

Verlust der Nachvollziehbarkeit

Ein Grundprinzip der Informationssicherheit ist die Revisionssicherheit. KI verändert Inhalte teilweise ohne eindeutige Kennzeichnung. Dadurch entstehen Fragen wie:

• Wer hat die Information erstellt?

• Welche Quelle wurde verwendet?

• Wurde der Inhalt verändert?

• Welche Version ist gültig?

Die Integrität umfasst auch diese Nachvollziehbarkeit.

Auswirkungen auf ein ISMS nach ISO/IEC 27001

Ein Informationssicherheitsmanagementsystem sollte KI deshalb auch umfassender betrachten, denn damit entstehen generell neue Risiken für

• Informationsqualität,

• Dokumentenlenkung,

• Entscheidungsprozesse,

• Wissensmanagement,

• Lieferanteninformationen,

• Managementberichte,

• technische Dokumentation.

Die Risikobehandlung muss diese Aspekte ausdrücklich berücksichtigen.

Wann kann man von „Integrität“ sprechen?

Eine KI erfüllt Integritätsanforderungen nur, wenn mehrere Voraussetzungen gleichzeitig erfüllt sind:

• Vertrauenswürdige Datenbasis: Trainings-, Referenz- und Eingabedaten müssen gegen Manipulation geschützt sein (Data Poisoning vermeiden).

• Nachvollziehbare Verarbeitung: Es muss dokumentiert werden, welche Daten, Modelle und Versionen verwendet wurden.

• Plausibilitätsprüfung der Ergebnisse: Kritische Ausgaben dürfen nicht ungeprüft übernommen werden; fachliche Validierung und Vier-Augen-Prinzip sind sinnvoll.

• Änderungs- und Modellkontrolle: Modellupdates, Prompt-Änderungen und Konfigurationen müssen kontrolliert und freigegeben werden.

• Überwachung und Auditierbarkeit: Logs, Versionierung und Stichprobenprüfungen sind notwendig, um Integritätsverletzungen erkennen zu können.

Zusammenfassung

ISMS-Einordnung von KI im Rahmen der Schutzziele

Die klassischen Schutzziele der Informationssicherheit werden durch KI unterschiedlich beeinflusst:

Schutzziel	Typische KI-Risiken
Vertraulichkeit	Eingabe sensibler Informationen in öffentliche KI-Dienste, Datenabfluss, unberechtigte Offenlegung
Integrität	Halluzinationen, manipulierte Trainingsdaten, Prompt Injection, automatisierte Falschinformationen, unkontrollierte Dokumentenänderungen
Verfügbarkeit	Abhängigkeit von KI-Diensten, Ausfälle von Cloud-Plattformen, fehlerhafte Automatisierung, eingeschränkte Nutzbarkeit bei Dienstunterbrechungen

Gegenmaßnahmen

Mögliche Sicherheitsmaßnahmen aus Sicht eines ISMS können unter anderem sein:

Risiko	Geeignete Maßnahmen
Halluzinationen	Fachliche Plausibilitätsprüfung durch qualifizierte Personen
Manipulierte Inhalte	Vier-Augen-Prinzip bei kritischen Dokumenten
Fehlende Quellen	Verpflichtende Quellenangaben und Nachweisführung
KI-generierte Dokumente	Kennzeichnung KI-unterstützt erstellter Inhalte
Prompt Injection	Sichere Systemarchitektur und Eingabefilter
Data Poisoning	Validierung und Schutz von Trainings- und Referenzdaten
Manipulierte Entscheidungen	Menschliche Freigabe bei sicherheitsrelevanten Entscheidungen
Fehlende Nachvollzieh-barkeit	Versionierung, Protokollierung und Dokumentenlenkung

Integritätsbegriff verändert sich

Die größte Veränderung durch KI liegt nicht nur in neuen technischen Angriffsmöglichkeiten, sondern in einer Verschiebung des Integritätsbegriffs. Während sich Integrität bislang vor allem auf den Schutz vor unbefugter Änderung von Daten bezog, muss heute zusätzlich die inhaltliche Verlässlichkeit von Informationen berücksichtigt werden. KI kann in großem Umfang Inhalte erzeugen, verändern oder beeinflussen, ohne dass dies unmittelbar erkennbar ist.

Für ein ISMS bedeutet dies, dass Informationsintegrität nicht mehr allein durch technische Kontrollen wie Hashwerte, Zugriffsschutz oder Änderungsprotokolle gewährleistet werden kann. Erforderlich sind ergänzende organisatorische Maßnahmen wie fachliche Validierung, klare Verantwortlichkeiten, transparente Dokumentation der Herkunft von Informationen und Vorgaben für den sicheren Einsatz von KI. Nur so lässt sich sicherstellen, dass Informationen nicht nur unverändert, sondern auch inhaltlich korrekt, nachvollziehbar und vertrauenswürdig bleiben.

Und natürlich sollten die nötigen Vorgaben und Dokumentationen in einem Managementsystem festgeschrieben werden, wie z. B. in EnterpriseOS!

Fordern Sie eine Demo an!