Poisoning Attack

Definition

Eine Poisoning Attack ist eine Angriffstechnik, bei der Angreifer gezielt manipulierte oder falsche Daten in ein System, eine Datenbank oder ein KI-Trainingsmodell einschleusen, um dessen Funktionsweise zu verfälschen oder spätere Ausgaben gezielt zu beeinflussen.

Erklärung / Hintergrund

Bei einer Poisoning Attack schleusen Angreifer manipulierte Daten in ein System ein, etwa in ein KI-Trainingsmodell, einen DNS-Cache oder eine Datenbank, wodurch das System auf Basis dieser verfälschten Daten fehlerhafte Entscheidungen trifft oder falsche Ergebnisse liefert, ohne dass dies sofort auffällt.

Für Unternehmen ist eine Poisoning Attack relevant, weil sie zunehmend gegen Systeme eingesetzt wird, die auf Maschinellem Lernen basieren, etwa zur automatisierten Bedrohungserkennung, wodurch ein erfolgreicher Angriff die Zuverlässigkeit dieser Sicherheitssysteme selbst untergraben kann.

Für Architektur- und Ingenieurbüros ist eine Poisoning Attack meist nur relevant, wenn eigene, datenbasierte Systeme oder KI-gestützte Anwendungen zur Analyse von Planungsdaten eingesetzt werden, deren Trainingsdaten oder laufender Betrieb vor gezielter Manipulation geschützt werden müssen.

Abzugrenzen ist die Poisoning Attack von der klassischen Model Extraction Attack, die versucht, ein Modell zu kopieren statt zu manipulieren, sowie von einfacherem Datendiebstahl. Künstliche Intelligenz und Maschinelles Lernen bilden häufig die Zielsysteme einer Poisoning Attack. Dies zeigt, wie eng die einzelnen Konzepte der Cybersicherheit miteinander verzahnt sind.

Praxisrelevanz

Für Sie als Geschäftsführerin oder Geschäftsführer eines Planungsbüros ist eine Poisoning Attack meist nur relevant, wenn Ihr Unternehmen eigene, datenbasierte oder KI-gestützte Anwendungen zur Analyse von Planungsdaten einsetzt, deren Zuverlässigkeit durch gezielt manipulierte Eingabedaten untergraben werden könnte. Für die meisten Planungsbüros ohne eigene KI-Entwicklung ist dieses Risiko eher gering, sollte aber bei der Nutzung entsprechender Systeme im Hinterkopf behalten werden. Für die Cyberversicherung ist relevant, dass Schäden durch Manipulation eigener datenbasierter Systeme je nach Bedingungswerk und tatsächlicher Nutzung solcher Technologien Gegenstand einer Cyberversicherung sein können. Ein Gespräch mit spezialisierten IT-Sicherheitsberatern hilft bei der Einschätzung dieses eher seltenen Risikos. Ein realistisches Verständnis dieses Zusammenhangs hilft Ihnen zudem, Prioritäten bei der eigenen IT-Sicherheit sinnvoll zu setzen und im Beratungsgespräch zur Cyberversicherung fundierte Fragen zu stellen.

Praxisbeispiel

Ein größeres Ingenieurbüro nutzt ein selbst entwickeltes, KI-gestütztes System zur automatisierten Voreinschätzung von Baukosten, das kontinuierlich mit neuen Projektdaten trainiert wird. Ein IT-Sicherheitsberater weist die Geschäftsführung darauf hin, dass ohne angemessene Zugriffskontrollen theoretisch gezielt manipulierte, falsche Trainingsdaten eingeschleust werden könnten, um die Kostenschätzungen des Systems zu verfälschen. Das Büro richtet daraufhin strenge Zugriffskontrollen für die Eingabe von Trainingsdaten ein und lässt neue Daten vor der Integration zusätzlich validieren, um die Integrität des Systems dauerhaft zu schützen. Der Vorfall wird intern dokumentiert und dient als Grundlage für weitere, gezielte Verbesserungen der eigenen IT-Sicherheit.

FAQ

Was ist eine Poisoning Attack?

Eine Poisoning Attack schleust gezielt manipulierte Daten in ein System oder KI-Trainingsmodell ein, um dessen Funktionsweise zu verfälschen.

Welche Systeme sind besonders von Poisoning Attacks betroffen?

Besonders Systeme, die auf Maschinellem Lernen basieren, etwa zur automatisierten Bedrohungserkennung oder Datenanalyse.

Warum ist eine Poisoning Attack für die meisten Ingenieurbüros wenig relevant?

Sie betrifft primär Unternehmen mit eigenen, datenbasierten oder KI-gestützten Systemen zur Datenanalyse.

Wie unterscheidet sich eine Poisoning Attack von einer Model Extraction Attack?

Eine Poisoning Attack manipuliert ein System, während eine Model Extraction Attack versucht, es zu kopieren.

Wie können Unternehmen sich vor Poisoning Attacks schützen?

Strenge Zugriffskontrollen und die Validierung neuer Trainingsdaten vor deren Integration helfen, solche Angriffe zu verhindern.

Verwandte Begriffe

• Exploit – kann in Kombination mit einer Poisoning Attack genutzt werden, um zusätzliche Schwachstellen auszunutzen.

• Attack vector – beschreibt den Weg, über den eine Poisoning Attack technisch durchgeführt wird.

• Attacker – führt eine Poisoning Attack gezielt gegen datenbasierte Systeme durch.

• Advanced Persistent Threat (APT) – kann eine Poisoning Attack als einen von mehreren Schritten eines langfristigen Angriffs nutzen.