Eine KI-Halluzination liegt vor, wenn ein KI-System Inhalte erzeugt, die plausibel klingen, aber falsch oder frei erfunden sind, etwa Zahlen, Normen, Quellen oder Rechtsprechung. Für Planungsbüros ist das relevant, weil die Verantwortung für das Planungsergebnis auch dann beim Büro bleibt, wenn eine KI zugearbeitet hat.
Ein Large Language Model (LLM) berechnet, welches Wort mit hoher Wahrscheinlichkeit als nächstes folgt. Es prüft nicht, ob eine Aussage stimmt. Fehlt dem Modell eine Information, füllt es die Lücke häufig mit etwas, das richtig klingt. Typisch sind erfundene Normnummern, falsche Rechenwerte, nicht existierende Literaturangaben oder Urteile, die es nie gab. Der Ton bleibt dabei überzeugend und sachlich, sodass Fehler leicht übersehen werden.
Halluzinationen sind eine Eigenschaft der Technik und kein Zeichen für einen Angriff. Das unterscheidet sie von einer Prompt Injection, bei der Angreifer ein System gezielt manipulieren, und vom Deepfake, bei dem Medieninhalte absichtlich gefälscht werden. Auch ein vergiftetes Trainingsmaterial, wie es die Poisoning-Attack beschreibt, ist eine andere Ursache. Bei der Halluzination entsteht der Fehler ohne böse Absicht.
Das Risiko lässt sich verringern, aber nicht ausschließen. Hilfreich sind klare Fragen, die Vorgabe von Quellen, der Abgleich mit Originaldokumenten und eine Prüfung durch eine zweite Person. Bei Berechnungen, Normbezügen und Mengenangaben gilt: Ergebnisse einer KI sind ein Entwurf und kein geprüftes Ergebnis.
Für Sie als Geschäftsführerin oder Geschäftsführer eines Planungsbüros stellt sich die Haftungsfrage zuerst gegenüber dem Auftraggeber. Ein Fehler in Planung oder Nachweis bleibt ein Planungsfehler, gleich ob er durch Mitarbeitende, Software oder eine KI entstanden ist. Die Ansprüche richten sich nach dem Vertrag und dem Werkvertragsrecht, das für Architekten- und Ingenieurverträge in den §§ 650p ff. BGB geregelt ist. Dass ein Ergebnis von einer KI stammte, entlastet das Büro in der Regel nicht.
Hier schließt die Berufshaftpflichtversicherung an. Sie ist für Planungsbüros der zentrale Baustein bei Vermögensschäden aus Planungs- und Beratungsfehlern. Ob und in welchem Umfang ein Schaden versichert ist, der auf ungeprüft übernommene KI-Ergebnisse zurückgeht, hängt vom Bedingungswerk ab. Es lohnt sich zu klären, wie der Einsatz von KI-Werkzeugen dort berücksichtigt ist, und die eigene Prüfung zu dokumentieren. Mehr dazu finden Sie auf unserer Seite zur Berufshaftpflichtversicherung.
Für die Cyberversicherung gilt: Eine reine Falschinformation durch eine KI ist typischerweise kein Cybervorfall. Die Cyberversicherung betrifft Angriffe und Ausfälle der IT, etwa Verschlüsselung oder Datenabfluss. Für Fehler im Planungsergebnis ist die Berufshaftpflicht der richtige Anknüpfungspunkt. Welche Bausteine für Ihr Büro passen, besprechen wir gern im Beratungsgespräch.
Ein fiktives Brandschutzbüro lässt eine KI die Anforderungen für ein Nachweisdokument zusammenstellen. Der Entwurf nennt eine Vorschrift mit Abschnittsnummer, die in dieser Form nicht existiert. Der Fehler wird nicht bemerkt, das Dokument geht an die Genehmigungsbehörde.
Die Behörde weist den Nachweis zurück, die Nachbesserung kostet Zeit, und der Bauherr fragt nach den Folgen für den Terminplan. Das Büro führt danach ein Vier-Augen-Prinzip für KI-gestützte Entwürfe ein und dokumentiert, welche Quellen geprüft wurden.
Ein Sprachmodell erzeugt Text nach Wahrscheinlichkeit und nicht nach Faktenlage. Wenn Wissen fehlt, entsteht trotzdem eine flüssige Antwort, die falsch sein kann.
Gegenüber dem Auftraggeber bleibt in der Regel das Planungsbüro verantwortlich, das das Ergebnis übernommen hat. Maßgeblich sind Vertrag und Werkvertragsrecht. Eine rechtliche Einordnung im Einzelfall übernimmt eine Rechtsberatung.
Prüfen Sie Normen, Zahlen und Quellen anhand der Originaldokumente. Misstrauen ist angebracht bei sehr genauen Angaben ohne Beleg und bei Quellen, die sich nicht finden lassen.
Das lässt sich nicht pauschal sagen. Es hängt vom Bedingungswerk, der konkreten Pflichtverletzung und möglichen Ausschlüssen ab. Lassen Sie den Vertrag auf diesen Punkt prüfen.