TV#08 Wenn KI-Übersetzungen scheitern: Erste Fälle aus der Praxis

Der gefährlichste Fehler ist nicht der, über den alle lachen.

Nicht der offensichtliche Unsinn.
Nicht der Satz, der sichtbar falsch ist.
Nicht die KI-Anweisung, die versehentlich auf einer Verpackung landet.

Der gefährlichste Fehler ist der, der gut klingt.

Der Satz, der professionell wirkt.
Die Übersetzung, die sich flüssig liest.
Der Warnhinweis, der sprachlich sauber formuliert wurde.
Und den trotzdem niemand mit dem Original verglichen hat.

In einer früheren Folge haben wir bereits darüber gesprochen, warum ungeprüfte KI-Übersetzungen in Betriebsanleitungen problematisch sein können. Heute setzen wir genau dort an – aber mit einem noch stärkeren Fokus auf aktuelle Beispiele und öffentliche Einschätzungen. Die Quellen zu meinen Beispielen finden Sie am Ende des Beitrags.

KI-Übersetzungen werden immer besser. Und genau das ist Teil des Problems.

Früher konnte man schlechte Übersetzungen oft sofort erkennen. Denken Sie nur an die Anleitungen von Produkten aus Asien. Heute lesen sich viele dieser Texte erstaunlich sauber, dank KI. Sie klingen professionell, freundlich und grammatikalisch korrekt.

Aber ein Text kann gut klingen und trotzdem falsch sein.

Und wenn dieser Text eine Wartungsanweisung, ein Warnhinweis oder eine sicherheitsrelevante Bedieninformation ist, dann reden wir nicht mehr über Sprache allein.

Dann reden wir über Produktsicherheit.

Beginnen wir mit einem Beispiel, das im Mai 2026 durch die Medien ging.

Auf einer Verpackung eines Waffelprodukts landete offenbar nicht nur ein fertiger Marketingtext, sondern auch eine KI-Arbeitsanweisung beziehungsweise ein Metatext. Also sinngemäß nicht nur: „Hier ist unsere schöne Produktgeschichte“, sondern auch ein Hinweis in der Art: „Hier ist ein kurzer, ansprechender Text, den Sie verwenden können.“

Der Fall wurde online viel geteilt, weil er natürlich komisch wirkt. Ein Hersteller nutzt offenbar KI, kopiert die Ausgabe – und niemand merkt vor dem Druck der Verpackung, dass die KI-Antwort nicht sauber bereinigt wurde.

Auf den ersten Blick ist das peinlich.

Auf den zweiten Blick ist es ein Warnsignal.

Denn der eigentliche Fehler ist nicht, dass KI verwendet wurde.

Der eigentliche Fehler ist: Eine KI-Ausgabe wurde ungeprüft oder nicht ausreichend geprüft in einen Veröffentlichungsprozess übernommen.

Und genau das ist der Punkt, der für technische Dokumentation relevant wird.

Bei einer Waffelverpackung ist das vielleicht ein Lacher im Internet.
Bei einer Betriebsanleitung ist es ein Qualitätsproblem.
Bei einer Wartungsanweisung kann es ein Sicherheitsproblem sein.
Bei einem Warnhinweis kann es haftungsrelevant werden.

Stellen Sie sich vor, so ein KI-Resttext landet nicht auf einer Verpackung, sondern in einer Anleitung:

„Hier ist eine verbesserte Version des Warnhinweises.“

Oder:

„Bitte prüfen Sie, ob diese Sicherheitsanweisung zur Maschine passt.“

Oder:

„Ich habe den Text etwas vereinfacht.“

Wenn solche Sätze in einer freigegebenen Anleitung auftauchen, ist das nicht nur peinlich. Es ist ein Hinweis darauf, dass der Freigabeprozess nicht funktioniert hat.

Und dann stellt sich sofort die nächste Frage:

Was ist noch nicht geprüft worden?

Die Zahlen?
Die Einheiten?
Die Warnstufen der Warnhinweise?
Die Reihenfolge der Handlungsschritte?
Die Begriffe für Schutzeinrichtungen?
Die Angaben zum sicheren Wiederanlauf?
Die Hinweise zur Energieisolierung bei Arbeiten an elektrischen Teilen?

Der Verpackungsfehler ist also nur die sichtbare Spitze.

Das eigentliche Thema heißt: Wie verhindern wir, dass ungeprüfte KI-Ausgaben in sicherheitsrelevante Informationen gelangen?

Ein weiteres Beispiel zeigt sehr eindrücklich, dass Übersetzungsfehler nicht nur sprachliche Fehler sind. Sie können Handlungen auslösen.

In Bayern wollte ein Fahrgast laut Medienberichten per Handyübersetzung offenbar fragen, wo ein Zug geteilt wird, damit er nicht in die falsche Richtung fährt. Aus „Wird der Zug an der nächsten Haltestelle geteilt“ wurde aber „Der Zug explodiert an der nächsten Haltestelle“. Eine Mitreisende alarmierte den Bahnnotruf. Der Zug wurde evakuiert, Sprengstoffhunde kamen zum Einsatz, der Fahrgast wurde kurzzeitig festgenommen, und 80 Reisende mussten den Zug verlassen.

Das ist zwar kein Beispiel aus der technischen Dokumentation.

Aber es zeigt einen Mechanismus, der für technische Dokumentation extrem wichtig ist:

Eine Text bzw. dessen Übersetzung löst Verhalten aus.

Bei der Bahn kann eine falsche Übersetzung einen Notruf auslösen.
In der Medizin kann eine falsche Übersetzung eine falsche Medikamenteneinnahme auslösen.
In der Maschinenwelt kann eine falsche Übersetzung eine falsche Wartungshandlung auslösen.

Und genau deshalb reicht die Frage nicht aus:

„Klingt der Satz verständlich?“

Die entscheidende Frage lautet:

„Führt der Satz zur richtigen Handlung?“

Denn technische Dokumentation ist keine Literatur. Sie ist auch kein Marketingtext.

Technische Dokumentation steuert Verhalten.

Sie sagt Menschen, wie sie eine Maschine aufstellen, bedienen, reinigen, warten, reparieren, stillsetzen oder im Störungsfall reagieren sollen.

Wenn diese Handlungsanweisung falsch übersetzt ist, dann ist nicht nur der Text falsch.

Dann kann auch die Handlung falsch sein.

Warum ist das Thema bei Betriebsanleitungen so kritisch?

Weil technische Dokumentation mehrere Aufgaben gleichzeitig erfüllt.

Sie informiert.
Sie warnt.
Sie grenzt die bestimmungsgemäße Verwendung ab.
Sie beschreibt Restrisiken.
Sie erklärt Schutzmaßnahmen.
Sie regelt Wartung und Instandhaltung.
Sie unterstützt den sicheren Betrieb.
Und sie ist Teil der Nachweisführung für die Produktsicherheit.

Das bedeutet: In einer Anleitung darf ein sicherheitsrelevanter Inhalt nicht ungefähr stimmen. Er muss belastbar stimmen.

Ein Beispiel: Im Original steht:

„Vor Arbeiten an der Maschine Hauptschalter ausschalten und gegen Wiedereinschalten sichern.“

Eine KI-Übersetzung macht daraus:

„Schalten Sie die Maschine vor Wartungsarbeiten aus.“

Das klingt gut.
Das klingt verständlich.
Das ist nicht völlig falsch.
Aber es ist unvollständig.

Denn „gegen Wiedereinschalten sichern“ fehlt.

Und genau dieses fehlende Detail kann im Ernstfall entscheidend sein.

Noch ein Beispiel:

„Do not operate without guard.“

Daraus wird:

„Bedienen Sie die Maschine vorsichtig ohne Schutz.“

Das wäre nicht nur falsch übersetzt. Das wäre eine gefährliche Handlungsanweisung.

Und genau hier liegt der Kern dieser Folge:

KI-Übersetzungen sind nicht gefährlich, weil sie immer schlecht sind.

Sie sind gefährlich, weil sie oft gut wirken, obwohl einzelne Inhalte falsch, unvollständig oder verändert sind.

Der BDÜ, also der Bundesverband der Dolmetscher und Übersetzer, beschreibt in seinem Positionspapier genau dieses Problem.

KI-basierte Übersetzungen und neuronale maschinelle Übersetzung können auf den ersten Blick sehr überzeugend wirken. Die Texte sind oft flüssig, idiomatisch und grammatikalisch korrekt. Gleichzeitig besteht das Risiko, dass Inhalte erfunden, ausgelassen oder verändert werden. Ob der Ausgangstext wirklich korrekt und vollständig wiedergegeben wurde, lässt sich nur durch einen genauen Vergleich von Ausgangs- und Zieltext feststellen.

Das ist für uns in der technischen Dokumentation der entscheidende Satz.

Denn wir dürfen KI-Übersetzungen nicht nur danach bewerten, ob sie gut lesbar sind.

Wir müssen prüfen:

• Ist der Inhalt vollständig?
• Sind alle Bedingungen enthalten?
• Sind alle Warnungen erhalten geblieben?
• Sind alle Verbote erhalten geblieben?
• Sind Zahlen und Einheiten korrekt?
• Sind die Fachbegriffe konsistent?
• Sind Handlungsreihenfolgen gleich geblieben?
• Sind Warnstufen unverändert?
• Sind Schutzmaßnahmen nicht abgeschwächt?
• Wurde nichts ergänzt, was technisch gar nicht vorhanden ist?

Ein flüssiger Text kann fachlich falsch sein.

Und genau das macht KI-Übersetzungen in sicherheitsrelevanten Dokumenten so tückisch.

Früher hat eine schlechte Übersetzung oft gestolpert. Man hat gemerkt: Hier stimmt etwas nicht.

Heute stolpert der Text nicht mehr. Er läuft.

Aber vielleicht läuft er in die falsche Richtung.

Was sagt der BDÜ zum Einsatz von KI beim Übersetzen?

Schauen wir etwas genauer auf das Positionspapier des BDÜ. Der BDÜ sagt nicht einfach: „KI darf nicht verwendet werden.“ Das wäre auch zu einfach.

Der Verband unterscheidet vielmehr nach Risiko, Zweck und Folgen einer Übersetzung. Es gibt einfache Kommunikationssituationen, in denen maschinelle Übersetzung helfen kann. Und es gibt folgenrelevante beziehungsweise risikobehaftete Bereiche, in denen eine qualitätsgesicherte Übersetzung erforderlich ist. Dazu zählen zum Beispiel Gesundheit, Arbeitsschutz, Gerichtsverfahren oder haftungsrelevante Verträge.

Und genau hier passt die technische Dokumentation hinein.

Denn eine Betriebsanleitung ist nicht einfach ein Informationstext.

• Sie enthält Arbeitsschutzinformationen.
• Sie enthält sicherheitsrelevante Handlungsanweisungen.
• Sie enthält haftungsrelevante Aussagen.
• Sie beschreibt Grenzen der Verwendung.
• Sie kann im Streitfall relevant werden.
• Und sie beeinflusst unmittelbar, wie Menschen mit einem Produkt umgehen.

Deshalb sollten Unternehmen bei KI-Übersetzungen nicht pauschal fragen:

„Ist KI erlaubt?“

Sondern:

„Für welchen Texttyp wird KI eingesetzt?“
„Welche Folgen hätte ein Übersetzungsfehler?“
„Wer prüft den Zieltext fachlich?“
„Wie wird die Freigabe dokumentiert?“
„Welche Inhalte dürfen nicht ungeprüft maschinell übersetzt werden?“

Die richtige Frage lautet also nicht: KI ja oder nein?
Die richtige Frage lautet: Welches Risiko hat dieser Text – und welcher Prüfprozess passt dazu?

Auch öffentliche Stellen gehen mit maschineller Übersetzung vorsichtig um.

Die Europäische Kommission nutzt selbst maschinelle Übersetzung auf ihren Webseiten. Gleichzeitig weist sie ausdrücklich darauf hin, dass maschinelle Übersetzung vollautomatisch ohne menschliches Eingreifen erfolgt, dass Qualität und Genauigkeit je nach Text und Sprachpaar stark schwanken können und dass die Kommission keine Garantie für Richtigkeit übernimmt. Besonders wichtig: Die Kommission warnt ausdrücklich davor, eTranslation für die Übersetzung von EU-Rechtsvorschriften zu verwenden.

Das ist eine harte Aussage.

Wenn selbst die Europäische Kommission bei ihrer eigenen maschinellen Übersetzung sagt: „Achtung, keine Garantie für Richtigkeit“, dann sollten Unternehmen sehr vorsichtig sein, wenn sie sicherheitsrelevante Anleitungen ungeprüft maschinell übersetzen.

Denn eine Betriebsanleitung ist kein beliebiger Informationstext. Sie ist Grundlage für sicheres Handeln.

Auch das BSI, also das Bundesamt für Sicherheit in der Informationstechnik, weist bei generativer KI auf Risiken hin. In einer Stellungnahme nennt das BSI unter anderem Risiken wie fehlende Faktizität, fehlende Reproduzierbarkeit, fehlerhafte Reaktionen auf bestimmte Eingaben und mögliche Vertraulichkeitsprobleme. Besonders wichtig für uns: Wenn Sprachmodelle in kritischen Bereichen eingesetzt werden, können diese Risiken signifikante Auswirkungen haben und sollten im Rahmen einer systematischen und anwendungsfallabhängigen Risikoanalyse berücksichtigt werden.

Auch das passt sehr gut zur technischen Dokumentation. Bei uns geht es nicht darum, ob ein Text hübsch formuliert ist.

Es geht darum, ob ein KI-System in einem Prozess eingesetzt wird, der Auswirkungen auf Sicherheit, Haftung und Konformität haben kann.

Oder einfacher gesagt:

KI-Übersetzung ist kein reiner Einkaufsvorgang.

KI-Übersetzung ist ein Prozessrisiko.

Und Prozessrisiken müssen beherrscht werden.

Menschliche Aufsicht und Automation Bias

Ein weiterer Punkt kommt aus dem EU AI Act.

Der EU AI Act fordert für Hochrisiko-KI-Systeme menschliche Aufsicht. Menschen müssen in der Lage sein, KI-Systeme zu überwachen, Ergebnisse zu interpretieren und bei Bedarf einzugreifen oder Ausgaben zu übersteuern. Außerdem geht es darum, eine übermäßige Abhängigkeit von KI-Ausgaben zu vermeiden – also das, was häufig als Automation Bias bezeichnet wird.

Ganz wichtig: Eine Übersetzungs-KI für Betriebsanleitungen ist nicht automatisch ein Hochrisiko-KI-System im Sinne des AI Act.

Aber das Prinzip ist trotzdem sehr wertvoll.

Denn Automation Bias sehen wir in der Praxis ständig.

• Ein Text kommt aus einem professionellen System.
• Er ist sauber formatiert.
• Er klingt gut.
• Er wirkt plausibel.
• Also glaubt man ihm.

Genau das ist gefährlich.

Menschen neigen dazu, maschinell erzeugten Ergebnissen zu vertrauen, vor allem wenn sie gut präsentiert werden.

Bei KI-Übersetzungen heißt das:

Je besser der Text klingt, desto eher wird er akzeptiert.

Aber in der technischen Dokumentation dürfen wir uns nicht von Sprachqualität blenden lassen.

Wir brauchen fachliche Prüfung.

Nicht nur Sprachgefühl.

Warum sprechen wir gerade jetzt darüber?

Weil mehrere Entwicklungen zusammenkommen.

Erstens: Unternehmen setzen KI immer häufiger ein, auch in Redaktions-, Übersetzungs- und Serviceprozessen.

Zweitens: Produkte werden internationaler. Betriebsanleitungen, Softwareoberflächen und Serviceinformationen müssen in immer mehr Sprachen bereitgestellt werden.

Drittens: Der Zeitdruck steigt. Übersetzungen werden oft erst kurz vor Auslieferung fertig.

Viertens: Dokumentation wird digitaler. Die neue EU-Maschinenverordnung 2023/1230 wurde im Amtsblatt der EU veröffentlicht und wird für Maschinen ab dem 20. Januar 2027 relevant; die DGUV weist darauf hin, dass bis 19. Januar 2027 die Maschinenrichtlinie gilt und ab dem 20. Januar 2027 die Maschinenverordnung anzuwenden ist.

Und fünftens: KI-Tools machen es einfacher denn je, große Textmengen schnell zu übersetzen.

Das klingt erst einmal gut.

Aber Geschwindigkeit ersetzt keine Verantwortung.

Wenn Dokumentation schneller erstellt wird, darf die Prüfung nicht verschwinden. Sie muss besser organisiert werden.

Denn je schneller Inhalte erzeugt werden können, desto wichtiger wird die Frage:

• Was davon ist Entwurf?
• Was davon ist geprüft?
• Was davon ist freigegeben?
• Und was davon darf wirklich an den Kunden gehen?

Blick in die Medizin: Gute Quote reicht nicht immer

Ein Blick in den medizinischen Bereich zeigt, warum selbst gute Übersetzungsleistungen nicht automatisch ausreichen.

Eine Studie in BMJ Quality & Safety untersuchte ChatGPT-4 und Google Translate bei der Übersetzung patientenspezifischer Entlassanweisungen aus der Notaufnahme. Untersucht wurde die Übersetzung aus dem Englischen in die Sprachen Spanisch, Chinesisch und Russisch. Die Studie betrachtete dabei nicht nur allgemeine sprachliche Qualität, sondern auch mögliche Schäden durch ungenaue Übersetzungen.

Dabei ging es nicht um allgemeine Standardtexte, sondern um frei formulierte, konkrete Anweisungen von Ärztinnen und Ärzten an Patientinnen und Patienten.

Das Ergebnis: Die Satzebene war teilweise sehr gut, wir sprechen von Genauigkeiten bei Spanisch und Chinesisch von mindestens 90%, meist sogar von 97% oder mehr. Nur das Sprachpaar Englisch Russisch war mit 80-90% etwas schlechter.

Klingt das für Sie gut und ausreichend? Erstmal klingt es beruhigend, oder? Das Problem: Wir reden hier von der Satzebene. Der Arzt hat nicht alles in einem Satz formuliert, sondern komplette Anweisungen, über mehrere Sätze hinweg. Die Sätze hängen inhaltlich zusammen.

Das Ergebnis wird bei den kompletten Anweisungen dabei deutlich schlechter. Hier hatten wir je nach Sprache eine Chance von 16 bis 56%, dass mindestens eine Ungenauigkeit oder ein Fehler in der Übersetzung enthalten war. Von diesen Fehlern hätten etwa 6% zu Schäden beim Patienten führen können.

Ich mache das einmal greifbarer: Wenn wir von 100 KI-übersetzten Entlassanweisungen ausgehen, dann könnten laut Studie bis zu 6 dieser Anweisungspakete mindestens einen Fehler enthalten, der potenziell gesundheitlich schädlich ist. Das bedeutet nicht, dass 6 Menschen tatsächlich geschädigt wurden. Aber es bedeutet: Bis zu 6 Personen könnten auf Grundlage einer fehlerhaften Übersetzung eine medizinisch relevante Information falsch verstehen oder falsch umsetzen. Das sind 6 potenzielle Produkthaftungsklagen.

Der medizinische Bereich ist natürlich riskanter als die Welt des Maschinenbaus.

Aber die Parallele ist klar:

Wenn eine Anweisung falsch übersetzt wird, kann daraus eine falsche Handlung werden.

In der Medizin kann das eine falsche Einnahme sein.
In der technischen Dokumentation kann das ein falscher Wartungsschritt sein.
In beiden Fällen reicht es nicht, wenn der Text im Durchschnitt gut und korrekt ist.

Denn Sicherheit hängt nicht am Durchschnitt. Sicherheit hängt oft an einem konkreten Satz:

• An einer Bedingung.
• An einer Reihenfolge.
• An einem Grenzwert.
• An einem Verbot.
• An einem fehlenden „nicht“.
• An einem fehlenden „gegen Wiedereinschalten sichern“.

Und deshalb ist der Satz „Die Übersetzung sind zu 95 Prozent richtig und korrekt“ in sicherheitsrelevanten Kontexten nur begrenzt beruhigend.

Wenn die falschen fünf Prozent im Wartungskapitel stehen, haben wir ein Problem.

Das ist vielleicht der wichtigste Satz dieser Folge:

KI ist kein verantwortlicher Übersetzer.

KI ist ein Werkzeug.

Ein leistungsfähiges Werkzeug.
Ein hilfreiches Werkzeug.
Ein Werkzeug, das Zeit sparen kann.
Ein Werkzeug, das gute Entwürfe liefern kann.

Aber eben nur ein Werkzeug.

Ein Schraubenschlüssel unterschreibt keine Konformitätserklärung.
Ein CAD-System verantwortet keine Konstruktion.
Ein Übersetzungstool verantwortet keine Betriebsanleitung.
Und eine KI übernimmt keine Haftung.

Verantwortlich bleibt das Unternehmen, das die Dokumentation veröffentlicht und das Produkt in Verkehr bringt.

Oder anders gesagt:

Die KI schreibt vielleicht den Satz.

Aber das Unternehmen steht dafür gerade.

Zusammenfassung: Was bleibt hängen?

Fassen wir die wichtigsten Punkte zusammen.

Erstens:

Der Waffel-Fall zeigt nicht, dass KI grundsätzlich schlecht ist. Er zeigt, dass ungeprüfte KI-Ausgaben in Veröffentlichungsprozessen gefährlich sind.

Zweitens:

Der Zug-Fall zeigt, dass Übersetzungen Handlungen auslösen können. Eine falsche Übersetzung kann einen kompletten Einsatzprozess in Gang setzen.

Drittens:

Der BDÜ weist zu Recht darauf hin, dass KI-Übersetzungen flüssig und korrekt wirkend sein können, obwohl Inhalte ausgelassen, verändert oder ergänzt wurden.

Viertens:

Die EU-Kommission warnt bei maschineller Übersetzung selbst vor schwankender Qualität und übernimmt keine Garantie für Richtigkeit.

Fünftens:

Das BSI empfiehlt bei Sprachmodellen in kritischen Bereichen eine systematische und anwendungsfallabhängige Risikoanalyse.

Abschluss: Der gefährlichste Fehler klingt richtig

Der gefährlichste KI-Übersetzungsfehler ist nicht der lustige Fehler.

Nicht der Satz, bei dem noch „Hier ist Ihr Vorschlag“ auf einer Verpackung steht.
Nicht der offensichtliche Unsinn.
Nicht die Übersetzung, über die alle lachen.

Der gefährlichste Fehler ist der, der gut klingt.

Der Satz, der professionell wirkt.
Der Warnhinweis, der sauber formuliert ist.
Die Wartungsanweisung, die plausibel erscheint.
Die Übersetzung, die niemand mehr mit dem Original vergleicht.

Genau deshalb brauchen wir bei KI-Übersetzungen in der technischen Dokumentation einen klaren Prozess. Und auf diesen gehen wir in der nächsten Folge ein. Behalten Sie sich nur im Kopf: Ein gut klingender Text ist noch lange kein sicherer Text.

Quellen:

– BDÜ: Positionspapier zum Einsatz von KI, LLM und neuronaler maschineller Übersetzung beim Übersetzen von Texten.
– EU-Kommission: Hinweise zur maschinellen Übersetzung auf Europa-Webseiten; 
– BSI: Stellungnahme zu generativer KI; Risiken in kritischen Bereichen sollen im Rahmen einer systematischen und anwendungsfallabhängigen Risikoanalyse betrachtet werden.
– BSI: Aktualisierte Publikation zu Chancen und Risiken generativer KI-Modelle, veröffentlicht am 21. Januar 2025.
– EU AI Act Service Desk: Artikel 14 zur menschlichen Aufsicht bei Hochrisiko-KI-Systemen; Menschen müssen KI-Ausgaben überwachen, interpretieren und gegebenenfalls übersteuern können.
– EU-Maschinenverordnung 2023/1230: Verordnung über Maschinen, veröffentlicht im Amtsblatt der EU.
– DGUV zur EU-Maschinenverordnung: Bis 19. Januar 2027 gilt die Maschinenrichtlinie, ab 20. Januar 2027 die Maschinenverordnung; keine Übergangsphase mit Wahlmöglichkeit.
– BMJ Quality & Safety: Studie zur Genauigkeit und Sicherheit maschineller Übersetzung von patientenspezifischen Entlassanweisungen mit ChatGPT-4 und Google Translate.
– WELT/dpa: Übersetzungsfehler im Zug – aus der Frage nach einem geteilten Zug wurde eine vermeintliche Explosion.
– Heute.at: KI-Anweisung landet auf Waffelverpackung.