Vielleicht kennen Sie das aus dem Alltag: Die englische oder französische Version eines Textes wird…
MVO #004 : KI in Maschinen – Wenn Sicherheitsfunktionen nicht mehr starr programmiert sind

Sie sehen gerade einen Platzhalterinhalt von Podigee. Um auf den eigentlichen Inhalt zuzugreifen, klicken Sie auf die Schaltfläche unten. Bitte beachten Sie, dass dabei Daten an Drittanbieter weitergegeben werden.
Mehr Informationen01. Was ist die MVO – und wann gilt sie?
Die neue Maschinenverordnung ist die Verordnung (EU) 2023/1230. Sie ersetzt die bisherige Maschinenrichtlinie 2006/42/EG. Der Unterschied ist nicht nur sprachlich wichtig. Eine Richtlinie muss national umgesetzt werden. Eine Verordnung gilt in der EU unmittelbar. Die MVO ist am 19. Juli 2023 in Kraft getreten und gilt grundsätzlich ab dem 20. Januar 2027. Einige Teile greifen schon früher, etwa zu notifizierten Stellen und bestimmten Verfahrensfragen.
Für Deutschland kommt noch das Maschinenverordnung-Durchführungsgesetz, also das MaschinenDG, dazu. Das regelt unter anderem Sprache, Marktüberwachung und Sanktionen. Praktisch wichtig für uns: Betriebsanleitung, Sicherheitsinformationen und EU-Konformitätserklärung müssen in Deutschland in deutscher Sprache vorliegen. Und wenn die Anleitung digital bereitgestellt wird, muss auch der Zugriffshinweis auf diese digitale Anleitung auf Deutsch sein.
Das klingt erst einmal trocken. Ist es aber nicht. Denn die MVO wurde gerade deshalb überarbeitet, weil die alte Maschinenrichtlinie viele neue technische Entwicklungen nur unzureichend abgebildet hat. Die BAuA, also die Bundesanstalt für Arbeitsschutz und Arbeitsmedizin, nennt ausdrücklich KI, Autonomie und Vernetzung als Treiber der Überarbeitung. Genau deshalb ist diese Folge nicht nur etwas für Juristen oder CE-Verantwortliche, sondern für alle, die an Maschineninformationen arbeiten.
02. KI in Maschinen: Der regulatorische Trick ist nicht das Wort „KI“, sondern die Funktion
Spannend ist: Die MVO arbeitet nicht einfach mit einer pauschalen Überschrift wie „Alles mit KI ist kritisch“. Sie schaut viel genauer hin. Relevant wird es dort, wo Systeme selbstentwickelndes Verhalten, Machine Learning oder variierende Autonomiegrade in sicherheitsrelevanten Funktionen zeigen. In Annex I Part A nennt die MVO ausdrücklich Sicherheitsbauteile mit vollständig oder teilweise selbstentwickelndem Verhalten unter Einsatz von Machine Learning, die Sicherheitsfunktionen sicherstellen. Außerdem nennt sie Maschinen mit eingebetteten solchen Systemen. Und in der indikativen Liste der Sicherheitsbauteile steht sogar ausdrücklich: Software, die Sicherheitsfunktionen gewährleistet, sowie ML-basierte Sicherheitsbauteile.
Genau da liegt der Knackpunkt. Nicht jede KI in einer Maschine ist automatisch ein Safety-Thema. Wenn ein System nur Energieverbräuche optimiert oder eine Oberfläche personalisiert, ist das etwas anderes, als wenn ein System Kollisionen verhindert, Schutzabstände überwacht, Personen erkennt oder Bewegungen freigibt oder blockiert. In dem Moment reden wir nicht mehr über Komfort, sondern über eine sicherheitsrelevante Funktion. Und dann wird die Sache regulatorisch empfindlich.
Noch interessanter wird es bei der Mensch-Maschine-Interaktion. Die MVO verlangt bei Maschinen mit selbstentwickelndem Verhalten oder Logik und unterschiedlichen Autonomiegraden, dass sie – wo relevant – auf Menschen angemessen reagieren und ihre geplanten Handlungen für Bediener verständlich kommunizieren. Das ist der eigentliche Gamechanger. Damit kommt eine neue Qualität in die Dokumentation: Es reicht nicht mehr, nur die Maschine zu beschreiben. Man muss auch beschreiben, wie ihre sicherheitsrelevante Logik nach außen verstehbar wird.
Ein gutes Bild dafür ist eine mobile Maschine oder ein kollaboratives System im Mischbetrieb mit Menschen. Wenn das System Personen erkennt, Fahrwege anpasst, stoppt oder alternative Bewegungen plant, dann ist die Frage nicht nur: Funktioniert das? Sondern auch: Ist für den Menschen nachvollziehbar, warum die Maschine gerade so handelt?
Das ist übrigens auch der Punkt, an dem die MVO auf die KI-Verordnung trifft. Der AI Act, also die Verordnung (EU) 2024/1689, stuft KI-Systeme als hochriskant ein, wenn sie Sicherheitskomponenten bestimmter Produkte sind – und dazu gehören ausdrücklich auch Maschinen, sofern eine Drittstellenbewertung einschlägig ist. Für solche Hochrisiko-KI-Systeme fordert der AI Act unter anderem Risikomanagement, Daten- und Daten-Governance, technische Dokumentation, Logging, Transparenz gegenüber Betreibern, Human Oversight sowie Genauigkeit, Robustheit und Cybersicherheit.
Mit anderen Worten: Die MVO fragt stark nach Maschinensicherheit. Der AI Act ergänzt das mit einem strukturierten Pflichtenprogramm für Hochrisiko-KI. Und in der Praxis bedeutet das: Wer KI in sicherheitsrelevanten Maschinenfunktionen nutzt, bekommt mehr Nachweisdruck, mehr Dokumentationspflicht und mehr Änderungsdisziplin.
03. Cybersecurity ist jetzt Maschinensicherheit
Jetzt kommt der Teil, den viele noch unterschätzen: Unter der MVO ist Cybersicherheit nicht mehr nur ein IT-Spezialthema. Sie ist ein Teil der wesentlichen Sicherheits- und Gesundheitsschutzanforderungen.
Die Verordnung verlangt einen Schutz gegen Korrumpierung. Das heißt vereinfacht: Die Maschine muss so konstruiert sein, dass die Verbindung mit anderen Geräten oder Fernzugriffen nicht zu einer gefährlichen Situation führt. Hardware-Komponenten, die Signale oder Daten für sicherheitskritische Software übertragen, müssen gegen versehentliche oder absichtliche Manipulation geschützt sein. Dasselbe gilt für sicherheitskritische Software und Daten selbst. Zusätzlich muss die Maschine die für den sicheren Betrieb notwendige installierte Software identifizierbar machen und Eingriffe oder Änderungen an Software und Konfiguration nachweisbar erfassen. Für Versionen hochgeladener Sicherheitssoftware ist sogar eine Nachverfolgbarkeit über fünf Jahre vorgesehen; für sicherheitsrelevante softwarebasierte Entscheidungsdaten verlangt die MVO ebenfalls Logging.
Das ist ziemlich deutlich. Übersetzt in den Alltag heißt das:
Wenn eine Sicherheitsfunktion softwarebasiert ist, dann muss man nicht nur ihre Logik beschreiben.
Man musst sauber zeigen können:
- welche Software sicherheitsrelevant ist
- welche Version installiert ist
- welche Änderungen vorgenommen wurden
- wie Manipulationen verhindert oder wenigstens erkannt werden
Und genau hier kippt Cybersecurity in Produktsicherheit. Nicht als Bonus, sondern als Pflicht.
Der AI Act zieht in die gleiche Richtung. Hochrisiko-KI-Systeme müssen ausreichend robust und cybersicher sein, sie sollen Fehlersituationen aushalten, Logging ermöglichen und menschliche Aufsicht unterstützen. In den Gebrauchsinformationen müssen unter anderem Leistungsgrenzen, erwartbare Genauigkeit, Robustheit, Cybersicherheit, vorgesehene Human-Oversight-Maßnahmen sowie Wartungs- und Updateanforderungen stehen.
Das ist für die Technische Dokumentation brutal relevant. Denn Dokumentation wird dadurch vom „Erklären nach dem Bau“ zu einem aktiven Nachweisraum. Wenn Updates, Lernstände, Parameteränderungen oder Sicherheitsgrenzen nicht beherrscht dokumentiert sind, läuft die Doku der Realität hinterher. Und dann wird es nicht nur unpraktisch, sondern haftungsgefährlich.
Muster-Betriebsanleitungen, Vorlagen für Warnhinweise, sowie Checklisten, E-Books und vieles mehr. Besuchen Sie jetzt unseren Online-Shop für die Technische Dokumentation!
04. Was muss die Dokumentation unter der MVO konkret können?
Schauen wir auf den Punkt, der für unsere Branche wahrscheinlich am sichtbarsten ist: die digitale Betriebsanleitung.
Die MVO erlaubt digitale Anleitungen ausdrücklich. Aber eben nicht nach dem Motto: Wir legen irgendwo eine PDF ab und fertig. Die Verordnung knüpft daran klare Bedingungen. Der Hersteller muss am Produkt, auf der Verpackung oder in einem Begleitdokument angeben, wie auf die digitale Anleitung zugegriffen werden kann. Die Anleitung muss so bereitgestellt werden, dass Nutzer sie downloaden, speichern und ausdrucken können – auch für den Fall, dass die Maschine ausfällt. Und sie muss online für die voraussichtliche Lebensdauer des Produkts und mindestens zehn Jahre ab Inverkehrbringen verfügbar bleiben. Auf Wunsch des Käufers ist die Anleitung innerhalb eines Monats kostenfrei in Papierform bereitzustellen. Für Maschinen, die für nicht-professionelle Nutzer bestimmt sind oder vernünftigerweise von ihnen benutzt werden können, müssen die wesentlichen Sicherheitsinformationen für Inbetriebnahme und sichere Nutzung sogar in Papierform mitgegeben werden.
Das ist der Punkt, an dem dein Mini-Case sehr stark funktioniert. Du kannst sagen:
Ein digitales Handbuch ist unter der MVO absolut möglich. Aber nur dann, wenn der Zugriff klar markiert ist – praktisch also zum Beispiel über einen QR-Code oder einen anderen maschinenlesbaren Verweis –, wenn der Nutzer speichern und drucken kann, wenn der Hersteller die Information zehn Jahre verfügbar hält und wenn Papier auf Wunsch geliefert wird. Digital ja. Beliebig nein.
Dasselbe gilt für die EU-Konformitätserklärung. Auch die kann digital bereitgestellt werden, etwa über eine Internetadresse oder einen maschinenlesbaren Code. Aber auch hier gilt die Zehnjahreslogik für die Online-Verfügbarkeit.
Für Deutschland kommt die Sprachfrage dazu. Das MaschinenDG verlangt für Maschinen und dazugehörige Produkte Deutsch für Betriebsanleitung, Sicherheitsinformationen und EU-Konformitätserklärung. Bei digitaler Anleitung muss auch der Zugriffshinweis deutsch sein. Das ist wichtig, weil sich manche zu früh in einer rein englischen oder globalen Plattformlogik einrichten. Für Deutschland ist das zu kurz gesprungen.
Was folgt daraus für die redaktionelle Praxis?
Erstens: Versionsmanagement wird Pflichtprogramm.
Zweitens: Release Notes, Sicherheitsänderungen und Update-Historien müssen enger mit Software, Safety und Service verzahnt werden.
Drittens: Dokumentation muss klar zwischen stabilen Produkteigenschaften und änderbaren softwareabhängigen Verhaltensanteilen unterscheiden.
Und viertens: Wenn KI sicherheitsrelevant entscheidet, dann muss die Anleitung nicht nur Bedienelemente erklären, sondern auch Grenzen, Voraussetzungen, typische Fehlannahmen, menschliche Eingriffsmöglichkeiten und Restrisiken sauber vermitteln. Das ist keine dekorative Zusatzaufgabe, sondern Kern der sicheren Verwendung.
05. KI im Redaktionsalltag nutzen – aber vernünftig
Jetzt noch der Blick auf uns selbst. Denn natürlich stellt sich die Frage: Dürfen oder sollten wir KI beim Schreiben, Recherchieren oder Strukturieren von Doku einsetzen?
Die ehrliche Antwort lautet: Ja – aber bitte nicht naiv.
Die Datenschutzkonferenz sagt in ihren Orientierungshilfen sehr klar, dass Datenschutz und KI von Anfang an zusammengedacht werden müssen. Für KI-Systeme mit Personenbezug gelten die Grundsätze der DSGVO, darunter Zweckbindung, Datenminimierung, Richtigkeit, Transparenz und Nachweisbarkeit. Die DSK betont außerdem die Verantwortlichkeit der jeweils Verantwortlichen und weist darauf hin, dass bei voraussichtlich hohem Risiko eine Datenschutz-Folgenabschätzung nach Artikel 35 DSGVO erforderlich ist.
Für die Praxis heißt das:
Nicht einfach alles in irgendeinen Cloud-Prompt kippen.
Nicht ungeprüft fremde Modelle mit internen Inhalten füttern.
Nicht so tun, als sei ein KI-Text schon deshalb richtig, weil er flüssig klingt.
Sehr hilfreich ist in diesem Zusammenhang die DSK-Orientierungshilfe zu RAG-Systemen. Dort wird beschrieben, dass RAG die Richtigkeit, Nachvollziehbarkeit und Vertraulichkeit verbessern kann, weil zusätzliche Referenzdokumente eingebunden werden. Die DSK betont aber genauso klar: Ein rechtswidrig trainiertes LLM wird nicht dadurch rechtmäßig, dass davor eine RAG-Schicht sitzt. Gleichzeitig kann RAG lokal oder on-premise betrieben werden und so Datenübermittlungen an Dritte reduzieren.
Das ist für die Technische Redaktion Gold wert. Denn genau dort liegt die saubere Einsatzlogik:
KI für Gliederung, Variantenbildung, sprachliche Verdichtung, Recherchevorbereitung oder Entwürfe – ja.
Aber nur mit klar definiertem Zweck, mit sauberem Quellenbezug, mit Eingabedisziplin und mit fachlicher Schlussprüfung durch Menschen.
Die Faustregel für die Folge könnte so lauten:
KI darf dir Arbeit abnehmen. Verantwortung nicht.
Sie wollen die Übersicht behalten? Dann nutzen Sie unsere kostenlosen Checklisten für die Technische Dokumentation und zur Überprüfung Ihrer Betriebsanleitungen!
Glossar mit offiziellen Fundstellen
Maschinenverordnung / MVO
Die neue EU-Verordnung für Maschinen ist die Verordnung (EU) 2023/1230. Sie ersetzt die alte Maschinenrichtlinie und gilt grundsätzlich ab dem 20. Januar 2027. Für deine Folge ist sie die Hauptquelle.
MaschinenDG
Das deutsche Maschinenverordnung-Durchführungsgesetz ergänzt die MVO national, vor allem zu Sprache, Marktüberwachung und Sanktionen. Für Doku besonders wichtig: Deutschpflicht für Anleitung, Sicherheitsinfos und Konformitätserklärung.
Sicherheitsbauteil / Safety Component
Ein sicherheitsrelevantes Bauteil kann auch Software sein. Die MVO nennt in Annex II ausdrücklich „Software ensuring safety functions“ sowie ML-basierte Sicherheitsbauteile.
Selbstentwickelndes Verhalten
Die MVO spricht von vollständig oder teilweise selbstentwickelndem Verhalten unter Nutzung von Machine Learning. Gemeint sind Systeme, deren Verhalten sich nicht nur starr aus klassischer Logik ergibt, sondern sich im Rahmen ihres Konzepts anpasst.
Geplante Handlungen kommunizieren
Bei Maschinen mit selbstentwickelndem Verhalten oder variierenden Autonomiegraden verlangt die MVO, dass sie – wo relevant – ihre geplanten Handlungen den Bedienern verständlich kommunizieren. Das ist dein stärkster Hook, aber eben nur in dieser präzisen Form.
Hochrisiko-KI-System
Im AI Act werden bestimmte KI-Systeme als hochriskant eingestuft. Das betrifft auch KI als Sicherheitskomponente von Produkten wie Maschinen, wenn eine einschlägige Drittstellenbewertung verlangt ist.
Risikomanagement
Der AI Act verlangt für Hochrisiko-KI ein Risikomanagementsystem. Das ist die systematische Ermittlung, Bewertung, Behandlung und Überwachung von Risiken über den Lebenszyklus.
Daten- und Daten-Governance
Für Hochrisiko-KI fordert der AI Act geeignete Verfahren zu Datenherkunft, Datenauswahl, Aufbereitung, Kennzeichnung, Bias-Prüfung und Datenqualität.
Technische Dokumentation
Der AI Act verlangt für Hochrisiko-KI eine technische Dokumentation, unter anderem zu Systemarchitektur, Daten, Validierung, Risikomanagement, Human Oversight, Änderungen und Cybersicherheitsmaßnahmen.
Logging / Protokollierung
Hochrisiko-KI muss Ereignisse automatisch protokollieren können. Auch die MVO verlangt Nachvollziehbarkeit für sicherheitsrelevante Softwareeingriffe und Softwareversionen.
Human Oversight / menschliche Aufsicht
Der AI Act fordert, dass Hochrisiko-KI durch natürliche Personen wirksam überwacht werden kann. Das betrifft auch Benutzeroberflächen und Interpretierbarkeit der Ausgaben.
Schutz gegen Korrumpierung
Das ist der MVO-Begriff für Schutz gegen versehentliche oder absichtliche Manipulationen an sicherheitsrelevanter Hardware, Software und Daten. Der Begriff ist für Folge 3 und 4 zentral.
Digitale Betriebsanleitung
Unter der MVO zulässig, aber nur unter Bedingungen: klarer Zugriffsweg, Download- und Druckmöglichkeit, zehn Jahre Online-Verfügbarkeit, Papier auf Wunsch.
Maschinenlesbarer Code
Die MVO erlaubt für den Zugriff auf digitale Dokumente einen maschinenlesbaren Code. Praktisch ist damit oft ein QR-Code gemeint, juristisch steht dort aber allgemeiner „machine-readable code“.
EU-Konformitätserklärung
Kann nach MVO digital bereitgestellt werden, etwa per Internetadresse oder maschinenlesbarem Code. Auch hier gilt die Pflicht zur langfristigen Zugänglichkeit.
RAG-System
„Retrieval Augmented Generation“ kombiniert ein Sprachmodell mit einer gezielten Suche in Referenzdokumenten. Die DSK sieht darin Chancen für Richtigkeit und Nachvollziehbarkeit, aber keinen Freifahrtschein für rechtswidrig trainierte Modelle.
DSFA / Datenschutz-Folgenabschätzung
Wenn der KI-Einsatz voraussichtlich ein hohes Risiko für Rechte und Freiheiten natürlicher Personen mit sich bringt, ist eine DSFA nach Art. 35 DSGVO erforderlich. Die DSK weist ausdrücklich darauf hin.
Data Protection by Design / Datenschutz durch Technikgestaltung
Die DSK fordert, Datenschutz schon in Design und Entwicklung mitzudenken – nicht erst kurz vor Go-live.
Offizielle Linkliste zum Nachlesen
EUR-Lex: Maschinenverordnung (EU) 2023/1230
BAuA: Neue Europäische Maschinenverordnung
Gesetze im Internet: MaschinenDG
EUR-Lex: KI-Verordnung / AI Act (EU) 2024/1689
DSK: Orientierungshilfe KI-Systeme – technische und organisatorische Maßnahmen
DSK: Orientierungshilfe RAG-Systeme
DIN Media: DIN EN IEC/IEEE 82079-1
DIN Media: DIN EN ISO 12100
-Folgt in kürze-


