Gelernte Roboter-Policies: Abnahme und Sicherheitsnachweis

In der industriellen Praxis vollzieht sich bei fahrerlosen Transportsystemen und autonomen mobilen Robotern ein grundlegender technischer Wandel. Während klassische fahrerlose Transportsysteme auf deterministischen Zustandsautomaten und festen Wegstrecken basieren, halten zunehmend Systeme Einzug, deren Bewegungsentscheidungen auf gelernten Modellen beruhen. Um diesen Wandel präzise zu fassen, muss zunächst die Begrifflichkeit geklärt werden: Der Begriff Physical AI wird primär von Technologieanbietern geprägt. NVIDIA beschreibt Physical AI als Fähigkeit autonomer Systeme wie Kameras, Roboter und selbstfahrende Fahrzeuge, ihre Umgebung wahrzunehmen, zu verstehen, daraus zu schließen und komplexe Handlungen in der physischen Welt auszuführen oder zu orchestrieren. Für autonome Fahrzeuge nennt NVIDIA dabei ausdrücklich Vision-Language-Action-Modelle (VLA), die auf Basis der Sensordaten Entscheidungen treffen.

Für Betreiber, Asset-Manager und Instandhaltungsleitungen entsteht daraus eine fundamentale Veränderung in der Abnahme. Bei einem deterministischen autonomen mobilen Roboter (AMR) lässt sich das Verhalten vollständig aufzählen und systematisch testen: Jede geplante Fahrstrecke, jede Abzweigung, jedes Verhalten an einer Brandschutztür und jedes Halteprofil lässt sich in Testprotokollen Zeile für Zeile abfahren und abhaken. Wenn alle definierten Strecken und Haltepunkte erfolgreich durchlaufen sind, gilt die Anlage als abgenommen.

Bei einer gelernten Policy existiert dieser aufzählbare Zustandsraum nicht mehr. Ein neuronales Netz bildet einen kontinuierlichen Wahrscheinlichkeitsraum ab. Der Betreiber nimmt kein lineares Wenn-Dann-Programm ab, sondern eine statistische Verteilung von Verhalten. Dasselbe Hindernis kann je nach Beleuchtungswinkel, Annäherungsgeschwindigkeit oder Pixelverteilung im Kamerasensor zu leicht abweichenden Ausweichradien oder Beschleunigungswerten führen. Wer für eine solche Flotte die Verantwortung trägt, benötigt ein verändertes Vorgehen für Spezifikation und Abnahmeprüfung, wie es auch für Physische KI für Outdoor-AMR im Brownfield-Umfeld gilt.

• Deterministischer AMR: Das Systemverhalten folgt expliziter Logik mit endlichen, vollständig prüfbaren Pfaden und definierten Haltebedingungen.
• Gelernte Policy: Das Systemverhalten basiert auf hochdimensionalen statistischen Gewichten; getestet wird eine Verteilung von Reaktionsmustern unter wechselnden Umgebungsbedingungen.
• Operative Konsequenz: Die klassische Checklisten-Abnahme greift nicht mehr, da Vollständigkeit mathematisch nicht erreichbar ist.

Wenn Testfälle nicht mehr vollständig aufzählbar sind, muss das Abnahmeverfahren von einer punktuellen Funktionsprüfung auf eine statistische Szenarienabdeckung umgestellt werden. Betreiber können nicht verlangen, dass jeder denkbare Umweltzustand vorab physisch simuliert wird. Sie müssen stattdessen verlangen, dass der Anbieter eine repräsentative Stichprobe operationalisierter Szenarien nachweist und vertraglich zusichert.

Grundvoraussetzung für jedes Abnahmeprotokoll ist ein schriftlich definierter Betriebsbereich (Operating Envelope). In diesem Dokument werden die physikalischen, visuellen und operativen Grenzen festgelegt, innerhalb derer die gelernte Policy gültige Entscheidungen treffen darf. Dazu gehören präzise Lux-Werte für Beleuchtungsstärken, zulässige Bodenneigungen, Reibwerte, Temperaturbereiche sowie Mindestkontraste von Fahrwegmarkierungen und Hindernissen. Weicht die Einsatzumgebung im Betrieb von diesen Parametern ab, greift kein Mängelanspruch gegenüber der gelernten Funktion, sondern das System muss kontrolliert in einen sicheren Zustand übergehen.

Ebenso entscheidend ist der sogenannte Out-of-Scope-Katalog: eine explizite vertragliche Erklärung darüber, was das System ausdrücklich nicht bewältigen soll. Ohne diesen Negativkatalog führt jede betriebliche Anomalie zu langwierigen Streitigkeiten zwischen Betreiber und Integrator. Der Katalog schließt Grenzfälle wie spiegelnde Pfützen, herabhängende Folien oder transparente Absperrungen klar aus und definiert die geforderte Rückfallreaktion des Fahrzeugs.

Im klassischen Maschinenbau bleibt die Steuerungssoftware einer Anlage nach der Abnahme weitgehend unverändert, abgesehen von seltenen, qualifizierten SPS-Patches. Bei KI-basierten Robotern werben Hersteller häufig mit kontinuierlichen Over-the-Air-Updates (OTA), die das Fahrzeug im Betrieb stetig verbessern sollen. Für den Flottenbetreiber ist ein Modell-Update jedoch kein bequemer Software-Patch, sondern eine fundamentale Verhaltensänderung der laufenden Maschine.

Ein neues neuronales Netz, das auf zusätzliche Daten feinabgestimmt wurde, kann zwar die Erkennungsrate bestimmter Palettentypen erhöhen, gleichzeitig aber unvorhergesehenes Verhalten an zuvor unkritischen Kreuzungen erzeugen. Betreiberverträge müssen daher festlegen, dass kein Update ohne vorangehende betriebliche Validierung direkt auf die Produktivfläche aufgespielt werden darf. Die Validierung erfordert eine abgestufte Testkette:

1. Staging-Validierung: Auswertung des neuen Modells auf historischen Sensordaten des Betreibers zur Prüfung von Regressionsfreiheit.
2. Shadow Mode: Das neue Modell läuft parallel auf einzelnen Robotern mit und berechnet Pfade, während die bestehende, abgenommene Policy die Aktuatoren steuert.
3. Canary Deployment: Freigabe des Updates für ein einzelnes Fahrzeug in einem abgegrenzten Hallenbereich über mehrere aufeinanderfolgende Schichten.
4. Flottenweiter Rollout: Sukzessive Verteilung auf die Restflotte über eine strukturierte Schnittstelle wie den Multi-Tenant-Connector.

Zusätzlich muss vertraglich ein automatisierter und zwingender Rollback-Pfad vereinbart werden. Wenn ein neues Modell auf der Fläche zu einer definierten Schwellenwertüberschreitung bei Schleichfahrten, Fehlstopps oder Verfahrzeiten führt, muss das Fahrzeug unverzüglich und ohne Eingriff eines Servicetechnikers vor Ort auf den vorherigen, freigegebenen Modellstand zurückfallen können.

Der zentrale Grundsatz für den sicheren Betrieb von Robotern mit gelernten Anteilen lautet: Eine gelernte Policy ist keine Sicherheitsfunktion. Die sicherheitsrelevanten Steuerungsfunktionen müssen stets deterministisch aufgebaut sein und vollständig außerhalb des gelernten Modells liegen. Dieser Grundsatz ergibt sich aus dem Anwendungsbereich des technischen Berichts CEN ISO/TR 22100-5:2022 (identisch mit ISO/TR 22100-5:2021) zur Beziehung zwischen Maschinensicherheit und maschinellem Lernen.

Der Anwendungsbereich dieses technischen Berichts enthält zwei grundlegende Abgrenzungen, die jeder Betreiber kennen muss. Erstens ist das Dokument ausdrücklich nicht anwendbar auf Maschinen mit Anwendungen des maschinellen Lernens, die dafür ausgelegt sind, außerhalb festgelegter Grenzen zu handeln und dadurch unvorhersehbare Wirkungen erzeugen können. Zweitens behandelt das Dokument keine Sicherheitssysteme mit künstlicher Intelligenz, wie etwa sicherheitsbezogene Sensoren und andere sicherheitsbezogene Teile von Steuerungen.

Für die betriebliche Praxis bedeutet das: Die gelernte Schicht agiert ausschließlich als Planungs- und Optimierungseinheit. Sie berechnet Trajektorien, optimiert Kurvenradien und erkennt Ladungsträger. Unterhalb dieser Schicht liegt eine zertifizierte Sicherheitssteuerung mit sicheren Laserscannern und Not-Halt-Kreisen (wobei branchenspezifische Transportnormen wie die ISO 3691-4 die deterministischen Schutzfeldanforderungen vorgeben). Wenn die gelernte Policy eine fehlerhafte Bewegung anfordert, unterbricht die deterministische Sicherheitsebene die Aktorik hart. An der Schnittstelle zur übergeordneten Leitsteuerung sorgt eine standardisierte Flottenarchitektur wie VDA 5050 in der Mischflotte dafür, dass Fahrbefehle und Sicherheitszustände klar getrennt bleiben.

Moderne Roboter generieren während jeder Schicht Gigabytes an Sensordaten, darunter hochauflösende 2D-Kamerabilder, 3D-Punktwolken aus LiDAR-Sensoren und räumliche Hallenpläne. Bei gelernten Modellen fordern Hersteller regelmäßig den Rückfluss dieser Daten in ihre Cloud-Systeme ein, um Modelle weiterzutrainieren. Für Facility- und Instandhaltungsleitungen entsteht hier ein erhebliches Risiko hinsichtlich Betriebssicherheit und Datenhoheit.

Im Beschaffungsvertrag muss präzise geregelt sein, welche Daten das Werksgelände verlassen dürfen. Rohvideostreams und detaillierte 3D-Karten enthalten betriebsrelevante Informationen über Hallenlayouts, Produktionsabläufe und Taktzeiten. Verträge sollten festlegen, dass Datenübertragungen auf aggregierte Telemetriewerte beschränkt bleiben oder eine vollständige lokale Vorverarbeitung (Edge Processing) erfolgt. Zudem ist zu klären, ob der Hersteller die betrieblichen Daten für das Training generischer Modelle nutzen darf, die potenziell auch Wettbewerbern zur Verfügung stehen.

Besondere Aufmerksamkeit erfordert das Szenario einer Anbieterinsolvenz, Übernahme oder Modellabkündigung. Wenn ein Hersteller den Betrieb einstellt oder ein Modell nicht mehr weiterführt, darf die Flotte nicht stillstehen. Eine gründliche Lieferanten-Due-Diligence muss daher vertragliche Schutzmechanismen beinhalten: Betreiber benötigen ein dauerhaftes, unwiderrufliches Nutzungsrecht an der zuletzt freigegebenen Modellversion (Modell-Freeze) sowie die Zusicherung, dass die Roboter auch ohne aktive Cloud-Verbindung lokal autark weiterarbeiten können. Wie Flotten nach mehreren Betriebsjahren wirtschaftlich betrieben werden, beschreibt auch der Leitfaden für Jahr drei und Nutzungsende.

• Datenabfluss begrenzen: Keine unverschlüsselten Rohbilddaten oder Punktwolken ohne schriftliche Betreiberfreigabe in externe Clouds übertragen.
• Nutzungsrechte bei Modellabkündigung: Hinterlegung der Gewichtsmatrizen und Inferenz-Laufzeitumgebungen in einem Software-Escrow zur Absicherung des Weiterbetriebs.
• Lokale Autarkie: Volle Funktionsfähigkeit des Gesamtsystems im Offline-Modus bei Ausfall externer Serverinfrastrukturen.

Auf dem Robotikmarkt wird derzeit nahezu jede sensorbasierte Automatisierung als KI-gestützt beworben. Für Betreiber ist es essenziell, das Marketing der Anbieter technisch zu zerlegen. In vielen Fällen handelt es sich bei den verbauten Komponenten nicht um autonome gelernte Handlungs-Policies, sondern um klassische industrielle Bildverarbeitung, in die lediglich ein standardisierter Klassifikator für die Objekterkennung integriert ist.

Der Unterschied ist gravierend: Ein System mit klassischer Bildverarbeitung und vorgeschaltetem Klassifikator erkennt lediglich ein Objekt (etwa eine Palette mit einer bestimmten Konfidenz) und übergibt die Koordinaten an einen vollständig deterministischen Bewegungsplaner. Eine echte gelernte Policy (wie ein VLA-Modell) hingegen steuert die Motoren und Gelenke des Roboters direkt auf Basis der visuellen Eingaben. Während der erste Fall klassisch prüfbar bleibt, erfordert der zweite Fall die beschriebene statistische Szenarienabnahme.

Verschärft wird diese Situation durch die normative Lücke im Standardisierungsumfeld. Der Technical Report ISO/IEC TR 5469:2024 ("Artificial intelligence – Functional safety and AI systems") beschreibt Eigenschaften, Risikofaktoren, Methoden und Prozesse zum Einsatz von KI in sicherheitsbezogenen Funktionen, ist als Technical Report jedoch rein informativ und besitzt keine normative Verbindlichkeit. Eine verbindliche Abnahme- oder Validierungsvorschrift für gelerntes Roboterverhalten liegt damit bis heute nicht vor. Betreiber müssen diese Lücke in ihren eigenen Ausschreibungen und Verträgen durch gezielte technische Fragen schließen.

Trotz der rasanten Entwicklung im Bereich des maschinellen Lernens bleibt deterministische Programmierung für den überwiegenden Teil industrieller Transport- und Montageflächen weiterhin die wirtschaftlich und technisch überlegene Lösung. Wo Fahrwege klar strukturiert, Prozesse getaktet und Umgebungsbedingungen kontrollierbar sind, bietet deterministische Software unübertroffene Zuverlässigkeit, minimale Latenzen und planbare Betriebskosten.

Ein nüchterner Blick auf den Markt verdeutlicht die Differenzierung zwischen Laborforschung und industrieller Realität. Im Bericht "Where Autonomy Works: Evaluating Robot Capabilities in 2026" stellt Epoch AI fest, dass Navigation kommerziell im Einsatz ist, etwa beim Transport von Gütern im Lager, während die meisten Aufgaben, bei denen Roboter Objekte handhaben, montieren oder manipulieren müssen, weitgehend im Labor verbleiben; Kommissionieren im Lager gilt dabei als das klarste Beispiel für kommerziell eingesetzte Manipulation in kontrollierter Umgebung. Der Transfer gelernter Fähigkeiten auf neue Objekte, Umgebungen und Aufgaben wird laut Epoch AI nur selten gezeigt, ist für die meisten Anwendungen aber entscheidend; die meisten Demonstrationen zeigen Roboter, die auf eine bestimmte Aufgabe in einer bestimmten Umgebung feinabgestimmt wurden. Sprach- und Bildmodelle von der Stange werden laut derselben Untersuchung eine wachsende Rolle bei den kognitiven Anteilen von Roboteraufgaben spielen, also beim Verstehen der Aufgabe und beim Verfolgen mehrstufiger Pläne, sind damit aber ausdrücklich noch nicht in der Fläche ausgerollt.

Wo gelernte Komponenten bereits heute produktiv eingesetzt werden, geschieht dies in klar umrissenen Aufgabenbereichen. Ein prominentes Marktbeispiel ist das System Amazon Vulcan: Laut Amazon kann dieses System rund 75 Prozent der in den Logistikzentren gelagerten Artikeltypen greifen und einlagern. In den Logistikzentren in Spokane (Washington) und Hamburg übernimmt Vulcan laut Amazon das Ein- und Auslagern in den oberen und den bodennahen Reihen der Lagerregale; die zugehörige KI wurde nicht nur in Simulation, sondern auf physischen Daten mit Tast- und Kraftrückmeldung trainiert.

Für Flottenbetreiber liegt der Schlüssel zum wirtschaftlichen Erfolg darin, gelernte und deterministische Systeme nicht als Gegensätze zu begreifen, sondern sie gezielt nach Prozessanforderung zu kombinieren. Während Standard-Fahrwege auf hochgradig getakteten Routen rein deterministisch gesteuert werden, kommen gelernte Policies dort zum Einsatz, wo unstrukturierte Ladungsträger oder dynamische Übergabepunkte Flexibilität erfordern. Ein herstellerunabhängiger Systemintegrator wie werob orchestriert solche heterogenen Flotten über die werob Platform und verbindet mehr als 44 OEM-Partner für eine nahtlose Multi-Roboter-Koordination. Damit behalten Betreiber die volle Kontrolle über Spezifikation, Abnahme und den deterministischen Schutz ihrer Flächen.