Risiken erfolgreich durch Roboter gemanagt: Wie dynamisches Risikomanagement autonome Systeme sicherer und effizienter macht

Von Lieferrobotern und Inspektionsdrohnen bis hin zu autonomen Shuttles oder vierbeinigen Servicerobotern: Roboter sind in immer mehr Lebens- und Arbeitsbereichen zu finden und werden stetig erweitert. Die Welt des Lebens ist nicht nur komplex, sondern auch gefährlich, und Systeme in Roboterumgebungen sind fehleranfällig, da sich Menschen unvorhersehbar verhalten, Sensoren ungenaue Daten liefern und Randfälle nicht vollständig im Voraus modelliert werden können. Die Gewährleistung der Sicherheit in offenen und dynamischen Umgebungen ist daher eine gewaltige Herausforderung. Herkömmliche Sicherheitskonzepte setzen den Fähigkeiten eines Roboters oft restriktive Grenzen, was zu einem Verlust an Potenzial und Effektivität führt. Um dieses Problem anzugehen, erforscht das Fraunhofer IESE das dynamische Risikomanagement, sodass Roboter Risiken in Echtzeit einschätzen und gleichzeitig ihre Sicherheitsfunktionen an die Situation anpassen können – und so gefährliche Situationen vermeiden können, ohne ihre Leistungsfähigkeit unnötig einzuschränken.

Klassische Sicherheitskonzepte robotischer Systeme haben ihre Grenzen

Die regulatorischen Anforderungen der neuen Maschinenverordnung oder funktionale Sicherheitsstandards (z. B. IEC 61508, ISO 13849) schaffen wichtige Grundlagen zur Gewährleistung der Sicherheit von Robotersystemen. Typischerweise konzentrieren sie sich jedoch auf statische Sicherheitsfunktionen, die in Routineprozessen eine erfolgsversprechende Strategie darstellen. Heutzutage agieren Roboter jedoch zunehmend autonom und operieren nicht mehr ausschließlich in klar definierten Umgebungen, wie etwa einer Fabrikhalle, sondern in sehr variablen und offenen Umgebungen. Darüber hinaus geht ihre Nutzung über die üblichen monotonen Aufgaben hinaus und wird immer komplexer. Konservative Ansichten deuten darauf hin, dass der Einsatz von Robotern aufgrund restriktiver Sicherheitsmerkmale in vielen Anwendungsszenarien weder sinnvoll noch wirtschaftlich ist.

Autonome Roboter und Risiken: Warum Situationsbewusstsein und Risikomanagement entscheidend sind

Dynamisches Risikomanagement [1-3] Genau das tut es: Es beurteilt Risiken zur Laufzeit situationsbezogen und passt Sicherheitsmaßnahmen intelligent an. Die Grundidee: Statt feste Sicherheitsgrenzwerte vorzugeben, wird das aktuelle Risiko kontinuierlich bewertet.

Beispiele für Risikofaktoren:

• feuchter
• die Geschwindigkeit
• Objekte in der Umgebung
• aufräumen
• Sensorunsicherheiten

Wahrscheinlichkeitsmodelle wie Bayessche Netze verknüpfen diese Informationen transparent und generieren situationsspezifische Risiken (z. B. räumliches Risiko oder Unfallwahrscheinlichkeit). Auf dieser Basis passt das System die Parameter der Autonomie- und Sicherheitsfunktionen an: Geschwindigkeit, Abstände, Sicherheitszonen, Reaktionsstrategien oder die Priorisierung von Planungsmanövern. Dadurch wird die Sicherheit dort gewährleistet, wo es nötig ist, und die Verfügbarkeit bleibt, wo immer möglich, erhalten.

das Konzept [4] Es ergänzt bestehende Sicherheitskonzepte und schlägt eine Brücke zwischen klassischer und vorsorglicher Sicherheit und adaptiver und kontextueller Kontrolle.

Praxisbeispiele aus IESE-Projekten

• Autonomer Shuttle-Betrieb auf dem RPTU-Campus
  Einschätzung der Fußgängeraufmerksamkeit; Anpassung der Sicherheitsparameter im REACTiON-Framework.
• Robocars und Platooning
  Abschätzung von Kollisionswahrscheinlichkeiten in Kreuzungen und Formationen; Integration in ADS-Frameworks wie APIKS und LOPAAS-Architektur.
• Kollaborative Drohnen
• Interne Risikobewertung (z. B. Batteriestatus) zur sicheren Koordination bei Einsätzen.

Sicherheit für den allgemeinen Gebrauch

Zukünftige Robotergenerationen werden so vielfältig sein, dass Hersteller nicht in der Lage sein werden, Risikobewertungen für alle Ziele und Betriebsumgebungen durchzuführen. Die Vielfalt der möglichen Betriebsumgebungen stellt bereits eine Herausforderung für autonome Shuttles dar und wird durch operatives Design-Domain-Engineering angegangen. Allerdings findet sich dieses Konzept nur im Bereich der Robotik (z. B. im Kontext ANSI/A3 R15.08-3) und bietet noch nicht die nötige Flexibilität für einen noch breiteren Einsatzzweck.

Die Zukunft der Robotik: Robuste Leistung bei hoher Sicherheit

Dynamisches Risikomanagement verbindet klassische Sicherheit mit der Flexibilität, die moderne autonome Roboter benötigen. Es ermöglicht weniger unnötige Einschränkungen, mehr Leistung und dennoch hohe Sicherheit. Wir arbeiten an der quantitativen Messung von Sicherheitsgewinnen und Leistungsvorteilen durch DRM sowie deren Übertragung auf weitere Domänen. Das Ziel ist ein zuverlässiges Sicherheitsargument, das adaptive Sicherheit verständlich und überprüfbar macht und so für mehr Vertrauen, Effizienz und Skalierbarkeit autonomer Systeme sorgt. Neue Normen wie die VDE-AR-E 2842-61 zeigen bereits, dass das situative Risikomanagement auf dem Weg ist, ein wichtiger Bestandteil zukünftiger Sicherheitsvorschriften zu werden. Die Vorschriften zeigen, wie grundlegende Sicherheitsanforderungen besser erfüllt werden können.

Referenzen

• [1] R. Adler, J. Reich, R. Hawkins (2023). Strukturierungsforschung im Zusammenhang mit dynamischem Risikomanagement für autonome Systeme. In: Guiochet, J., Tonetta, S., Schoitsch, E., Roy, M., Bitsch, F. (Hrsg.) Computersicherheit, Zuverlässigkeit und Sicherheit. SAFECOMP 2023-Workshops. SAFECOMP 2023. Vorlesungsunterlagen in Informatik, Band 14182. Springer, Cham
• [2] D. Schneider, J. Reich, R. Adler, P. Liggesmeyer (2025). Dynamisches Risikomanagement in physischen Cybersystemen. In: Fränzle, M., Niehaus, J., Westphal, B. (Hrsg.) Engineering Safe and Trustworthy Cyber ​​​​Physical Systems. Vorlesungsunterlagen in Informatik, Band 15471. Springer, Cham
• [3] P. Wolf, R. Adler (2025), Verbesserung der Sicherheit und Leistung autonomer Systeme in offenen Kontexten durch die Schichten der Schutzarchitektur (LOPAAS), 2025 20. European Trusted Computing Conference Companion Proceedings (EDCC-C)Lissabon, Portugal, S. 207–212
• [4] P. Wolf, R. Adler, D. Schneider (2025), Situational Hazard Awareness for Autonomous Robots: Maximizing Safety and Operational Availability Across Domains, Deutsche Robotik-Konferenz I. Nürnberg,