LLM-Human Co-Engineering zur Steigerung der Effizienz von Security Engineering Processes (HARA)

Erschließung der Automobilsicherheit: Wie LLM-erweiterte Tools Risiken und Risikobewertungen verändern

In der sich ständig weiterentwickelnden Landschaft der Automobilsicherheitstechnik ist der HARA-Prozess (Hazard Analysis and Hazard Assessment) von entscheidender Bedeutung. Dieses Verfahren erfordert erhebliches technisches Fachwissen, um die Anforderungen von Sicherheitsstandards wie ISO 21448 (SOTIF) und ISO 26262 (Funktionale Sicherheit) zu erfüllen. Der Bereich der generativen KI, insbesondere der Large Language Models (LLM), verspricht, unsere Herangehensweise an HAR zu revolutionieren, insbesondere angesichts der immer komplexer werdenden Betriebsdesignbereiche, schnelleren Release-Zyklen und des Mangels an geschultem Sicherheitspersonal. In diesem Artikel stellen wir LASAR (LLM-Augmented Situation Space Analysis for Risk Assessment) vor, einen Ansatz, der das Potenzial von LLM-erweiterten Tools zur Verbesserung von HARA für Automobilsysteme demonstriert. LASAR integriert die Zusammenarbeit zwischen Mensch und KI, um HARA zu verbessern und so die Effizienz sicherzustellen, ohne die Zuverlässigkeit zu beeinträchtigen.

HARAs Herausforderung in der Fahrzeugsicherheitstechnik

HARA ist die Grundlage der Sicherheitstechnik und unerlässlich für die Erkennung und Minderung von Gefahren in Automobilsystemen. Der Prozess erfordert das System, seine Umgebung und die Einhaltung strenger Standards wie ISO 26262. In der Vergangenheit erforderte dies den gemeinsamen Einsatz erfahrener Sicherheitsingenieure, was zeit- und ressourcenintensiv war. Zum Abschluss einer Automotive-HARA gehört es, den Umfang der Bewertung zu definieren und unter anderem die Systeme, Komponenten oder Funktionalitäten der Fahrzeuge zu identifizieren, die analysiert werden sollen. Anschließend werden potenzielle Risiken identifiziert. Sobald die Risiken identifiziert wurden, werden die damit verbundenen Risiken bewertet, wobei ihr Expositionswert (Eintrittswahrscheinlichkeit), die Schwere des Schadens und die Beherrschbarkeit des gefährlichen Ereignisses beurteilt werden. Der nächste Schritt besteht darin, Sicherheitsziele zu formulieren. Es handelt sich dabei um funktionale Ziele bzw. hohe Sicherheitsanforderungen, die geeignet sein müssen, gefährliche Zwischenfälle zu verhindern oder abzumildern.

Die Schnittstelle zwischen LLM und Automotive Safety Engineering

Kreative KI, insbesondere LLMs wie ChatGPT, bietet neue Möglichkeiten zur Automatisierung komplexer und kreativer Aufgaben. Große Sprachmodelle sind darauf ausgelegt, kontextbezogene Daten zu generieren. LLMs können mehrere Eingaben verarbeiten und gleichzeitig verschiedene Kontextinformationen effektiv verstehen und integrieren. Dies ermöglicht es uns, Eingaben detailliert in einem bestimmten Szenario zu kombinieren. Die Komplexität, die mit dem Verstehen und Synthetisieren mehrerer Eingaben verbunden ist, ist eine äußerst kreative Aufgabe, die viel Erfahrung erfordert. Die Erstellung einer HARA erfordert eine kreative Bewertung verschiedener Szenarien und der damit verbundenen Risiken. Somit haben LLMs die Möglichkeit, bei dieser Aufgabe zu helfen. Wenn es Sprachmodellen noch nicht gelungen ist, sicherheitskritische Domänen (z. B. Automobiltechnik) unabhängig zu überwachen, stellt diese Studie einen vielversprechenden Hybridansatz vor. Durch die Integration der Zusammenarbeit zwischen Mensch und KI wollen wir den HARA-Prozess (Hazard Analysis and Risk Assessment) deutlich verbessern.

Hauptherausforderungen:

• Eine komplexe und kreative Aufgabe: Heutzutage erfordern HARA und viele andere sicherheitstechnische Prozesse erhebliches Fachwissen, um hochwertige Artefakte zu erstellen und Standards und Vorschriften einzuhalten.
• Komplexe Umgebung: Mit zunehmender Automatisierung hat die Umgebung einen größeren Einfluss auf die Sicherheitsanalyse. Derzeit gibt es keine Toolunterstützung für eine effiziente und effektive Analyse der Umgebung und die Identifizierung von Elementen und Situationen, die für die Risikobewertung und andere sicherheitstechnische Prozesse relevant sind.

Unsere Lösung: Einführung von LASAR – einem kooperativen Werkzeug zwischen Mensch und KI

LASAR (LLM-Augmented Situation Space Analysis for Risk) ist ein Tool, das Sicherheitsingenieuren bei der Durchführung von HARA helfen soll. LASAR verwendet LLMs, um vorläufige Bewertungen, Argumente und Beispiele bereitzustellen, die dann von menschlichen Ingenieuren überprüft, geändert oder akzeptiert werden können. Die Ergebnisse werden automatisch in die HARA-Tabelle eingegeben, was den Ingenieuren Zeit spart. Das GUI-Mockup zeigt die Bewertung von Schweregrad, Exposition, Kontrollierbarkeitswerten und Minderungsstrategie für ein bestimmtes Risiko in einer bestimmten Situation. Diese Zusammenarbeit zwischen dem LLM und dem Ingenieur zielt darauf ab, die Effizienz zu steigern, indem die Genauigkeit der Bewertungen und die Einhaltung von Industriestandards sichergestellt werden.

Hauptmerkmale von LASAR:

1. Interaktiver Workflow: Ingenieure sind aktiv an dem Tool beteiligt, um Szenarien aus einem Situationskatalog zu filtern und sicherzustellen, dass LLM keine wichtigen oder relevanten Situationen ausschließt. Diese Interaktion ist von entscheidender Bedeutung, da sie es Ingenieuren ermöglicht, die anfänglichen Kategorisierungen des LLM auf der Grundlage der vorläufigen Operational Design Domain (ODD) und des Systemkontexts zu überprüfen und zu verfeinern. Darüber hinaus spart dieser Prozess Zeit, da die Ingenieure nur eine anfängliche Kategorisierung in die vom LLM vorgeschlagenen relevanten und nicht relevanten Szenarien durchführen müssen, was die Anfangsphasen der Risikoanalyse rationalisiert und die Bemühungen auf Probleme mit hoher Priorität konzentriert.
2. Schritt-für-Schritt-Anleitung: Das Tool bietet detaillierte Bewertungen von Risikoparametern wie Schweregrad, Exposition und Kontrollierbarkeit mit Begründungen und Beispielen aus der Praxis. Diese detaillierte Erklärung hilft Ingenieuren, jedes Szenario klarer zu sehen und ein tieferes Verständnis der potenziellen Auswirkungen und Mechanismen jedes Risikos in jeder Situation zu erlangen. Darüber hinaus hilft das Tool Ingenieuren durch die Darstellung mehrerer Perspektiven durch Argumentation dabei, alternative Perspektiven auf die Situation einzunehmen, was zu einer fundierteren Entscheidungsfindung und verbesserten Sicherheitsmaßnahmen führen kann.
3. Menschliche Aufsicht: Ingenieure prüfen und validieren Werkzeugvorschläge und stellen so sicher, dass die endgültige HARA korrekt und umfassend ist.

Vorteile: Warum Ihr Unternehmen diesen Ansatz in Betracht ziehen sollte

• Effizienzgewinne: Die vorläufigen Bewertungen des Tools bieten einen wertvollen Ausgangspunkt und machen den Risikobewertungsprozess effizienter.
• Verbesserte Qualität: Die Ingenieure berichteten von einem größeren Vertrauen in die Qualität von HARA aufgrund der detaillierten Begründung und Beispiele des Tools.
• Mensch-KI-Synergie: Der kollaborative Ansatz stellt sicher, dass die abschließenden Bewertungen von hoher Qualität sind und dem ISO 26262-Standard entsprechen.
• Automatische Erstellung der HARA-Tabelle: Das Tool liefert die Ausgabe in Form einer HARA-Tabelle zur Verwendung und Integration in bestehende Vorlagen.

Machen Sie mit bei der Verbesserung der ADS-Sicherheit

Da die Branche des automatisierten Fahrens weiter wächst, ist die Gewährleistung der Sicherheit von ADS in einer Vielzahl von Betriebsumgebungen wichtiger denn je. Unser GenAI-Mensch-Kollaborationstool bietet LASAR-Unterstützung für die Umweltanalyse und steigert die Effizienz sicherheitstechnischer Prozesse.

Wir laden Unternehmen, die autonome Fahrsysteme entwickeln, ein, mit uns zusammenzuarbeiten, um diesen innovativen Ansatz in sicherheitstechnische Prozesse und bestehende Werkzeugketten zu integrieren. Wir möchten Ihnen zusätzliche Informationen und eine Demonstration unseres GenAI-Human-Engineering-Interaktionsansatzes zur Verfügung stellen. Gemeinsam können wir helfen:

• Verbessern Sie Ihre sicherheitstechnischen Prozesse mit kreativer KI, um Ihr ADS und ADAS zu entwickeln.
• Analysieren Sie die Umgebung und identifizieren Sie die für Ihren Prozess relevanten Situationen und Elemente, um die Effizienz zu steigern und die Komplexität zu reduzieren.

der Abschluss

Die Integration erweiterter LLM-Tools wie LASAR stellt einen bedeutenden Fortschritt in der Fahrzeugsicherheitstechnik dar. Durch die Kombination der Stärken von KI und menschlichem Fachwissen können diese Tools den HARA-Prozess effizienter, genauer und umfassender machen. Mit fortschreitender Technologie können wir mit noch größeren Fortschritten rechnen, die den Weg für sicherere und zuverlässigere Automobilsysteme ebnen. LASAR und ähnliche Tools bieten einen Einblick in die Zukunft der Risikobewertung, in der die Zusammenarbeit zwischen Mensch und KI höchste Standards an Sicherheit und Effizienz gewährleistet.

Referenzen

[1] D. Hillen, C. Helten und J. Reich „Towards LLM-augmented Situation Space Analysis for the Hazard and Risk Assessment of Automotive Systems“, GRANITE – EJEA: Europa trifft Japan: Datensouveränität und generative KI: Anwendungen, Design, soziale Auswirkungen , Ethisch und Technologie, 2024