Abstracts

Viele Alltagssituationen sind nicht zu bewältigen, ohne Risiken einzugehen. Beim Autofahren beispielsweise sind wir in fast jeder Fahrsituation mit Unfallrisiken konfrontiert. Wenn ein autonomes Fahrzeug bzw. eine Maschine diese Aufgabe übernehmen soll, dann müssen Entwickler, Tester und Prüfer wissen, wie die Maschine mit den Risiken in den auftretenden Gefährdungssituationen umgehen soll. Aber woher sollen sie das wissen? Wo ist das Testorakel, dass den Risikograd oder die die Risikoakzeptanz für unzählige und teils unbekannte Gefährdungssituationen festlegt?

In diesem Vortrag wird zunächst geklärt, was Autonome Systeme ausmacht und welche spezifischen Risikofaktoren sich aus den Autonomie-Charakteristiken dieser Systeme ergeben. Anschließend werden die Herausforderungen und Lösungsansätze aufgezeigt, um mit diesen Risikofaktoren umzugehen. Insbesondere werden die Grenzen und Defizite herkömmlicher Herangehensweisen im Safety Engineering und bei der Verifikation und Validation aufgezeigt, um den notwendigen Paradigmenwechsel zu motivieren. Der Vortrag zeigt auch auf, wie Lösungsansätze für die unterschiedlichen Herausforderungen ineinandergreifen und strukturiert das Forschungsfeld des dynamischen Risikomanagements. Auf dieser Basis wird der aktuelle Stand der Wissenschaft und Technik des dynamischen Risikomanagements beleuchtet und darauf eingegangen, inwieweit aktuelle oder in der Entwicklung befindliche Gesetzte und Normen für KI und Autonome Systeme den wissenschaftlichen Konsens berücksichtigen.