/ /

Whitepaper ‚Erklärbare KI im autonomen Fahren‘

Nutzerwahrnehmung und Modellvergleich zur Erkennung von Verkehrsszenarien

Das vorliegende Whitepaper verbindet die technische Entwicklung leistungsfähiger KI-Modelle zur Erkennung von Verkehrsszenarien mit der nutzerzentrierten Bewertung erklärbarer künstlicher Intelligenz (XAI) im autonomen Fahren. Ausgangspunkt ist die hohe sicherheitsrelevante Bedeutung einer präzisen Klassifikation von Fahrzeugmanövern wie Spurwechseln oder Überholmanövern, die sowohl das eigene Fahrzeug als auch umgebende Fahrzeuge betreffen und in bisherigen Arbeiten häufig nur eingeschränkt betrachtet wurden. Auf Basis eines Datensatzes der dSPACE GmbH werden daher verschiedene Autobahnszenarien klassifiziert und zwei Deep-Learning-Architekturen miteinander verglichen: ein CNN-RNN-Modell und ein Transformer-basierter Ansatz. Die Ergebnisse zeigen, dass die Transformer-Architektur die CNN-RNN-Architektur in allen Modellkonfigurationen übertrifft und nach weiterer Optimierung eine leistungsfähige sowie kostengünstige Alternative zur manuellen Szenario-Klassifikation darstellt. Da technische Leistungsfähigkeit allein in sicherheitskritischen Anwendungsfeldern jedoch nicht ausreicht, integriert die zugrundeliegende Studie zusätzlich eine erklärbare KI-Methode auf Basis von sogenannten Aufmerksamkeitswerten (attention scores), um die Vorhersagen des Transformer-Modells nachvollziehbarer zu machen. Während frühere Forschungsarbeiten in diesem Zusammenhang überwiegend die technischen Vorteile von XAI untersucht haben, wurde der Frage, wie Nutzer die entsprechenden Erklärungen wahrnehmen, nur begrenzte Aufmerksamkeit geschenkt. In einem randomisierten Online-Experiment wird daher untersucht, wie Nutzer diese Erklärungen hinsichtlich Verständlichkeit, wahrgenommener Nützlichkeit und Vertrauenswürdigkeit bewerten. Die Ergebnisse zeigen, dass Erklärungen die Nutzerwahrnehmung in allen drei Dimensionen signifikant verbessern, wobei weniger detaillierte Erklärungen tendenziell positiver wahrgenommen werden als sehr technische und detaillierte Darstellungen. Insgesamt leistet dieses Whitepaper damit einen Beitrag zur Forschung an erklärbaren Deep-Learning-Modellen im autonomen Fahren, indem sie zeigt, dass sowohl die Genauigkeit der Szenarioerkennung als auch die zielgruppengerechte Kommunikation von Modellentscheidungen entscheidend für die gesellschaftliche Akzeptanz autonomer Fahrsysteme sind.

Autoren:

Nicole Grieger, Universität Paderborn
Dr. Sven Burdorf, dSPACE GmbH
Prof. Dr. Dennis Kundisch, Universität Paderborn