Zeit für neue Erlebnisse

Herr Bouzouraa, wie lange dauert es noch, bis wir dem Auto das Fahren überlassen? Dr.-Ing. Essayed Bouzouraa: Das lässt sich nicht in einem Satz beantworten und ist auch eine Frage der Definition der Umgebung, in der die Technologie zum Einsatz kommt. Wir sprechen dabei von Domänen, und dem Funktionsumfang. Ich bin aber zuversichtlich, dass wir in den nächsten fünf Jahren eine schrittweise Einführung in strukturierte Umgebungen, wie Autobahnen, erleben werden. Herr Lütge, Sie waren Teil der Ethikkommission, die 2017 Leitplanken für das automatisierte Fahren aufgestellt hat, forschen weiterhin zu dem Thema. Sind wir als Gesellschaft bereit für die Technologie? Fünf Jahre sind ein überschaubarer Zeitraum. Prof. Dr. Christoph Lütge: Meine Wahrnehmung ist, dass wir die Menschen in Deutschland im Zusammenhang mit automatisierter Mobilität ein bisschen unterfordern. Wir haben die Diskussion um das Thema schon seit einigen Jahren, und ich glaube, man ist jetzt durchaus bereit, weitere Schritte zu gehen. Wir sollten über Vorteile und echten Nutzen sprechen, nicht nur über Herausforderungen und Risiken.

Sie sprechen von Automatisierung, es taucht aber immer wieder auch der Begriff „autonom“ auf. Bouzouraa: Wir sprechen in diesem Zusammenhang immer vom automatisierten Fahren. Ab Level 3 (nach SAE, Society of Automotive Engineers; Anm. d. Red.) kommen wir zum System „Autobahnpilot“, haben Fahrerinnen oder Fahrer die Möglichkeit, in bestimmten Zonen, sogenannten Domänen, die Fahraufgabe in einem definierten Rahmen an das System zu übergeben. Nach einer gewissen Vorwarnzeit muss sie dann auch wieder übernommen werden. Bis zu diesem Zeitpunkt ist das System verantwortlich. Bei Level 4 (nach SAE; Anm.  d. Red.) würde dann die Übernahmepflicht des Fahrers entfallen. Einmal an das Fahrzeug übergeben, müsste es mit jeder erdenklichen Situation zurechtkommen. Lütge: In der Ethikkommission haben wir vom vernetzten und automatisierten Fahren gesprochen. Im allgemeinen Sprachgebrauch, das ist meine Wahrnehmung, hat sich autonomes Fahren aber durchaus etabliert, auch wenn der Begriff etwas in die Irre führt. Ich würde aber bei automatisiertem und dann hochautomatisiertem Fahren bleiben. Dr. Thomas Dahlem: Autonom ist ein System für mich dann, wenn es ausschließlich autark, ohne Einflussmöglichkeiten des Menschen agiert. Das ist aber nicht die Vision, die wir verfolgen. Wie eng arbeiten Wissenschaft und Industrie in diesem Feld zusammen? Bouzouraa: Wir befinden uns in einer Phase, wo eine interdisziplinäre Vernetzung elementar wichtig ist. Wir brauchen ein gemeinsames Verständnis. Lütge: Bisher kam die Ethik bei Technologiethemen meist erst ins Spiel, nachdem ein größeres Problem aufgetreten ist. Aus unserer Perspektive gilt es aber, im Vorhinein andere Fragen jenseits der Technik zu stellen. Solche, für die es aktuell noch keine rechtliche Definition gibt, vielleicht nie geben wird. Woran denken Sie dabei? Lütge: Da geht es zum Beispiel um die Frage, wie sich ein automatisiert fahrendes Auto gegenüber anderen Verkehrsteilnehmern verhält: Fährt es ausgesprochen defensiv, hält es beispielsweise mehr Abstand als gesetzlich verlangt? Um Vertrauen in die neue Technologie zu schaffen, muss man auch gerade diese weichen Ethikfaktoren berücksichtigen. Es ist unser Ziel, Input gleich in der Entwicklungsphase zu liefern. Bouzouraa: Wir brauchen einen Dialog, eine permanente Feedbackschleife – während der Entwicklung und auch nachdem die Technologie in Serie verfügbar ist. Denn grundsätzlich wird die Weiterentwicklung nie beendet sein.

Wie viel Automobilbau-Tradition kann man in das automatisierte Fahren überhaupt überführen? Bouzouraa: Es handelt sich um eine fundamentale Transformation – für unsere Kunden bezogen auf zukünftige Erlebnisse, für uns als Hersteller schon jetzt bezogen auf die Entwicklung und Gestaltung von Fahrzeugen. Es braucht eine Vielzahl von Sensoren und Systemen, die optimal platziert und vernetzt sein müssen. Natürlich wird ein automatisierter Audi innen wie außen gut aussehen, aber die Anforderungen und Abläufe bei der Entwicklung sind andere. Dahlem: Es geht uns darum, Kundinnen und Kunden komplett neue Erlebnisse im Fahrzeug anbieten zu können. Um diese Erlebnisse entwickeln wir zukünftig Modelle. Das gab es so noch nicht. Es gibt praktisch keine Komponente, die wir aus heutigen Fahrzeugen kennen, die davon nicht betroffen wäre und die nicht neu betrachtet werden muss. Zum Beispiel? Bouzouraa: Ich meine zum Beispiel etablierte Systeme wie Wischwasserbehälter, die eine völlig neue Bedeutung bekommen werden. In Zukunft werden wir Voraussetzungen schaffen müssen, damit die Sensoren an der Karosserie jederzeit gereinigt und frei gehalten werden können – auch ohne das Einschalten eines Passagiers. Wo steht Audi aktuell in der Entwicklung? Bouzouraa: Wir sind mit unseren Versuchsfahrzeugen permanent unterwegs, um Daten zu sammeln und zu lernen. Die unterschiedlichen Sensoren im und am Auto sammeln dabei täglich so eine Fülle an Informationen. Für die Auswertung dieser enormen Datenmengen mussten wir neue Methoden, wie zum Beispiel künstliche Intelligenz (KI), definieren. Gleichzeitig etablieren wir die notwendigen Prozesse und Grundlagen, um die Technologie in Serie überführen zu können. Dahlem: Die Herausforderung besteht auch darin, noch bevor eine Funktion, also das Verhalten des automatisierten Fahrzeugs in bestimmten Situationen, programmiert wird, alle denkbaren Szenarien zu identifizieren und zu interpretieren. Aber wie kann man alle erdenklichen Szenarien vorwegnehmen? Salopp gesagt gibt es doch nichts, was es nicht gibt.   Bouzouraa: Das stimmt. Es gibt Berichte, basierend auf dem Stand der Technik, dass Werbebilder auf Bussen, die Menschen in Bewegung gezeigt haben, fehlinterpretiert wurden. Beispielsweise hat das System darin jemanden erkannt, der auf die Straße springt. Manchmal kommt die visuelle Wahrnehmung über Kameras an ihre Grenzen. Im Internet kursierte vor einiger Zeit der Fall, dass Kamerasysteme den leuchtenden Mond als gelbes Ampelsignal interpretiert haben. Deswegen setzen wir auf eine Mischung aus visuellen und aktiv messenden Sensoren wie Radare und Lidare.

Bei derart kuriosen Fällen: Wie schafft man da Vertrauen bei den Menschen? Lütge: Meine Wahrnehmung ist, dass der Nutzen gesehen wird. Die heutigen Assistenzsysteme deuten in Teilen auch schon an, was möglich sein könnte. Man wird nicht alle Menschen überzeugen, aber das wird auch nicht immer mit fehlendem Vertrauen zu begründen sein.   Bouzouraa: Vertrauen ist ein elementarer Punkt. Dabei geht es auch darum, wie nachvollziehbar das Verhalten der künstlichen Intelligenz für die Passagiere ist. Es gibt beispielsweise die Rückmeldung von Probanden, dass ein zu ruhiges Fahrverhalten zu Unbehagen führt. Man fragt sich dann, ob das System wirklich aktiv ist. Wir diskutieren daher aktuell in der Entwicklung, inwieweit sich zum Beispiel das Lenkrad bei automatisierter Fahrt bewegen sollte – als visuelles Feedback. Lütge: Das zeigt aber auch, dass nicht alles rational zu erklären ist. Da spielen Emotionen mit hinein. Ich warne davor, Bedenken zu überspitzen. Auch heute vertrauen Verkehrsteilnehmer der Technik, fahren auch mal mit sehr hohen Geschwindigkeiten et cetera. Stichwort nachvollziehbares Verhalten: Wie könnte, gerade zu Beginn, eine Koexistenz von automatisierten und nichtautomatisierten Fahrzeugen funktionieren? Bouzouraa: Darüber machen wir uns natürlich intensiv Gedanken. Dabei kann es helfen, die Systeme zunächst nur in den definierten Domänen freizugeben. Das ist jedenfalls die Richtung, in die wir denken. Der Begriff „Autobahnpilot“ deutet es bereits an. Die Autobahn gilt als vergleichsweise beherrschbare Domäne, mit klaren baulichen und rechtlichen Orientierungen. Aber es ist natürlich wichtig, dass wir in den Verhaltensannahmen alle Verkehrsteilnehmer betrachten. Lütge: Ich bin der Meinung, dass der Mischverkehr kein so großes Problem sein wird. Es sind auch andere Hersteller in der Entwicklung, da entstehen dann auch viel Kommunikation und Aufmerksamkeit. Ich finde es allerdings vernünftig, zunächst auf der Autobahn zu lernen, aber den Rest, vor allem die Städte, nicht zu vernachlässigen.

Die Stadt macht die Herausforderung noch einmal größer? Bouzouraa: Grundsätzlich muss man den ganzheitlichen Ansatz verfolgen, da stimme ich zu. Die Domäne „Stadt“ mit Fußgängern und Fahrradfahrern bringt aber eine neue Dimension der Komplexität mit sich. Dahlem: Weil auch Autobahnen in urbane Räume übergehen, werden wir uns da schrittweise nähern. Aber komplexe Kreuzungen, Kreisverkehre – möglicherweise mit einer Kuppe, über die die Sensoren nicht hinwegsehen können – das muss die Technologie dann zunächst einmal alles beherrschen. Lütge: Und nicht erst dann wird es wichtig sein, Risiken zu gewichten. Also was sind Risiken, die man in Kauf nehmen würde, wie wird abgewogen? Daran forschen wir aktuell. Denn eines muss man sich klarmachen: Wir können nicht mit einer Null-Risiko-Philosophie an die Sache rangehen, das ist nicht realistisch. Wie aber wägt man ab? Dahlem: Der Maßstab ist der Mensch. Und der Mensch ist schon erstaunlich gut darin, in der letzten Millisekunde noch reagieren zu können. Entsprechend hoch sind unsere Anforderungen an das System mit seiner künstlichen Intelligenz. Lütge: Besser als ein menschlicher Fahrer zu sein, birgt aber ein großes Interpretationspotenzial. Wenn man den Standard zu hoch setzt, zu vorsichtig, zu sportlich, zu defensiv, kann das auch kontraproduktiv sein.
 Woran orientiert man sich also? 
Bouzouraa: Wir entwerfen einen KI-Fahrer, indem wir einen Durchschnittsfahrer modellieren. Der Autobahnpilot, das können wir schon festhalten, wird ein vergleichsweise defensiver Fahrer sein. Letztlich soll man den Komfortgewinn des Gefahrenwerdens auch genießen. Das wäre nur schwer möglich, würde das automatisierte Fahrzeug zu aggressiv fahren. Es muss seine Passagiere unauffällig und sicher durch den Verkehr bringen. Die Frage, die wir uns stellen, ist, ob und wie eine Lernkurve des Systems akzeptiert werden würde. Lütge: Das ist eine gute Frage, die wir auch in der Ethikkommission diskutiert haben. Nicht das einzelne Fahrzeug, sondern nur die Flotte darf lernen. Zumindest immer dann, wenn es sicherheitsrelevante Themen betrifft. Ob der eine dann lieber etwas langsamer auf der Autobahn unterwegs ist als der andere, das könnte man variabel gestalten. Dass grundsätzlich gelernt wird, dass sich das Gefahrenwerden mit der Zeit verändert, das kann man akzeptieren. Unsere Gesellschaft hat sich längst daran gewöhnt, dass künstliche Intelligenz Erfahrungen sammelt und sich anpasst.

Bezogen auf den modellierten Fahrer: Zeigt nicht jedes Land gewisse Eigenarten im Verkehr? Bouzouraa: Es ist mit dem individuellen Erfahrungsschatz und somit auch mit der Kultur verbunden, das stimmt. Wie bildet ein automatisiert fahrendes Fahrzeug den Fahrstil einer bestimmten Region ab? Gibt es eine Art Ausgleichsgerade? Das sind Punkte, an denen wir aktuell arbeiten. Lütge: In Europa haben wir da eine besondere Situation, weil wir eigentlich ständig über Grenzen, in Länder fahren, in denen das Empfinden zum Teil unterschiedlich ist. Ich habe auch das Gefühl, nachdem ich unterschiedliche Testfahrzeuge ausprobieren konnte, dass da noch kein Standard existiert. Dahlem: Das Ganze muss man noch weiterdenken: Zum Beispiel muss zukünftig ein in Deutschland gekauftes automatisiertes Auto auch den italienischen Polizisten erkennen. In Holland haben die Autobahnschilder eine andere Farbe als bei uns, in Portugal sind andere Materialien auf der Fahrbahn im Einsatz. Das wird dazu führen, dass wir unser System nicht ohne Weiteres überall verfügbar machen können oder nur eingeschränkt. Aber wie gesagt, wir werden uns mit der Technologie in einem permanenten Lern- und Anpassungsprozess befinden. Bouzouraa: Man darf aber auch nicht vergessen, um beim Autobahnpiloten zu bleiben, dass wir allein in Deutschland über rund 13.200 Kilometer Autobahn verfügen. Da ist jede Menge Potenzial, die Vorteile und das Erlebnis des automatisierten Fahrens zu genießen. Da bin ich sicher.