„Der Mensch darf nicht aus dem Regelkreis gedrängt werden!“
Im Rahmen der vom Landesverband des Kfz-Gewerbes Schleswig-Holstein erstmals veranstalteten „Nacht des Kfz-Gewerbes“ lieferte Manfred Müller eine beeindruckende Bestandsaufnahme zum Thema autonomes Fahren aus der Sicht eines Piloten der Lufthansa. Vor der eigentlichen Veranstaltung gab es die Gelegenheit zu einem längeren Interview mit dem Referenten, der nicht nur für die Lufthansa fliegt, sondern auch Flugsicherheitsforscher des Unternehmens ist und außerdem als Lehrbeauftragter für Risikomanagement an der Uni Bremen arbeitet.
Bevor wir zum autonomen Fahren kommen, was sagt ein Pilot zum Stand des autonomen Fliegens?
Zunächst möchte ich darauf hinweisen, dass autonomes Fliegen im Passagierverkehr nicht existiert. Es gibt nur eine bedingte Automatisierung; wir sprechen von Stufe 3 von 5, d.h. der Rechner übernimmt Steueraufgaben, aber der Pilot muss immer dazu in der Lage sein, innerhalb von etwa einer Sekunde das Steuer zu übernehmen.
Das entspricht nicht unbedingt der Erwartung eines Laien, wenn er an die Luftfahrt denkt. Gefühlt ist man heute schon fast beim autonomen Fliegen angekommen.
Das ist nicht die Realität. Es gibt Drohnen, die sich autonom fortbewegen, aber deren Zuverlässigkeit ist für den Transport von Menschen nicht ausreichend. Um zu verdeutlichen welchen Beschränkungen die bestehenden Systeme unterliegen: Im Schnitt fällt jede Stunde irgendwo auf der Welt bei einem Passagierflugzeug der Autopilot aus. Jede Minute muss irgendwo auf unserem Planeten ein Passagierflugzeuge ohne Instrumentenhilfe gelandet werden. Darum wäre es ein fataler Irrtum, auf den Menschen im Cockpit verzichten zu wollen.
Angesichts dieser Zahlen grenzt es ja an ein Wunder, dass so wenig passiert.
Nein, ein Wunder ist das nicht! Es wird sehr intensiv an einer ständigen Verfeinerung des Zusammenspiels zwischen Mensch und Technik gearbeitet. Und statt den Menschen in seinem Einfluss zurück zu drängen, ist in der Verkehrsluftfahrt ein zweiter Pilot Standard. Neben dem „Pilot Flying“, der die Maschine steuert, sitzt der „Pilot Monitoring“, der den steuernden Flugzeugführer überwacht, die Kommunikation organisiert und dem „Pilot Flying“ zuarbeitet. Obwohl Autopiloten über viele Stunden ihre Arbeit fehlerfrei erledigen, benötigen wir – um hohe Sicherheit gewährleisten zu können – zwei Menschen im Cockpit, denn wir können dem Computer nicht zu einhundert Prozent vertrauen.
Was heißt hohe Sicherheit?
Unser Sicherheitsziel bei der Lufthansa lautet: maximal einen Unfall bei 100 Mio. Flügen. Um dieses anspruchsvolle Ziel erreichen zu können, arbeiten wir kontinuierlich an der Optimierung der technischen Hilfsmittel und ihrem richtigen Gebrauch durch den Menschen. Aber noch etwas wird sehr intensiv geschult: die Kommunikation der beiden Piloten untereinander. Wir motivieren sie, alle anspruchsvollen Aufgaben gemeinsam zu lösen. Beide sollen gleichberechtigt etwaige Bedenken äußern. Gleichberechtigt heißt: Es gibt keinen Vertrauensvorschuss für den, der die größere Erfahrung hat. Bei unterschiedlicher Einschätzung einer Situation findet ein Austausch statt, bis Ungereimtheiten geklärt sind. Erst dann erteilt der Kapitän, als höchste Autorität an Bord, die entsprechenden Anweisungen.
Also kein autonomes Fliegen. Wie sehen Sie dann das Thema autonomes Fahren?
Auch da scheint es mir angebracht, mit einigen sehr verbreiteten Erwartungen aufzuräumen. Die Vision, dass ich als älterer Mensch, der eigentlich gar nicht mehr fahrtüchtig ist, mich in ein autonomes Fahrzeug setzen kann und letztlich ohne mein Zutun an mein gewähltes Ziel gebracht werde, halte ich in absehbarer Zeit für unrealistisch. Diese Vision liegt in sehr, sehr weiter Ferne.
Wo sehen Sie die Hürden für ein wirklich autonomes Fahren?
Es gibt zwei Limitierungen: Die eine ist die Zuverlässigkeit von komplexer Software. Sofwarebugs werden , die mit einer relativ hohen Wahrscheinlichkeit in die Programme „einschleichen“. Das zweite Problem ist die Frage: Wie nimmt das Elektronengehirn wahr, was gerade im Umfeld geschieht? Die Sensorik, die Radarantennen, die Kameras müssen ein sehr genaues Abbild der Realität liefern. Dies ist momentan nur mit einer relativ hohen Fehlerrate möglich. Es gibt noch kein System, das den gesunden Menschenverstand mit seinen Plausibilitäts-Kontrollen ersetzen kann.
Haben Sie dafür ein Beispiel?
Man fährt auf der Autobahn und kommt in eine Baustelle, in der die weiße Markierung einer gelben Markierung weicht, die aber an einigen Stellen abgerissen ist. Das ist für den menschlichen Fahrer in der Regel kein Problem. Er sucht sich den Weg mit deutlich verlangsamter Geschwindigkeit. Wie aber sieht das bei einem Rechner aus? Natürlich kann der Straßenverlauf ganz genau einprogrammiert werden, aber es muss nur eine schnelle, unerwartete Änderung eintreten, (ein Baum kippt auf die Straße, eine Markierung wird umgefahren, etc.) und das Einprogrammierte entspricht nicht mehr der Realität. Das notwendige Adaptieren mit hoher Zuverlässigkeit zu erreichen, ist sehr anspruchsvoll und im Moment technisch nicht mit er erforderlichen Zuverlässigkeit leistbar.
Das sind ernüchternde Aussagen!
Auf der Kundenseite herrschen falsche Vorstellungen, die teilweise auch von den Herstellern geschürt worden sind. Ich erinnere mich an Fernsehsendungen, in denen Experten die Vision geschildert haben, wie in einigen Jahren Menschen vollkommen autonom zu ihrem Reiseziel gebracht werden. Das wäre natürlich grandios. Es entspricht aber nicht der Realität, weil die Zuverlässigkeit der Systeme dafür nicht ausreicht. Ich war auf einer Forschungs- und Entwicklungstagung in Brüssel bei der EU, an der auch eine Vertreterin der Autoindustrie teilnahm. Sie sagte, dass das autonome Fahren von den Herstellern nicht mehr angestrebt werde. Ziel ist nun die Stufe-3-Automatisierung.
Das würde dann was bedeuten?
Ich fahre z.B. auf der Autobahn auf der rechten Spur und fädle mich zwischen zwei Lkw ein und mein Autopilot hält die Spur und den Abstand und fährt hinterher. Aber schon wenn ein loser Pflasterstein auf der Straße liegt, ein Reifen platzt oder irgendetwas nicht „Vorprogrammiertes“ passiert, muss der Fahrer übernehmen. Bei den Assistenzsystemen kommt auch noch ein psychologisches Moment ins Spiel.
Welches?
Wir haben dies in der Luftfahrt gesehen: Wenn man dem Piloten suggeriert, dass er jetzt entspannen kann, da der Computer alle anstehenden Aufgaben erledigt, entsteht unter Umständen eine sorglose Nachlässigkeit – Complacency – und der Pilot erkennt nicht rechtzeitig, wenn der Computer einen Fehler macht. Um solche Situationen nicht entstehen zu lassen, ist das Wissen um die Grenzen der Automation unverzichtbar. Zwei Flugzeugführer teilen sich diese Kontrollaufgaben.
Dies ist im Straßenverkehr so nicht angedacht: Ein Autopilot soll mit nur einem Menschen alles regeln. Es wird deshalb in absehbarer Zeit nicht über die Stufe-3-Automatisierung hinausgehen. Für einen höheren Automationsgrad müssten signifikant verbesserte Systeme entwickelt werden, deren Entwicklung aber im Moment am Horizont der modernen Forschung noch nicht zu erkennen ist.
Wie sehen Sie denn dann die nahe Zukunft des autonomen Fahrens?
Wenn man positiv in die Zukunft blickt, und wenn ich mir was wünschen könnte, dann ist es eine verbesserte Unterstützung des Fahrers durch die grandiosen Möglichkeiten der Computertechnik.
Wie würde das konkret aussehen?
Einige Beispiele. Ich fahre auf einer kurvigen, unübersichtlichen Landstraße. Vor mir ist ein Traktor, den ich überholen möchte. Es wäre außerordentlich hilfreich, wenn alle Autos im Umfeld mit meinem Fahrzeug kommunizieren würden und wenn der Rechner zu mir sprechen könnte: „Achtung, nicht überholen, es kommt ein schneller Sportwagen entgegen.“ Wenn ich es trotzdem versuche, sollte mich der Autopilot daran hindern, das Lenkrad sollte vibrieren und ein Stimme sollte rufen: „Stopp nicht rausfahren, Gegenverkehr!“
Oder wenn ich im Nebel auf ein Stauende zufahre, sollte mein Auto ein Abbremsen empfehlen und es ggf. selbstständig durchführen.
Oder das Auto sollte den Fahrer darauf hinweisen, dass die nasse Straße bei minus 1 Grad Celsius über eine Stahlbrücke führt. Der Computer sollte die Empfehlung aussprechen mit maximal 60km/h weiterzufahren, denn es wird mit großer Wahrscheinlichkeit auf der Brücke glatt sein. Das wäre ein Weg, der in der Luftfahrt schon etliche Jahre erfolgreich beschritten wird. Fähigkeiten der Computer sollten dafür genutzt werden, dem Menschen zu helfen und zu entlasten, aber er sollte nicht aus dem Regelkreis gedrängt werden. Der Mensch sollte fahren, aber schlaue Computer, sollten aufpassen, dass nicht zu schnell gefahren wird, eine Kurve nicht übersehen wird und vor einem Stauende rechtzeitig gebremst wird. Auch zu dichtes Auffahren sollte der Rechner unterbinden. Zusätzlich kann eine computergestützte Messung der Müdigkeit, mit der Aufforderung eine Pause einzulegen, die Wahrscheinlichkeit von Sekundenschlaf reduzieren. Auf Hilfsmittel dieser Art sollte der Schwerpunkt gelegt werden und nicht darauf, dass das Auto alle Aufgaben autonom übernimmt.
Das Thema bessere Vernetzung von Fahrzeugen sollte also weiter vorangetrieben werden.
Ja unbedingt, denn das bietet dem Fahrer eine sinnvolle Unterstützung, wie z.B. das rechtzeitige Erkennen von Gefahrenstellen und von gefährlichen Verkehrssituationen. Für mich ist es ein Anachronismus, dass man immer noch auf ein Stauende zufährt, die Bremslichter sieht und dann erst reagiert. Die Autos sollten miteinander kommunizieren, diese einfachen technischen Optionen werden leider noch nicht ausreichend genutzt. Die bestehenden Möglichkeiten weiter zu optimieren, darin besteht für mich der nächste Schritt. Wenn das alles perfekt funktioniert, dann kann man darüber nachdenken, ob man den Automationsgrad an einigen Stellen noch weiter erhöht.
Sie sehen also, dass im Moment in der Entwicklung die falschen Schwerpunkte gesetzt werden.
Ich finde es traurig, dass die technischen Möglichkeiten, die wirklich Leben retten könnten, wie z.B. die Stauende-Warner, nicht mit demselben Nachdruck verfolgt wird, wie die Vision des autonomen Fahrens. Es ist vielleicht nicht so spektakulär, einen Abbiegeassistenten flächendeckend einzuführen wie die Möglichkeit die eigene Oma alleine auf die Reise zu schicken. Aber ich bin der Meinung, dass es darum geht, mit dem geringst möglichen technischen Aufwand die größtmögliche Sicherheit zu erreichen, was z.B. durch den Stauwarner, den Glatteiswarner, den Abbiegeassistenten ermöglicht wird. Es ist die Aufgabe des Gesetzgebers, eine verpflichtende Einführung von potentiell lebensrettenden Assistenzsystemen sicherzustellen. Eine Einbaupflicht würde durch die steigenden Stückzahlen auch dafür sorgen, dass diese Systeme günstiger werden. In diese Richtung sollte die Entwicklung gehen und der Hype um das autonome Fahren sollte etwas eingedämmt werden.
Ist das nicht ein zu großer Eingriff in die unternehmerische Autonomie der Hersteller?
Die Einschränkungen sind gar nicht so groß, wenn beschlossen wird, jedes Auto mit den beschriebenen Hilfsmitteln auszurüsten. Ich kann mich erinnern, wie in den 60-er Jahren der Sicherheitsgurt eingeführt wurde. Das haben viele als Einschränkung ihrer Freiheit wahrgenommen. Dieser Eingriff war tatsächlich viel dramatischer als ein Abbiegeassistent. Da wird doch nur eine akustische Warnung eingebaut und vielleicht die Bremse betätigt. Niemand kann ernsthaft dagegen sein, dass der Gesetzgeber strikte Regeln implementiert, um die Sicherheit im Straßenverkehr zu erhöhen. Mehrere Tausend Tote jedes Jahr sind eine Herausforderung für die Industrie und den Staat. Es geht deshalb darum zu untersuchen, mit welchen Maßnahmen ein Optimum an Sicherheit erreicht werden kann.
Das klingt überzeugend!
Es sollte vorrangig nicht um den Einbau netter kleiner Features gehen, die ganz witzig, aber nicht sicherheitsrelevant sind, oder unter Umständen die Sicherheit sogar reduzieren. Ein Beispiel, das ich immer wieder erlebe: Wenn man ins Taxi steigt und dem Fahrer ein ihm unbekanntes Ziel nennt, dann fährt er schon mal los, um dann in einer halsbrecherischen Aktion das Navi zu programmieren. Da müsste es ein Systemlogik geben, die das Programmierung per Hand unmöglich macht, so lange sich das Fahrzeug bewegt. Also entweder geht das über Sprachsteuerung, oder man muss an den Fahrbahnrand fahren, stoppen und das Ziel dann eingeben. Das sind ganz triviale Dinge, die die Sicherheit deutlich verbessern könnten. Ich habe mir angewöhnt, während der Fahrt nichts manuell in mein Navi einzugeben. Es ist einfach ein unverhältnismäßig hohes Risiko.
Sie nutzen also selbst ein Fahrzeug mit Assistenzsystemen?
Das tue ich mit Freude, und da sind viele sinnvolle Helfer eingebaut und im Einsatz. Eines verwundert mich aber sehr.
Und was ist das?
Ich als Fahrer eines Fahrzeugs mit vielen Assistenzsystemen bin auf dem Fahrzeug gar nicht entsprechend geschult worden. Ich steige einfach ein und fahre damit los. Es müsste eine Form von Training stattfinden, das mich mit dem System, seinen Möglichkeiten, aber auch seinen Grenzen vertraut macht. Vielleicht nutze ich die Systeme falsch? Es gibt folglich noch etliche Dinge, über die man sich beim Thema „Zukunft des Autos“ Gedanken machen muss. Die Schwerpunkte müssten nach meinem Dafürhalten anders gesetzt werden – nicht das Herausdrängen des Menschen aus dem Regelkreis, sondern die Unterstützung des Menschen durch die Assistenzsysteme sollte der Schwerpunkt sein. Und ganz wichtig: Je komplexer das System ist, desto besser muss der Nutzer im Umgang damit ausgebildet sein, um die Möglichkeiten aber auch Grenzen der Systeme zu kennen und zu respektieren.