Casa Casi, Folge 2: Autonomes Fahren – Fluch, Segen oder Todesfalle?
In dieser Woche ereignete sich ein schrecklicher Autounfall mit einem Tesla. Die Polizei vor Ort war sich sicher, dass zum Zeitpunkt des Unfalls kein Mensch auf dem Fahrersitz saß. Aha, also mal wieder jemand, der oder die dem Tesla-Fahrassistenten mit dem irreführenden Namen „Autopilot“, zu viel zutraute und sich nicht nur den Gesetzen, sondern auch Tesla-Richtlinien widersetzte und das Auto alleine fahren lassen wollte? Nein, entgegnete Elon Musk sehr schnell und empathielos (weil kein Wort über die Opfer verloren wurde) auf Twitter.
Your research as a private individual is better than professionals @WSJ!
— Elon Musk (@elonmusk) April 19, 2021
Data logs recovered so far show Autopilot was not enabled & this car did not purchase FSD.
Moreover, standard Autopilot would require lane lines to turn on, which this street did not have.
Autonom fahrende Autos sind die Zukunft.
Casi und ich haben uns deshalb diese Woche bei unserem Besuch in der „Casa Casi“ mit diesem Thema befasst und uns gefragt, ob das autonome Fahren nun unsere Welt verbessert oder nicht. Es hat auf jeden Fall das Potential vielleicht unsere Gesellschaft, in jedem Fall aber unsere Städte zu verändern. Sobald Autos selbständig fahren können, brauchen viele Wägen auch keine Stehflächen mehr. Mehr Platz also für Fußgänger und Radfahrer – und vielleicht sogar neue Wohnungen.
Sind Tesla, die Internet-Giganten und die Chinesen vielleicht den einstigen Superstars der weltweiten Autobauern schon uneinholbar enteilt? Oder ist es so, dass die Deutschen in Sachen Autos und Software so richtig Gas geben, um verlorenes Terrain nicht nur zurückzugewinnen, sondern vielleicht sogar bald wieder die Nase vorn haben zu können.
Aber wann fängt die Zukunft eigentlich an?
Erwartet keine finalen Antworten in diesem Podcast. Unsere Gespräche bei „Casa Casi“ sind manchmal eher so, wie die Kanzlerkandidatenfrage bei der CDU/CSU bis zu dieser Woche: Unkonkret! Im Gegensatz zur Politik geht es bei uns aber meist recht unterhaltsam daher.
Trotzdem können wir natürlich auch nicht sagen, ab wann Level 5 beim autonomen Fahren wirklich kommt. Wir haben auch keine (gute) Antwort darauf, wie eine künstliche Intelligenz gepolt sein sollte, wenn es um ethische Grundsätze geht. Fährt ein Auto in einem unausweichlichen Fall eher in Richtung eine Gruppe von Rentern oder in Richtung eines 10-jährigen Kindes?
Ein Gespräch so lang wie ein Teller Nudeln. Beziehungsweise in dieser Woche Lasagne.
Wir beanspruchen in unseren Podcasts keine finalen Antworten geben zu können. Vielmehr laden wir Euch ein an unseren Nachbartischen Platz zu nehmen und unserem Gespräch zu lauschen. Wenn Euch ab und an das Gefühl überkommt auch mal etwas dazu sagen zu wollen, dann schreibt es uns doch hier im Artikel. Das ist wahrscheinlich auch einfacher, als wenn man im Restaurant interessiert einem Gespräch zuhört und dann sagt: „…also, das sehe ich aber ganz anders…“.
Für alle, die „Casa Casi“ nicht kennen: Das Konzept unseres Konzepts ist ein wenig so, wie Casi und Fabi selbst. Nämlich einfach! Jede Woche am Samstag um 12 Uhr sprechen wir über ein Thema, während wir in unserem Lieblingsrestaurant, der „Casa Casi“ einen Teller Nudeln verspeisen. Das Gespräch soll dabei nicht länger dauern, als das Vertilgen des Essens so dauern würde.
Unter normalen Umständen wäre der Spuk wahrscheinlich in 3-5 Minuten vorbei. Aber Casi und ich pflegen bei unseren Gesprächen tatsächlich Esskultur und kauen sogar vor dem Schlucken. Wundert Euch aber bitte nicht, wenn wir hier und da auch mal den Pfad des Themas verlassen und kurz abseits wandeln. Es ist eben ein Gespräch unter Freunden bei einem guten Essen.
Und genau dazu wollen wir Euch auch diese Woche wieder einladen. Also, schnappt Euch was zu essen und zu trinken, schaltet ein – und vergesst nicht uns zu abonnieren. Vielen Dank!
Was mich auch nicht so wirklich überzeugt bisher ist die Notwendigkeit, trotz "autonomen" Fahrens die Hände am Steuer zu haben und bereit zu sein, jederzeit einzugreifen Das negiert für mich den Sinn des autonomen Fahrens komplett. Wenn ich ohnehin voll dabei sein muss, fahre ich doch lieber gleich selbst, lasse mich durch Notbremsassistenten und Abstandstempomaten gern unterstützen, aber werde dabei wenigstens nicht müde. Der jüngste Tesla Unfall mit 2 Toten ist doch absurd, wenn der sog. Autopilot nicht eingeschaltet war, wie ist die Kiste denn dann gefahren wenn laut Polizei niemand am Steuer saß? Hier werden wir von Herrn Musk veralbert. Für mich sind die Stufen 1-4 des autonomen Fahrens nicht autonom und eher gefährlich als ein Gewinn an Sicherheit. Bestenfalls etwas für die Teststrecke.
https://www.nextpit.de/casa-casi-folge-2-autonomes-fahren-fluch-segen-oder-todesfalle?c=2860688#comment2860688
Da warte ich gerne und konsumiere, bei Gefallen, alle Folgen (bei einem überlangen Pizza-Abend) hintereinander.
Wird diese Podcast-Reihe auch für den IOS-Podcast-Player verfügbar sein? Bin auch nicht gerade der Freund von Spotify/Webplayer etc..
Mit Podcast-Apps im Allgemeinen hatte ich mich bis dato noch nicht wirklich beschäftigt.
Wenn Zeit ist/war, habe ich eher Hörbücher konsumiert; komme immer mehr auf den Geschmack von guten oder witzigen/kurzweiligen Podcasts.
Dieses zweite Thema ist wirklich HOT & interessiert mich ungemein.
-
Admin
-
Staff
26.04.2021 Link zum KommentarWir haben uns bereits für alle wichtigen Podcast–Plattformen angemeldet. Leider dauert es bei einigen recht lange, bis alles entsprechend geprüft und freigeschaltet ist.
Es macht mega Spass, euch zuzuhören, großes Lob und bitte, bitte macht weiter!
Das wird sich definitiv noch lange hinziehen bis der Bordcomputer weniger Fehler macht als der Mensch hinter dem Steuer.
Und ein fehlerfreies System wird es eh nicht geben.
-
Admin
-
Staff
25.04.2021 Link zum KommentarFehlerfreie Systeme gibt es natürlich nicht. Aber ich denke, dass beim Autofahren Maschinen uns Menschen bei Weitem überlegen sein werden. Und das auch schon sehr bald. Computer können binnen Bruchteilen von Sekunden Situationen erfassen und handeln. Wir Menschen sind bei der Kreativität Maschinen um Längen voraus. Aber wenn es um klare Szenarien wie den Autoverkehr geht, dann sind Maschinen auf Dauer die bessere Lösung. Ich denke auch, dass das sehr bald soweit sein wird.
Es bleibt dann aber immer noch die Frage nach der Ethik. Wie sollte ein System entscheiden, wenn es unausweichlich zu Personenschaden kommt? Nach welchen Kriterien entscheidet das System dann? Diese Fragestellung ist wirklich übel – und wird meist mit einer Art Zufallsprinzip beantwortet. Ich bin mir sehr sicher, dass es hierüber noch irgendwann heftige Diskussionen geben wird.
"Es bleibt dann aber immer noch die Frage nach der Ethik. Wie sollte ein System entscheiden, wenn es unausweichlich zu Personenschaden kommt? Nach welchen Kriterien entscheidet das System dann? Diese Fragestellung ist wirklich übel – und wird meist mit einer Art Zufallsprinzip beantwortet."
Nach welchen Kriterien entscheidet denn der Mensch? Auch der muss sich ja in Sekundenbruchteilen entscheiden. Und egal wie ein Mensch sich entscheiden muss, wird er unter Umständen den Rest seines Lebens von Schuldgefühlen geplagt, das System aber nicht.
Auch der Mensch muss sich in Sekundenbruchteilen entscheiden. Da er das im Gegensatz zu Computern nicht kann, sind die seine Handlung bestimmenden Kriterien seine antrainierten Reflexe. Das kannst du sehr gut nachvollziehen, wenn du irgendeine Bewegungssportart ausübst. Sobald du über dein Handeln nachdenken muss, während du agierst, hast du schon verloren. Beim Fahrrad fahren ist beispielsweise keine Zeit, eine bewusste Entscheidung darüber zu treffen, was zu tun ist, wenn das Rad zur Seite kippt. Das müssen deine Reflexe steuern, sonst liegst du auf der Nase. Wie du dich danach fühlst, steht für schnelle Reaktionen nicht zur Debatte.
Anders ist es bei Computern, die in Sekundenbruchteilen unzählige mögliche Handlungsvarianten erfassen und abwägen können. Welche Entscheidung sie dann treffen sollen, muss vorher festgelegt werden. Das ist dann eine ethische Beurteilung der vorstellbaren Reaktionen und hängt von der Kultur ab, die diese Vorgaben definiert. So wird ein autonomes Fahrzeug, das sich zwischen dem Aufprall auf drei alte Männer oder drei junge Frauen entscheiden muss, in arabischen Ländern eine andere Wahl treffen, als in westeuropäischen Regionen. Der Mensch hat im Ernstfall nicht die Zeit, darüber nachzudenken, kann sich aber hinterher schlecht fühlen.
-
Admin
-
Staff
26.04.2021 Link zum KommentarDanke, das ist sehr gut zusammengefasst.
Nach welchen Kriterien entscheidet ein Mensch? Bleibt ihm überhaupt die Zeit, etwas zu entscheiden? Meiner Ansicht nach ist das überwiegend eine Frage für das Gericht, das ggf. einen solchen Fall verhandeln muss, dann wird man danach fragen, was man bei einer KI natürlich nicht kann. Aber in Sekundenbruchteilen nach ethischen Gesichtspunkten abzuwägen... Zweifel Euer Ehren.
-
Admin
-
Staff
26.04.2021 Link zum KommentarDas steht doch aber da. Ein Mensch kann das nicht. Eine Maschine schon. Es muss einer Maschine gesagt werden, was sie in bestimmten Fällen zu tun hat. Und eben hier kommt die Ethik ins Spiel.
Nur, dass Szenarien beim Autofahren klar und definiert sind, halte ich für eine Fehlannahme, und ich denke, dass vollautonomes Fahren sicher noch einige Jahre auf sich warten lassen wird.
Es ist die menschliche Fähigkeit, die wohl evolutionären Ursprungs sein dürfte, wesentliche Elemente eine Szene zu identifizieren, unwesentliche aber zu ignorieren, die ihm immer noch einen entscheidenden Vorsprung vor der Maschine gibt.. Diese unwesentlichen Elemente sind aber im Prinzip nicht vorhersehbar.
Für einen Menschen ist ein Szenario im Wesentlichen gleich, egal ob im Sommer, im Winter, bei Regen oder Schnee, die Witterungsumstände kann er aus der Szene als unwesentlich ignorieren, bzw. angemessen berücksichtigen. Das sind wohldefinierte Szenarienvarianten, die man auch einer KI-anlernen kann. Was aber, wenn die Variation der Szene nicht so eindeutig und vor allem nicht vorhersehbar ist?
Besonders perfide und vielleicht auch nicht ganz realistisch sind solche provokativen Szenenvariationen, wie sie in diesem Artikel beschrieben sind, wohl ein extremer Gegensatz zu "klar und wohldefiniert":
https://www.heise.de/hintergrund/Pixelmuster-irritieren-die-KI-autonomer-Fahrzeuge-4852995.html
Die meisten Menschen hätten die Manipulationen wohl gar nicht bemerkt, unbewusst als unwesentlich ignoriert. Aber kann KI wirklich alles zwischen diesen Extremen und "klar und definiert" auflösen?
Wie wirkt sich ein toter Vogel, oder Einschusslöcher an einem Verkehrsschild aus?
Zwar kann man einer KI mit genügend Leistungsfähigkeit Millionen Bilder von tausenden Szenarien antrainieren, aber wie entscheidet sie im Fall einer der Aberbilliarden denkbaren Variationen einer antrainierten Szenerie, die ihrerseits eben nicht antrainiert sind?
Deshalb finde ich Forschungsarbeit, wie sie z.B. einige Fraunhofer-Institute durchführen, die klären sollen, warum eine KI eine Entscheidung so fällt, wie sie es macht und nicht anders (was unklar ist, anders als die Frage, wie sie grundsätzlich funktioniert) für ganz wesentlich, KI in sicherheitskritischen Systemen wie Autos einzusetzen.
Quelle: heise.de/c't
Das ist nicht nur ein ethisches Problem, sondern auch ein juristisches. Während einem Menschen zugebilligt werden muss, innerhalb von Sekundenbruchteilen auch eine falsche Entscheidung getroffen zu haben, folgt eine KI vorgefertigten Regeln, und die werden immer einen Teilnehmer benachteiligen. Dieser wird dann selbstverständlich auch klagen, denn die Entscheidung gegen ihn war ja nicht unter Zeitdruck und besonderen Umständen getroffen worden, sondern von den Konstrukteuren der KI bewußt und mit voller Absicht so geplant. Übrigens würde das auch auf den Einsatz einer Zufallsauswahl zutreffen. Hier müsste also auch eine rechtliche Grundlage geschaffen werden, die der KI ermöglicht, sich gegen jemanden zu entscheiden, was unter Umständen ja sogar den Tod des- oder derjenigen beinhalten könnte.
Ich bin sehr gespannt auf autonome Autos in der Praxis. Wenn ich nach einer frostigen Winternacht, vielleicht auch mit Schneefall, in mein Auto steige, welches vor Assistenten strotzt, bekomme ich nach Einschaltung der Zündung zunächst ein Mäusekino, welches mich belehrt welche Systeme gerade blind und daher nicht in Betrieb sind. Das beginnt bei den Parksensoren bis zum Front Assist, Abstandstempomat und so weiter. Das autonome Auto benötigt also eine Außenheizung, eine eingebaute Waschanlage oder darf nur bei schönem Wetter und trockenen Straßen betrieben werden. Oder wie?
-
Admin
-
Staff
25.04.2021 Link zum KommentarDa hast Du Recht. Da gibt es sicherlich noch einiges aufzuholen. Ohne an dieser Stelle ein Experte zu sein: Ich kann mir mehrere Lösungsszenarien hierfür vorstellen und bin mir auch sicher, dass autonome Autos auch eine mehr oder weniger ausfallsichere Sensorik bekommen kann.
Man denke nur mal an die Luftfahrt. Eigentlich fliegen Flugzeuge heute schon mehr oder weniger autonom. Piloten haben nur in den allerwenigsten Fällen wirklich etwas zu tun. Dabei haben Flugzeuge auch ständig mit Extrembedingungen zu kämpfen, wenn sie durch Wolken fliegen und auf Reiseflughöhe Temperaturen um die -50 Grad haben.
-
Admin
25.04.2021 Link zum KommentarIch könnte mir teil-autonomes fahren auf Autobahnen und Landstraßen vorstellen. Dort, wo man die notwendige Infrastruktur flächendeckend ausbauen könnte. Jedoch nicht in Städten, Ortschaften oder auf der kleinen Landstraße.
Das heißt: Die Fahrlehrer brauchen sich noch viele Jahre keine Sorgen machen, dass sie überflüssig sind, weil man keine Führerscheine mehr braucht. 😀
Eher wäre doch die Frage: Muss man nicht trotzdem weiter den Führerschein machen, damit man im Fall von Systemstörung weiterfahren kann? Oder muss man stehen bleiben bis die Störung behoben ist, weil man nach Jahren mit autonomen Fahren gar keine Ahnung mehr von den Verkehrsregeln hat?
Und wer weiß wie unsere Behörden und Gesetzgeber arbeiten muss sich auf sehr viele Jahre Warten auf die entsprechenden Gesetze einrichten. 😂
Ich würde das echt gerne anhören, aber leider finde ich bis heute den Podcast nicht bei Pocket casts oder Podcasts von Google 😫
-
Admin
24.04.2021 Link zum KommentarHör's doch über den Browser an?