Algorithmische Moral: Wen soll das Roboterauto im Zweifelsfall opfern?

Roboterautos sollen die Zahl der Verkehrsopfer senken. In schlimmen Situationen aber müssen sie zwischen mehreren Übeln wählen. Nur wie? Forscher zeigen, wie janusköpfig wir denken.

Die Fürsprecher autonom fahrender Autos führen ein großes Versprechen im Munde: Wenn einmal Computer selbständig Fahrzeuge steuern, dann kann das Gros der Verkehrsunfälle vermieden werden. Weniger Menschen würden verletzt oder gar getötet. Manche Berechnungen gehen davon aus, dass bis zu 90 Prozent aller heutigen Unfälle mit autonomen Autos vermeidbar sind. Auf diesem Hoffnungsszenario liegt ein Schatten, nachdem vergangene Woche bekannt wurde, dass ein Fahrer eines Tesla-Autos tödlich verunglückte, der dem Autopiloten seines Fahrzeugs vertraut hatte.

Unabhängig von diesem Todesfall stellt das Konzept autonom fahrender Autos Computer und Algorithmen vor Entscheidungen, die bisher Menschen treffen müssen – und die in Dilemmas enden können. Das verdeutlicht ein unlängst in der amerikanischen Wissenschaftszeitschrift „Science“ erschienener Artikel.

Der Schutz anderer Verkehrsteilnehmer ist wichtig

Für den Beitrag haben amerikanische und französische Wissenschaftler in sechs nicht-repräsentativen Online-Befragungen im vergangenen Jahr rund 2000 Amerikanern mit unterschiedlichen Fragestellungen konfrontiert. Obwohl die Befragungen unterschiedlich ausgestaltet waren, drehten sie sich im Kern immer um eine Frage: Ob es moralischer wäre, wenn ein autonom fahrendes Auto einen oder auch mehrere Fahrzeuginsassen tötet, um so eine höhere Zahl an Menschenleben außerhalb des Fahrzeugs zu retten? Über alle Befragungen hinweg entschied eine Mehrheit der Teilnehmer, dass der Schutz Außenstehender wichtiger sei. Doch variierten die Zustimmungsraten in den einzelnen Befragungen beträchtlich, je nachdem wie die exakte Fragestellung lautete.

So stimmten zum Beispiel 76 Prozent der rund 180 Teilnehmer der ersten Befragung der Aussage zu, dass es durchaus moralischer sei, wenn ein autonomes Auto einen Fahrzeuginsassen tötet, um zehn Fußgänger zu retten. Später wurden diese Befragten darum gebeten, auf einer Skala von 0 bis 100 anzugeben, ob autonome Autos so programmiert sein sollten, dass sie den Fahrer schützen (0) oder dass sie die Zahl der Todesfälle minimieren (100). Das Medianergebnis lautete dabei 85 – 50 Prozent der Befragten tendierten also deutlich dafür, dass autonome fahrende Autos die Zahl der Todesfälle minimieren sollten.

Kommen Verwandte ins Spiel, wird es kompliziert

In einer zweiten Befragung mit nunmehr 450 Teilnehmern passten die Wissenschaftler sodann die Zahl der Opfer außerhalb des Autos an: Je nach Frage, variierte sie zwischen eins und einhundert. Wenn lediglich ein Menschenleben außerhalb des Autos gerettet werden sollte, waren nun gerade einmal noch 23 Prozent der Befragten dafür, dass der oder die Fahrzeuginsassen geopfert werden sollten. Stieg die Opferzahl außerhalb des Fahrzeug, stieg aber auch wieder die Zustimmung dafür, stattdessen die Fahrzeuginsassen zu opfern und erreichte schnell die Werte der ersten Befragung.

In einer dritten Umfrage stießen die Wissenschaftler dann auf ein Dilemma: Sie wollten von den Teilnehmern unter anderem wissen, wie wahrscheinlich es ist, dass sie sich selbst für eines von zwei verschiedenen autonom fahrenden Autos entscheiden: eines, das die Fahrzeuginsassen schützt, und eines, das die Zahl der Opfer außerhalb minimiert. Dabei stellte sich heraus, dass die Befragten generell immer noch dafür waren, dass ein autonom fahrendes Auto die Zahl der Todesopfer minimieren sollte. Wenn sie oder ihre Familienmitglieder aber selbst in einem solchen säßen, entschieden sie sich im Mittel häufiger für das Fahrzeug, das die Insassen schützt.

Die vierte Umfrage bestätigte diese Einstellung. Darin gaben die Wissenschaftler nun die Programmierung des Autos vor: Wenn Fußgänger auf der Straße wären, würde das Auto diesen stets ausweichen und damit womöglich die Fahrzeuginsassen oder aber unbeteiligte Fußgänger am Straßenrand gefährden. Außerdem variierten sie die Zahl der möglichen Todesopfer außerhalb des Fahrzeugs. Generell bewerteten die Teilnehmer dieser Umfrage nun wieder jenen Algorithmus positiv, der dazu führt, dass ein unbeteiligter Fußgänger am Straßenrand getötet wird, um zehn Menschen auf der Straße zu retten. Weniger Zustimmung erhielt aber jener Algorithmus, der lediglich einen unbeteiligten Fußgänger opfern würde, um einen Menschen auf der Straße zu retten. Der Algorithmus jedoch, der seinen Fahrer opfern würde um zehn Menschen auf der Straße zu retten wurde gemischt eingeschätzt.

Ein Trittbrettfahrer-Problem

In Punkto allgemeiner Moral bewerteten ihn die Befragten sehr positiv. Sie waren auch dafür, dass andere Nutzer autonomer Autos genau diesen Algorithmus verwenden sollten. Wenn es aber darum ging, selbst ein so programmiertes Auto zu kaufen, sank die Zustimmung. Das zeige dreierlei, schreiben die Autoren des „Science“-Beitrags. Zwar befürworten die Befragten autonome Autos, die die Zahl der Todesfälle minimieren und dafür womöglich den Fahrer opfern. Sie fänden auch gut, wenn andere Verkehrsteilnehmer solchermaßen programmierte Autos fahren würden. Aber für sich selbst würden sie sie eben nicht in Erwägung ziehen.

Die Autoren sehen in dieser Reaktion ein klassisches gesellschaftliches Dilemma, das auf dem Feld der Trittbrettfahrer-Theorie fußt. Jeder potentielle Nutzer eines autonomen Autos, das die Zahl der Todesfälle minimieren soll, habe die Versuchung, es eben gerade nicht zu nutzen. So komme es dazu, dass das gesellschaftlich bestmögliche Ergebnis nicht eintrete, nämlich die Verletzten und Toten im Straßenverkehr zu reduzieren.

Regulierung stößt an Grenzen

Ein Ausweg aus diesem Dilemma könnte Regulierung sein, dass also der Gesetzgeber vorgibt, wie ein autonomes Auto programmiert sein muss. In ihren beiden abschließenden Befragungen erkundeten die Wissenschaftler daher, wie die Teilnehmer zur Regulierung stehen. Es stellte sich unter anderem heraus, dass die Neigung sehr gering ist, ein autonom fahrendes Auto zu kaufen, für das der Gesetzgeber vorschreibt, dass es den Fahrer opfert, um Außenstehende zu schützen. Die Autoren schließen daraus, dass Regulierung für autonom fahrende Autos zwar notwendig sei aber auch kontraproduktive Folgen zeitigen könnte. Insbesondere seien Regulierer mit zwei Schwierigkeiten konfrontiert. Auf der einen Seite scheinen die Menschen autonom fahrende Autos nicht zu wollen, die die Zahl der Menschenleben minimieren und dafür womöglich den Fahrer opfern. Schlimmer wiegt aber laut den Wissenschaftler, dass genau diese Art der Regulierung die Einführung der autonomen Autos verhindert, obwohl sie ja eigentlich Menschenleben retten soll. Es liege daher in der Verantwortung des Gesetzgebers sowie der Autohersteller, diese Hürde aus dem Weg zu räumen.

Dass das nicht einfach wird, ist den „Science“-Autoren bewusst. „Herauszufinden, wie eine ethisch handelnde autonome Maschine gestaltet sein muss, ist eine der größten Herausforderungen, vor der die Forschung an künstlicher Intelligenz heute steht. Doch weil wir anfangen Millionen Autos mit Autonomie auszustatten, ist es dringend nötig, dass wir uns über algorithmische Moral Gedanken machen.“

Quelle: Algorithmische Moral: Wen soll das Roboterauto im Zweifelsfall opfern? – Wirtschaftspolitik – FAZ

Advertisements

Neuer Chef, neue Modelle, „New Peugeot“?: Chinesen bändigen französischen Löwen

Der angeschlagene Autobauer PSA Peugeot Citroën verliert nach einem erneuten Milliardenverlust seine Unabhängigkeit und gibt dem Schulterschluss mit Dongfeng bekannt. Wie der größte französische Autobauer mitteilte, ist eine insgesamt drei Milliarden Euro schwere Kapitalspritze vorgesehen. In deren Rahmen investieren die französische Regierung und der zweitgrößte chinesische Autohersteller jeweils 800 Millionen Euro in PSA und erhalten dafür einen Anteil von je 14 Prozent. Den müssen sie zudem mehrere Jahre halten. Der Staatseinstieg sollte zudem verhindern, dass Dongfeng die Kontrolle über das französische Traditionsunternehmen und Europas zweitgrößten Autobauer erlangt.

Die Übernahme nach Unternehmensangaben Ende März besiegelt werden. Dann wird Chinas Staats- und Parteichef Xi Jinping zu einem Besuch in Paris erwartet.

„Akt der Verantwortung“

Der französische Industrieminister Arnaud Montebourg sprach von einer „patriotischen Entscheidung“ zugunsten der französischen Wirtschaft und Industrie. Regierungschef Jean-Marc Ayrault nannte den Einstieg des Staates bei PSA einen „Akt der Verantwortung“. Bereits Ende Oktober hatte PSA zugesichert, bis 2016 kein weiteres Werk in Frankreich zu schließen.

Weitere 14 Prozent verbleiben bei der Gründer-Familie Peugeot. Bisher hielten die Erben gut ein Viertel des Kapitals und – wegen Aktien mit doppeltem Stimmrecht – gut 38 Prozent der Stimmrechte. Thierry Peugeot ist zudem Vorsitzender des Aufsichtsrats, unter den 15 Mitgliedern des Gremiums sind noch drei andere Angehörige der Familie. Er wird seinen Posten nun wohl räumen müssen.

Erneuter Milliardenverlust

Für das vergangene Jahr gab Peugeot einen deutlich verringerten Nettoverlust bekannt. Er sank auf 2,32 Milliarden von rund 5 Milliarden Euro im Jahr zuvor. Damals hatten hohe Abschreibungen das Ergebnis belastetet. Im Kerngeschäft machte PSA nur noch 177 Millionen Euro Verlust, Analysten hatten mit etwa 250 Millionen gerechnet. Die Umsätze sanken 2013 um 2,4 Prozent auf gut 54 Milliarden Euro.

PSA steckt vor allem wegen der Absatzkrise in Europa in erheblichen Schwierigkeiten. Experten zufolge hatte sich der Konzern in der Vergangenheit zu stark auf die Geschäfte auf dem Heimatkontinent konzentriert. Es folgte ein rigoroses Sparprogramm mit einer Werksschließung und dem Abbau von 11.000 Arbeitsplätzen.

Neuer Chef sofort

Deutliches Zeichen des jetzt eingeläuteten Umbruchs soll die Ablösung des bisherigen Konzernchefs Philippe Varin werden. Bereits von diesem Donnerstag an wird nach PSA-Angaben der frühere Renault-Manager Carlos Tavares die Geschäfte des Konzerns führen. Er war zu Jahresbeginn in das PSA-Management eingestiegen.

Der künftige Chef kündigte auch an, die Zahl der Modelle zu reduzieren. Er wolle die Ausgaben für Forschung und Entwicklung bei PSA erhöhen, sagte er. Gleichzeitig kündigte er weiter an, stärker auf ausgefallenere Versionen zu setzen.

Weitere wichtige Veränderung ist der Kontrollverlust der Peugeot-Familie über das Unternehmen. Ihr Anteil verringert sich im Zuge der Kapitalerhöhung von aktuell 25 auf ebenfalls 14 Prozent. Die Finanztochter Banque PSA Finance soll mit dem spanischen Institut Santander Consumer Finance zusammengeschlossen werden. Sie hatte zuletzt Milliardengarantien des französischen Staates in Anspruch nehmen müssen.

Anleger honorieren

Von soliden Ergebnissen sprach ein Händler bei Peugeot. Der Umsatz liege 2013 etwas über der Konsensschätzung und der Verlust sei etwas geringer als erwartet. Vor allem aber der verbrannte Free-Cash-Flow von 426 Millionen Euro liege deutlich unter der Konsensschätzung von 1,35 Milliarden Euro.

Der Aktienkurs zog am Vormittag deutlich an und legte rund 6 Prozent zu. Im weiteren Handelsverlauf gab das Papier einige der Gewinne wieder ab und lag noch 1 Prozent fester. Peugeot sei wohl die am stärksten leer verkaufte europäische Automobilaktie, sagte ein Händler mit Verweis auf den starken Anstieg am Vormittag.

Ehrgeizige Pläne

Dongfeng („Ostwind“) wurde 1969 gegründet. Im vergangenen Jahr setzte das Unternehmen 3,53 Millionen Fahrzeuge ab. In China liegt der Marktanteil bei rund 16 Prozent.

Nach dem Einstieg bei PSA will Dongfeng seine Kooperation mit dem angeschlagenen französischer Hersteller ausbauen. Forschung und Entwicklung sollen erweitert und die Zusammenarbeit in dem gemeinsamen Joint Venture in China intensiviert werden. Beide wollen auch neue Exportmärkte ins Visier nehmen, so Dongfeng.

Beide Hersteller setzen sich als Ziel, bis 2020 jährlich insgesamt 1,5 Millionen Autos unter den Marken Dongfeng, Peugeot und Citroën zu produzieren. Sie wollen auch eine Exportfirma gründen, um Autos aus ihrem Joint Venture in China in der asiatisch-pazifischen Region und insbesondere in der südostasiatischen Asean-Region zu verkaufen.

viaNeuer Chef, neue Modelle, „New Peugeot“?: Chinesen bändigen französischen Löwen – n-tv.de.

Lobbyismus: Automobilverband bestimmte über umstrittenes Ökolabel mit

Soll das Bundeswirtschaftsministerium auf den neuen Brief antworten, der vom Verband der Automobilindustrie VDA gekommen ist? Nein, das sei \“nicht erforderlich\“, findet die Ministerialbeamtin. Denn es handle sich um einen Appell, \“dem wir versucht haben, weitgehend nachzukommen\“, notiert sie auf dem Schreiben der Autolobbyisten. Und überhaupt: Man sei mit den Interessenvertretern der Autoindustrie \“auf Arbeitsebene ständig in Kontakt\“.Diese und andere Briefwechsel zwischen VDA und Ministerien, die ZEIT ONLINE vorliegen, offenbaren ein bisher nicht gekanntes Ausmaß von Lobbyismus. Dabei geht es um den Entwurf für die Verordnung, die die Kennzeichnung des Energieverbrauchs von Neuwagen regeln soll. Auch in dem Brief, auf den die Beamtin nicht antworten will, nimmt der VDA Stellung dazu. Zu sagen, dass das Wirtschaftsministerium den Lobbyisten weitgehend entgegenkam, ist untertrieben. Der Automobilverband hat beim Entwurf sogar die Abstimmung zwischen den Ministerien übernommen.Eigentlich sollte das sogenannte Energielabel den Käufern von Autos zeigen, wie effizient das Fahrzeug beim Kraftstoffverbrauch und wie sparsam es beim Ausstoß von Kohlendioxid CO2 ist. Umweltverbände halten die inzwischen eingeführte, verpflichtende Einstufung der Pkw in Effizienzklassen jedoch für irreführend, da schwere Pkws bevorzugt werden.Angesichts der massiven Einflussnahme der Autoindustrie überrascht das nicht. Insbesondere zu Beginn des neuen Kennzeichnungssystems, schreibt die VDA-Geschäftsführung im April 2010 an drei Ministerien, \“sollte sichergestellt werden, dass alle Hersteller ihre Top-Produkte auch in den vordersten Rängen wiederfinden\“. Die Vorgaben für die beste Effizienzklasse sollten deshalb spürbar gesenkt werden.Autolobby vermittelt zwischen MinisterienManchmal wussten die Lobbyisten der Autobranche über die Pläne der Bundesregierung offenbar sogar besser Bescheid als die Beamten in den Ministerien selbst. Das geht aus den internen Brief- und Mailwechseln des Wirtschaftsministeriums hervor. So informierte ein VDA-Abteilungsleiter im April 2010 eine Ministerialrätin des Wirtschaftsministeriums darüber, dass das Bundesumweltministerium BMU einen Vorschlag des Wirtschaftsministeriums falsch verstehe. Man müsse dem Umweltministerium die Formeln nochmals erklären. \“Sonst rechnet das BMU falsch\“, mahnt der VDA-Vertreter.Er bringt zugleich einen weiteren Vorschlag ein, der für die Automobilindustrie besser wäre. \“Das BMU könnte sich vorstellen, so etwas zu prüfen. Bitte lassen Sie uns zwecks Interpretation direkt morgen früh nochmals telefonieren\“, beendet der VDA-Abteilungsleiter seine E-Mail. So selbstbewusst, so fordernd schreiben nur Lobbyisten, die sich ihrer Sache sicher sind.LobbyControl kritisiert die enge Zusammenarbeit zwischen VDA und den Ministerien. Die Antilobbyismus-Initiative ist gewohnt, dass Interessenvertreter ihre Standpunkte vertreten. Aber die nun bekannt werdende Korrespondenz überschreitet eine Grenze. \“Hier hat ein Lobbyverband nicht einfach nur seine Positionen übermittelt, sondern gleich noch die Ressortabstimmung übernommen. Das zeigt, welch hohen Stellenwert der VDA für die Bundesregierung hat\“, sagt Christina Deckwirth von LobbyControl.Der VDA handle offenbar als verlängerter Arm der Bundesregierung, sagt Deckwirth. \“Die Bundesregierung sollte sich hüten, einzelnen Lobbyverbänden solche Kompetenzen zuzuschreiben.\“ Doch anscheinend messe die Regierung der Autolobby sehr viel mehr Bedeutung bei als den weniger gut organisierten Verbraucher- und Umweltinteressen.

viaLobbyismus: Automobilverband bestimmte über umstrittenes Ökolabel mit | ZEIT ONLINE.

Die China-Autos kommen – Erstes Werk in der EU

Chinas Autobauer nehmen erneut Europa ins Visier. Diesmal meinen sie es ernst. In Bulgarien hat der Hersteller „Great Wall“ ein Werk in Betrieb genommen und geht mit Kampfpreisen in den Markt.

Die ersten Versuche vor ein paar Jahren waren wenig vielversprechend: Der Jiangling Landwind zerschellte mit Karacho im Crashtest, der Shuanghua CEO sah von hinten aus wie der Geländewagen X5 von BMW. Jetzt wagt erneut ein chinesischer Hersteller den Schritt auf den europäischen Markt: Im Norden Bulgariens, nahe der 40.000-Einwohner-Stadt Lowetsch, eröffnete Great Wall Große Mauer am Dienstag die erste chinesische Autofabrik auf europäischem Boden. 4000 Geländewagen sollen dort in diesem Jahr vom Band rollen.

Das Werk betreibt Great Wall zusammen mit der bulgarischen Firma Litex. Zunächst sollen 150 Angestellte in Lowetsch am Band stehen und aus China stammende Great-Wall-Autoteile zusammenschrauben. „Aber je nach Nachfrage können wir auch in zwei oder drei Schichten produzieren und 50.000 oder sogar 70.000 Autos pro Jahr herstellen“, sagt Litex-Marketingdirektor Iwo Dekow.

Pick-Up für 12.800 Euro

Bulgarien, das Armenhaus Europas, bietet niedrige Löhne und niedrige Steuern, die Arbeiter gelten aber als gut ausgebildet. Die ideale Startbasis für Great Wall. „Es ist für uns von strategischer Bedeutung, Zugang zum Markt der Europäischen Union zu bekommen“, sagte Firmenchefin Wang Feng Ying bei der Eröffnung in Begleitung des bulgarischen Regierungschefs Bojko Borissow. Great Wall wolle seine Autos zunächst in Bulgarien und dann in den Nachbarländern verkaufen.

Im Werk in Lowetsch werden seit November schon testweise Autos zusammengeschraubt: der Kleinwagen Voleex C10 und der Pick-Up Steed 5. Verkauft werden sie auch schon: für 16.000 bis 25.000 Lewa (8.200 bis 12.800 Euro). 200 Stück fanden in Bulgarien schon einen Käufer, sagt Dekow. „Das ist doch ein großer Erfolg!“ Das Interesse an der Marke, am Werk und an den Autos sei groß, die Reaktion der Kunden „durchweg positiv“.

Ganz Europa im Visier

Neben dem guten Preis bietet Litex auch eine Fünf-Jahres-Garantie. 17 Händler gibt es schon in Bulgarien, 20 sollen es bis Ende 2012 werden. Sie stellen dem Kunden sein Auto binnen 24 Stunden auf den Hof. Bis Ende des Jahres will das Unternehmen drei weitere Modelle anbieten, darunter einen Geländewagen. Great-Wall-Chefin Wang sagte, in drei bis fünf Jahren werde das Unternehmen eine ganze Modellpalette offerieren, und „unsere Autos werden wir in alle Ländern Europas verkaufen“.

Dieses Mal könnte es klappen: Great Wall ist nicht nur der größte Geländewagenhersteller in der Volksrepublik, das Unternehmen hat schon Werke in rund einem Dutzend Ländern, darunter in Russland, Indonesien, Ägypten und der Ukraine. Andere chinesische Hersteller expandieren ebenfalls, allerdings mit anderer Strategie.

Qualität deutlich besser

Die Firma Geely etwa hat 2010 den schwedischen Hersteller Volvo von Ford gekauft, Chery hat zusammen mit der italienischen DR Motor Ende vergangenen Jahres das Fiat-Werk im sizilianischen Termini Imerese übernommen. „So machen sie Fortschritte in Sachen Qualität“, sagt Auto-Experte Yann Lacroix von Euler Hermes. Und dabei sind sie seit dem Landwind-Crashtest im Jahre 2005 ein gutes Stück vorangekommen.

Das Institut Euro NCAP, zuständig für die Sicherheitstests und für die Vergabe des europäischen Standards, bescheinigt den chinesischen Herstellern eine „spektakuläre Entwicklung“. Das erste chinesische Auto hatte 2010 im Test zwei von fünf Sternen bekommen. Die nächsten beiden Modelle aus der Volksrepublik, getestet 2011, erreichten bereits vier Sterne.

viaDie China-Autos kommen – Erstes Werk in der EU – N24.de.