Wir reden hier nicht über ferne Zukunft, Freunde! Albaniens „Diella“ soll schon bald als KI-Ministerin Korruption im Beschaffungswesen bekämpfen. Deutschlands Kulturstaatsminister Weimer nutzt seinen „Weimatar“ bereits, um „schnell und mehrsprachig Stellung zu beziehen“. Verspürt beim Betrachten des folgenden Videos übrigens noch jemand außer mir ganz am Schluss Black-Mirror-Vibes?
Auch Estland arbeitet mit künstlicher Intelligenz und experimentiert mit KI-Richtern. Algorithmen entscheiden in diversen Ländern sowieso längst über Sozialhilfe, Steuerbescheide und Verwaltungsabläufe. Das ist kein Pilotprojekt mehr – das ist gelinde gesagt nicht weniger als der Anfang einer Revolution. Und während wir noch überlegen, ob wir darauf Bock haben, schaffen andere längst Fakten.
Die Baustellen sind riesig – und niemand hat einen Plan
Also ja, es gibt viele Baustellen, um die wir uns zu kümmern haben, bevor wir KI flächendeckend in die Politik lassen. Aber das Gute daran ist, dass wir wirklich noch ganz am Anfang dieser Entwicklung stehen. Folgende vier Baustellen habe ich ausmachen können, bei denen noch viel Arbeit ansteht:
- Was ist mit Transparenz? Bislang Fehlanzeige. Wer verstehen will, wie KI-Entscheidungen zustande kommen, stößt schnell an Grenzen. Selbst Expert:innen können oft nicht erklären, warum ein Algorithmus diese und nicht jene Entscheidung trifft. Wie soll das Volk dann beurteilen, ob es fair behandelt wurde?
- Wer trägt eigentlich die Verantwortung? Auch noch unklar. Wenn die Maschine entscheidet – wer übernimmt die Schuld, wenn es schiefgeht? Der Programmierer? Der Minister bzw. die Ministerin? Das Parlament? Diese Frage ist ungeklärt, aber die KI entscheidet trotzdem schon mit.
- Ist KI überhaupt legitimiert und wenn ja, von wem? Definitiv problematisch. Demokratie lebt vom Wählen – aber eine KI wird nie gewählt. Die Opposition in Albanien bringt es auf den Punkt: „Ein Minister muss ein Mensch sein“. Aber was, wenn die KI objektiv bessere Entscheidungen trifft als gewählte Menschen?
- Und wie ist es um die Akzeptanz bestellt? Aktuell nicht gut, tippe ich mal. Sind wir bereit, Macht an eine Maschine zu delegieren? Für viele ältere, weniger tech-affine Bürger muss eine politische Entscheidung durch eine KI doch im Grunde genauso beliebig wirken wie eine gezogene Zahl bei der Lottoziehung.
Wenn Ihr mich fragt, sind das alles keine theoretischen Probleme – das sind exakt die Baustellen, für die wir (noch) keine Regeln haben, sie aber so dringend bräuchten.
Die unbequemen Fragen, die wir uns stellen müssen
Würdet Ihr wollen, dass der klügste Mensch der Welt in die Politik geht? Weil er vielleicht ganz andere Lösungen erdenken kann, Probleme viel besser und schneller versteht? Dann stellt Euch jetzt noch die Frage, ob Ihr das klügste Wesen der Welt auch dann in der Politik sehen wollt, wenn es sich dabei NICHT um einen Menschen handelt.
Ihr wollt lieber einem Menschen den Job anvertrauen als einer Maschine? Dann müssen wir hinterfragen, wieso dem so ist. Weil er mehr Empathie hat? Weil er menschlich ist? Ja, ein Mensch kann besser eine menschliche Entscheidung treffen. Aber ein Mensch kann Euch auch besser als eine Maschine vorgaukeln, dass er es gut mit dem Wahlvolk meint und tatsächlich glaubt, was er sagt.
Schauen wir doch ehrlich hin, was Politiker:innen aus Fleisch und Blut so treiben: Trump verbreitet systematisch Lügen und arbeitet an einer Autokratie, Orban höhlt in Ungarn die Demokratie aus, unsere Koalitionen in Europa scheitern an Eitelkeiten und beugen sich zusehends dem Rechtsruck. Könnte eine KI es wirklich schlechter machen? Oder ist unser Widerstand gegen Maschinen-Politik nur nostalgische Romantik?
Werden sich Politiker:innen selbst abschaffen?
Werden Politiker proaktiv zustimmen oder eher verhindern, dass KIs Einfluss in der Politik gewinnen? Immerhin könnten sie sich dadurch schlimmstenfalls selbst obsolet machen. Das ist eine zentrale Frage, denn die Entscheidung über KI in der Politik liegt – paradoxerweise – nun mal bei eben jenen Menschen, die davon betroffen wären.
Aber vielleicht stellen wir die falsche Frage. Vielleicht geht es gar nicht darum, Politiker:innen zu ersetzen, sondern ihre Rolle zu verändern. Wenn eine KI die objektiv beste Politik vorschlägt, werden Politiker:innen zu dem, was sie schon lange sein sollten: Vermittler, Erklärer, Vertrauen stiftende Persönlichkeiten. Das wäre dann vielleicht das Ende der Berufspolitik, wie wir sie kennen – und der Beginn einer Politik der Persönlichkeiten anstelle von Parteipolitik.
Das Leapfrogging-Problem: Sind andere vielleicht schneller als wir?
Können Länder wie Albanien uns vielleicht sogar abhängen, weil sie einen Schritt auslassen oder deutlich schneller gehen als „wir“? Das Beispiel kennen wir: In Afrika verbreiteten sich Smartphones rasend schnell, weil es kaum die Infrastruktur für Festnetz-Telefone gab. Ebenso hatten nicht so viele Menschen Desktop-PCs für die Internetnutzung oder ein ganz normales Bankkonto, da auch keine Banken-Infrastruktur vorhanden war. Mit dem Smartphone übersprang man all das einfach. Plötzlich waren fast alle Afrikaner online und bezahlten mobil ihre Rechnungen.
Afrikanische Länder haben oftmals also nicht nur sprunghaft aufgeholt, sondern westliche Nationen teils sogar hinter sich gelassen. Ähnlich könnte es uns jetzt beim Thema KI ergehen. Während Deutschland noch über Datenschutz-Grundverordnungen für KI diskutiert, experimentiert Albanien bereits mit KI-Ministern. Während wir ethische Bedenken wälzen, sammeln andere praktische Erfahrungen. Am Ende stehen wir da wie die Musikindustrie, die das Internet verschlafen hat.
„Leapfrogging“ an sich ist eigentlich gar kein Problem, sondern ein positiver Effekt. Die Gründe, wieso plötzlich diese Länder an uns vorbeischießen können, liegen vielmehr bei uns und unseren schwerfälligen Systemen.
Die Wahrheit, die niemand aussprechen will
Habt Ihr kurz vor Ende des Artikels noch spontan Bock auf eine unbequeme Realität? Nämlich folgende: Während wir uns über KI-Minister empören, übersehen wir, dass wir bereits längst von Algorithmen regiert werden. Facebook bestimmt, was wir sehen. Google, was wir wissen. Amazon, was wir kaufen. TikTok, worüber wir diskutieren.
Der einzige Unterschied: Diese Algorithmen sind nicht demokratisch legitimiert. Albaniens KI-Minister wäre immerhin noch dem Parlament verantwortlich – mehr, als man von Zuckerberg oder Musk sagen kann. Wir leben bereits in einer Algokratie. Wir haben nur nie darüber abgestimmt. Mark Zuckerbergs Kasse klingelt, wenn viel Interaktion herrscht und es herrscht viel Interaktion, wenn sich über ein Thema aufgeregt, erbost, echauffiert wird.
Also sorgen Algorithmen dafür, dass diese Themen sichtbarer sind, was wieder mehr Content zum Thema erzeugt und wieder mehr Stimmung zugunsten der vermeintlich einfachen Lösungen entfacht. Wir Medien greifen es entsprechen auf, weil auch wir – so ehrlich müssen wir uns machen – Klick- und Algorithmus-getrieben sind. Wer will da allen Ernstes behaupten zu wissen, dass eine politische Entscheidung einer KI es nicht besser hinbekäme?
Gerade jetzt entscheidet sich alles – mit oder ohne uns
Ich hoffe, Ihr habt hier keinen präzisen Fahrplan erwartet, wie sich KI wann an welchen Stellen in der Politik wiederfindet. Wir sind noch ganz am Anfang bei diesem Thema. Betrachtet diesen Text also eher als mein lautes Nachdenken – mit der ausdrücklichen Einladung an Euch, mitzudenken.
Es wäre naiv zu glauben, wir könnten KI aus der Politik raushalten. Dazu ist es heute bereits zu spät. Aber es wäre gefährlich, sie einfach so reinzulassen. Wir brauchen rote Linien, klare Verantwortlichkeiten, Transparenzpflichten – und das sofort, bevor Experimente wie in Albanien Schule machen.
Die Weichen werden jetzt gestellt. In Ministerien, Verwaltungen, Tech-Konzernen. Die Entscheidung darüber, wie viel Macht Algorithmen über unser Leben haben sollen, fällt in den kommenden Jahren. Und sie wird entweder mit uns getroffen – oder ohne uns.
Die Debatte darf nicht in den Hinterzimmern der Tech-Konzerne oder Parlamente verstauben. Sie gehört in die breite Öffentlichkeit. Sie gehört in Schulen, Unternehmen, Familien. Denn am Ende geht es um die Frage, die unsere Demokratie prägen wird: Wollen wir, dass Maschinen für uns entscheiden – und wenn ja, unter welchen Bedingungen?
Sonst wachen wir in zehn Jahren auf und stellen fest: Die wichtigste Weichenstellung unserer Demokratie haben andere getroffen – und wir haben zugeschaut. Dann ist es zu spät für Debatten. Dann leben wir in der Welt, die andere für uns programmiert haben. Jetzt ist die Zeit, zu handeln. Die Zeit zu diskutieren ist jetzt. Die Zeit zu entscheiden ist jetzt. Morgen könnte es bereits zu spät sein.
Bei vielen Entscheidungen der Politik hat man das Gefühl, dass sie nicht auf Fakten basierend getroffen werden, sondern aufgrund von Verbindlichkeiten, sei es Lobbygruppen gegenüber oder gegenüber Wahlversprechen. Oder weil man der eigenen Karriere nicht schaden und seine Wähler verprellen will. Hier fände ich den Einsatz von KI als Entscheidungshilfe durchaus wünschenswert.
Es muss ja nicht gleich so gehandhabt werden, dass die KI entscheidet, es würde ja für den Versuch schon genügen, der KI bei der finalen Abstimmung ebenfalls eine Stimme zu geben, die berücksichtigt werden muss. Aber Politiker neigen nunmal zu markigen, einfachen Lösungen und da muss es natürlich gleich ein Ministerposten für eine KI sein, statt einfach nur eine Beratertätigkeit. Für die Korruption in Albanien mag das vielleicht sogar die richtige Lösung sein, für Deutschland halte ich es aber für wichtiger, KI in Entscheidungen erstmal nur einzubinden, diese ihr aber nicht gleich komplett zu überlassen. Nicht, weil ich der KI nicht ausreichend traue, sondern weil ich denke, dass dieser Ansatz mehr Akzeptanz finden würde.
In einer der letzten c’t gab es einen Artikel über den Einsatz von KI in der Verwaltung. Erwähnt wurde auch, dass einige Kommunen bereits KI einsetzen, um über Wohngeldanträge zu entscheiden und das eine erhebliche Entlastung für die Mitarbeiter wäre. Das letzte Wort hätte aber überall noch ein Mensch.
Ob mein Steuerprogramm KI enthält weiß ich nicht, aber die Rückzahlungen der letzten Jahre entsprachen auf den Cent der Summe, die auch die Behörde errechnet hat. Gab es doch mal Abweichungen, waren die im Steuerbescheid erklärt. Wäre die Erklärung nicht nachvollziehbar gäbe es noch den Widerspruch und als letzte Möglichkeit den Rechtsweg. Hätte eine KI die Steuererklärungen bearbeitet müsste das kein bisschen anders sein. Transparenz wäre also gegeben auch wenn eine KI die Steuererklärungen bearbeiten würde und falls es doch zu unerklärbaren Abweichungen käme, könnte man die Widersprüche ja auch menschliche Mitarbeiter bearbeiten lassen.
Aber auch was die vier Baustellen betrifft, möchte ich widersprechen:
1.) Es stimmt, das die Entscheidungen einer KI nicht immer nachvollziehbar sind, auch wenn daran gearbeitet wird, das zu ändern. Aber fragt man sie, wieso sie eine bestimmte Entscheidung getroffen hat liefert sie eine mehr oder weniger nachvollziehbare Begründung. Das ist bei einem Menschen nicht anders. Aber da KIs gelegentlich auch halluzinieren oder völligen Blödsinn verzapfen muss man sie ja auch in wichtigen Positionen wie Ministerämtern nicht das letzte Wort haben lassen. Ein Mensch könnte sie aber zur Beratung einsetzen, müsste aber ggf. begründen wieso er die Entscheidung der KI verwirft.
2.) Wer trägt denn die Verantwortung wenn ein menschlicher Minister milliardenschwere Fehlentscheidungen trifft?
Der Minister tritt vielleicht noch zurück oder wird seines Amtes enthoben (wenn überhaupt). Die Kosten aber bleiben beim Steuerzahler hängen. Das oben angedeutete Beratungsmodell könnte zumindest die Wahrscheinlichkeit von Fehlentscheidungen senken. Die formelle Verantwortung bliebe beim Minister bzw. beim Parlament, das ja seine Entscheidung, wie immer sie zustande gekommen ist, noch absegnen muss. Manchmal kommen weitere Institutionen wie der Bundesrat oder Gerichte dazu.
3.) In Deutschland und in keiner Demokratie die ich kenne stimmt der Wähler über die Minister ab. Eine Partei schlägt ihre Kandidaten vor und der Wähler kann diesen Vorschlag annehmen oder nicht, aber er kann ihn nicht ändern. Und komnt es zur Koalitionsbildung sind bestimmte Minister noch nicht mal von der gewählten Patei. Schlägt also eine Partei eine KI als Minister vor, dann wäre die so demokratisch legitimiert oder nicht legitimiert wie jeder menschliche Minister auch.
4.) Wie die letzten Wahlergebnisse zeigen, scheint auch die Akzeptanz menschicher Politik nur begrenzt gegeben zu sein. Ob KI-Politiker nicht bessere, breiter akzeptierte Entscheidungen treffen würden, weiß man doch gar nicht
und wie stark Menschen "gebiased" sein können zeigt schon der Satz mit den "vielen älteren nicht technikaffinen Menschen". Es gibt nicht technik-affine Menschen, was sie nicht weniger wertvoll macht, ob sie älter sind oder nicht spielt keine Rolle, das Wort ist einfach überflüssig. Und ob vor allem ältere Menschen nicht technik-affin sind ist auch nur ein Bauchgefühl. Dass viele Jüngere Smartphones benutzen, oft ohne ein echtes Bewusstsein dafür was sie eigentlich tun, macht sie für mich nicht technik-affiner als jemanden, der vielleicht darauf verzichtet, eben weil er nicht wirklich weiß was er macht, also z.B welche persönlichen Daten er preis gibt.
Letzlich sehe ich keinen Grund für Eile oder Befürchtungen "abgehängt" zu werden.
Afrikanische Länder sind nicht fortschrittlicher, weil man dort für Zahlungen – notgedrungen – das Smartphone nutzen muss.
Fortschritt besteht nicht darin, ein bestimmtes Mittel nutzen zu müssen, sondern es nutzen zu können, neben anderen Mitteln. Ich mache Bankgeschäfte lieber mit PC oder Tablet schon wegen des größeren Bildschirms, aber auch weil ich sicherheitskritische Programme nicht gerne unterwegs dabei habe. Ich fühle mich deshalb nicht rückständig. Aber selbst wenn jemand Papierformulare zur Überweisung bei seiner Bank abgibt oder dort in den Kasten wirft, sehe ihn deswegen nicht als rückständig an. Er kann gute Gründe dafür haben, die ich nicht kenne und die mich nicht interessieren müssen. Vielleicht hat er keine Lust die IBAN einzugeben und hat das Papierformular schon vorausgefüllt.
Wäre es nicht ein extremes Vorurteil jemanden deshalb als rückständig anzusehen?
Sehen wir uns doch das albanische Experiment in Ruhe an, und ziehen dann unsere Schlüsse für eigenes Handeln oder Nichthandeln. Die Welt wird nicht untergehen wenn wir KI bei Zweifeln in manchen Anwendungen erst später einsetzen und wir werden auch deshalb nicht abgehängt. Wir können aber Fehler vermeiden und Erfolge nachahmen, wenn wir von anderen lernen.
Die Aussage, dass viele ältere, weniger technikaffine Bürger politische Entscheidungen durch KI als ebenso beliebig empfinden könnten wie eine Lottozahl, halte ich nicht für zwingend richtig. Auch ist es keineswegs sicher, dass der Mensch nicht die letzte Entscheidungsinstanz bleibt ("eine politische Entscheidung durch eine KI") – diese Vorstellung scheint mir etwas zu fantasievoll.
Gleichzeitig sollte man nicht automatisch davon ausgehen, dass jüngere Menschen allein durch ihre Nutzung von TikTok, Instagram oder WhatsApp technikaffin sind. Die Bedienung einiger Apps bedeutet nicht automatisch, dass jemand komplexere digitale Werkzeuge wie Excel – oder KI – sicher und sinnvoll nutzen kann.
Ich kenne persönlich eine 84-jährige Nachbarin, die zwar nicht als technikaffin gilt, aber (nur) beruflich viele Jahre lang mit Computern gearbeitet hat. Nachdem ich ihr kürzlich einen neuen PC (bisher nur für Online-Banking und Steuererklärung genutzt) eingerichtet und ihr KI kurz vorgestellt habe, nutzt sie diese nun regelmäßig begeistert. Das zeigt mir, dass Akzeptanz gegenüber KI vor allem durch Erfahrung entsteht, unabhängig vom Alter oder technischen Hintergrund.
Deshalb sollten wir ältere Menschen nicht pauschal als technikfern abstempeln – das fördert nur Polarisierung und Stereotyp. Technikaffinität ist individuell und hängt von vielen Faktoren ab.
Zum Thema KI und Politik möchte ich ergänzen, dass politische Systeme in den USA und anderen Ländern schon lange Computer und komplexe Programme zur Lagebewertung einsetzen – dies gibt es schon seit den 1960er Jahren. Seit einigen Jahren werden KI-Methoden mit Big Data und maschinellem Lernen genutzt, beispielsweise im Pentagon zur Analyse von Drohnendaten. Dabei bleiben Menschen die letzte Entscheidungsinstanz.
Interessant ist auch, dass gerade ältere Menschen eine höhere Akzeptanz gegenüber KI zeigen als jüngere – ein Aspekt, der im Artikel nicht berücksichtigt wird.
(z.B.: brookings.edu/articles/brookings-survey-finds-divided-views-on-artificial-intelligence-for-warfare-but-support-rises-if-adversaries-are-developing-it/ )
Misstrauen herrscht gegenüber AWS (Autonome Waffensysteme) – obwohl die US-Regierung zu einem verantwortungsvollen militärischen KI-Einsatz verpflichtet ist (menschliche Aufsicht, ethische Prinzipien, Rechenschaftspflicht und Transparenz, Erklärbarkeit der Ergebnisse, usw. (sind die Amis – mal wieder – viel weiter als wir?)). So ist die DoD Directive 3000.09 das erste formale Regelwerk eines Staates zur KI-Waffenentwicklung und etablierte den Grundsatz, dass letale, autonome Waffensysteme ("off the loop" – ohne menschliches Eingreifen) in den USA strengstens reguliert sind und nur in Ausnahmefällen (wie aktive Abwehr) überhaupt in Betracht gezogen werden.
Insgesamt hat der Artikel einige vereinfachte und stereotype Vorstellungen und legt den Fokus stark auf Risiken, während Chancen und differenzierte Sichtweisen zu kurz kommen.