Topthemen

Staatliche Überwachung: Die KI braucht Grenzen

AI robot 05
© Phonlamai Photo/Shutterstock

Ja ja, schon wieder China. Schon wieder ist es das Reich der Mitte, das uns zeigt, wohin die Welt der modernen Technik führen kann - und zwar diesmal im negativen Sinne. Was die KI-gestützten Systeme in China anrichten können, zeigen zwei aktuelle Beispiele.

In vielen chinesischen Städten wird der Verkehr weitläufig mit Kameras überwacht, und die verfügen immer mehr auch über Gesichtserkennung. Das dort etablierte Social-Credit-System sorgt dafür, dass Regelverstöße in vielen Gebieten, nicht nur im Verkehr, automatisch erfasst und in der persönlichen Akte vermerkt werden. Besonders pikant: Auf Monitoren werden "Sünder" öffentlich bloß gestellt.

Dong Mingzhu, Präsidentin einer großen Klimaanlagen-Firma und laut Forbes im Vorjahr auf Platz eins der Top 100 chinesischen Geschäftsfrauen, dürfte nicht schlecht gestaunt haben, als Ihr Bild samt Namen und einem Teil der Ausweisnummer in einer Stadt südlich von Shanghai gezeight wurde. Der Vorwurf: Bei Rot über die Ampel gegangen. Dumm nur: Auf dem Bild ist zu sehen, dass Dong gar nicht selbst dort war, sondern ihr Konterfei auf einer Werbung an einem Bus zu sehen war, der gerade über den Zebrastreifen fuhr. Sie hatte also nichts getan, war nicht einmal dort, wurde aber bestraft - automatisch von der KI.

Die zuständige Verkehrspolizei räumte später auf Weibo den Fehler ein und löschte den Gesetzesübertritt von Dong aus dem System. Zudem habe man ein Upgrade gemacht, damit so etwas zukünftig nicht mehr vorkommt.

Das zweite Beispiel ist noch viel krasser und betrifft tatsächlich Millionen Menschen. Die chinesische Regierung hat nämlich auf Basis des immer weiter automatisierten Social-Credit-Systems unzählige Menschen auf eine sogenannte Schwarze Liste gesetzt. Wer da drauf gelandet ist, darf keine Flüge und Züge buchen. Die Begründung: Bei den Millionen Menschen handele es sich um "nicht vertrauenswürdige" Individuen, denen man es schwer machen wolle, sich frei zu bewegen. Harter Tobak, zumal es nicht unwahrscheinlich ist, dass vielleicht auch Menschen wegen Fehlern im System auf der Liste gelandet sind, die sich nichts vorzuwerfen haben.

Ohne Grenzen wird es ungemütlich

Beide Ereignisse zeigen, dass wir als Gesellschaft höllisch aufpassen müssen, wenn wir eine so mächtige Technologie wie die Künstliche Intelligenz entwickeln. Ohne sinnvolle Regulierung und Grenzen, sowohl bei den Kompetenzen als auch den Einsatzgebieten, kann die Sache schnell aus dem Ruder laufen. Es bringt nichts, den Kopf in den Sand zu stecken und darauf zu hoffen, dass sich das schon irgendwie ergeben wird - vor allem in unserer globalisierten Welt, wo keine Entwicklung so einfach auf nur ein Land zu begrenzen ist. Umso wichtiger, dass sich Deutschland und Europa stark in der KI-Forschung, aber auch in der Regulierung einbringen.

Wie stellt Ihr Euch die Zukunft bei uns in Deutschland vor, wenn unsere Umwelt weiter digitalisiert wird?

Samsung: Aktuelles Galaxy-A- und Galaxy-S-Line-up im Vergleich

  Samsungs Flaggschiff 2023 Plus-Modell 2023 Basis-Modell 2023 Fan Edition 2023 Fan Edition 2021 Mittelklasse Günstige Mittelklasse Einsteigerklasse
Produkt
Bild Samsung Galaxy S23 Ultra Product Image Samsung Galaxy S23+ Product Image Samsung Galaxy S23 Product Image Samsung Galaxy S23 FE Product Image Samsung Galaxy S21 FE Product Image Samsung Galaxy A54 Product Image Samsung Galaxy A34 Product Image Samsung Galaxy A14 5G Product Image
Bewertung
Zum Test: Samsung Galaxy S23 Ultra
Zum Test: Samsung Galaxy S23+
Zum Test: Samsung Galaxy S23
Noch nicht getestet
Zum Hands-on: Samsung Galaxy S23 FE
Zum Test: Samsung Galaxy S21 FE
Zum Test: Samsung Galaxy A54
Zum Test: Samsung Galaxy A34
Zum Test: Samsung Galaxy A14 5G
Preis (UVP)
  • ab 1.399 €
  • ab 1.199 €
  • ab 949 €
  • noch nicht bekannt
  • ab 759 €
  • ab 489 €
  • ab 389 €
  • ab 199 €
Preisvergleich
 
Zu den Kommentaren (21)
Steffen Herget

Steffen Herget
Senior Editor

Steffen ist seit 2009 in der bunten Welt des Technik-Journalismus aktiv und seit März 2017 bei Android PIT. Android hat eine Weile gebraucht, um sich gegen iOS und vor allem Windows Phone durchzusetzen, gegen die Flexibilität und Vielseitigkeit des Google-Systems ist am Ende aber kein Kraut gewachsen. Gute Displays und Kameras und ordentliche Akkus sind für ihn wichtiger als das letzte Bisschen mehr Taktfrequenz.

Zeige alle Artikel
Hat Dir der Artikel gefallen? Jetzt teilen!
Empfohlene Artikel
Neueste Artikel
Push-Benachrichtigungen Nächster Artikel
21 Kommentare
Neuen Kommentar schreiben:
Alle Änderungen werden gespeichert. Änderungen werden nicht gespeichert!
Neuen Kommentar schreiben:
Alle Änderungen werden gespeichert. Änderungen werden nicht gespeichert!

  • 34
    Gelöschter Account 26.11.2018 Link zum Kommentar

    Die KI ist genau so schlau wie die Menschen.

    Je mehr Möglichkeiten desto dümmer.

    Oh ich bin bei rot über die Ampel gelaufen.
    Die KI hat's bemerkt.
    Jetzt lässt sie mir in meinem smart home kein heißes Bad mehr ein und den Kaffee muss ich mir jetzt auch wieder selbst machen.

    Ach, und seit ich die KI anpöbelte läuft RTL nur noch in s/w.
    😂.
    Der Mensch sagt der KI was diese zu tun und zu lassen hat. Wundert sich aber was dabei raus kommt.

    Wie wäre es mal mit Reflektion, denken in Ketten und Umkeherschlüssen.

    Gelöschter Account


  • 90
    Gelöschter Account 25.11.2018 Link zum Kommentar

    Auch die kommerzielle KI braucht Grenzen.

    Gelöschter Account


  • 77
    Gelöschter Account 25.11.2018 Link zum Kommentar

    „...die KI braucht Grenzen.“

    Also müsste man die KI mal übers Knie legen und den Hintern versohlen.Aber das darf man heut nicht mehr. Ja dann bedarf es mal ein paar Takte harte Worte zur KI.... böse böse KI🤨☝️🤖💦


  • 19
    Gelöschter Account 25.11.2018 Link zum Kommentar

    An einem sog. Zebrastreifen (= Fußgängerüberweg) gibt es keine Ampel (= Lichtzeichenanlage). Man kann dort gar nicht bei "Rot" gehen. Also entweder, die Geschichte mit der Fr. Dong ist frei erfunden, oder der Autor hat hier wieder einiges verwurstelt (aus welchen Gründen auch immer 🤔🤭 ...).

    Katy B.


    • 11
      Marc D. 26.11.2018 Link zum Kommentar

      Nun, es gibt aus Länder, die Zebrastreifen mit Ampeln haben - z. B. Österreich oder Schweiz. Somit ist das in China zumindest mal vorstellbar. ;-)


  • 75
    Gelöschter Account 25.11.2018 Link zum Kommentar

    Die Menschen haben in den letzten 100 Jahren einiges erfunden was uns Fluch und Segen zugleich ist. Ob das jetzt Atomkraft, Waffen oder sämtliche Fahrzeuge sind, es gibt zu all diesen nützlichen Dingen eine unmenge an Todesopfer.
    Die KI sehe ich noch lange nicht soweit das sie uns überhaupt wirklich umfangreich nützlich sein kann, geschweige denn gefährlich. Außer man setzt sie einfach unausgereift ein, was aber hoffentlich nicht passiert. Das Beispiel mit dem tödlichen Unfall eines selbstfahrenden Autos, das ja auch KI gesteuert war zeigt wie weit es hier noch fehlt. Auf der anderen Seite ist es schon bedenklich wenn unsere europäische Regierung es nicht mal schafft das Problem Sommer/Winterzeit zu lösen, und was passiert wohl mit so einer Mammut Aufgabe wie die Regelung was die Nutzung der KI betrifft?

    Gelöschter AccountTenten


    • Tim 121
      Tim 25.11.2018 Link zum Kommentar

      "was aber hoffentlich nicht passiert."
      Der Artikel sagt: Zu spät ^^ KIs sind längst nicht ausgereift und trotzdem verlässt man sich schon so sehr darauf, dass man die von der KI ausgewählten Personen direkt öffentlich an den Pranger stellt...

      Gelöschter Account


      • Ruslan Jo May 44
        Ruslan Jo May 25.11.2018 Link zum Kommentar

        KI ist so so schlau, es gibt mehr Probleme als ja wirklich Hilfe.

        Gelöschter Account


  • 77
    Gelöschter Account 25.11.2018 Link zum Kommentar

    In China🤭💦 ist gerade ein Sack Reis umgefallen und die KI 🤖💦 hat es nicht gemerkt.

    Ruslan Jo MayGelöschter AccountTentenGelöschter Account


    • 75
      Gelöschter Account 25.11.2018 Link zum Kommentar

      Die KI ist vielleicht sogar schuld das der Sack Reis umgefallen ist. 🙄

      Gelöschter AccountGelöschter Account


      • 77
        Gelöschter Account 25.11.2018 Link zum Kommentar

        Das zum Thema wie schlau KI ist🤖💭

        Ruslan Jo May


      • Ruslan Jo May 44
        Ruslan Jo May 25.11.2018 Link zum Kommentar

        Momentan ist KI gar nicht so schlau, wie viele Nutzen es sich wünschen. In Zukunft wird es bestimmt besser, aber heutzutage ist es eher Marketing.

        Gelöschter Account


      • 77
        Gelöschter Account 26.11.2018 Link zum Kommentar

        Marketing Gag oder Running Gag.

        Ruslan Jo May


    • 103
      Tenten 25.11.2018 Link zum Kommentar

      Oder die KI hält es für ein Erdbeben und schaltet vorsorglich Strom, Gas und Wasser ab, setzt landesweit sämtliche Rettungskräfte in Alarmbereitschaft und sperrt Flughäfen und Bahnhöfe.

      Gelöschter Account


  • 54
    Gelöschter Account 24.11.2018 Link zum Kommentar

    Das Problem ist ja nicht die sogenannte "KI", sondern die sogenannten Menschen, die diese Dinger programmieren und auf die Menschheit loslassen. Sowas wie in China darf es einfach gar nicht geben. Ich bin auch gegen Überwachung des öffentlichen Straßenverkehrs .... zur kurzzeitigen Verkehrskontrolle mag das Sinn machen, auch an gefährlichen Stellen, aber halt nicht generell und aus reinem "Bestrafzweck"

    Fabien RöhlingerTentenGelöschter AccountGelöschter Accountomi uhr


  • Murasame 4
    Murasame 24.11.2018 Link zum Kommentar

    *falsche Seite*


    • Fabien Röhlinger 72
      Fabien Röhlinger
      • Admin
      • Staff
      25.11.2018 Link zum Kommentar

      Falsche Seite?


    • Ruslan Jo May 44
      Ruslan Jo May 25.11.2018 Link zum Kommentar

      Warum?


  • 103
    Tenten 24.11.2018 Link zum Kommentar

    Die beiden Beispiele oben zeigen recht gut, wie dumm eine "ich habe ja nichts zu verbergen" Einstellung ist. Denn man muss gar nichts zu verbergen haben, um ins Fadenkreuz zu gelangen. Man muss sich also überlegen, wie man mit dieser neuen Technologie umgeht, bei der Algorithmen entscheiden und nicht mehr Menschen. Und diese Technologie wird kommen, daran besteht kein Zweifel, das ist nicht mehr aufzuhalten. Jetzt wäre noch Zeit, Regeln aufzustellen, was eine KI tun darf, können darf, entscheiden darf. Und vor allem, wie man diese Entscheidungen überprüfen kann. Denn wenn wir das nicht tun, wird irgendwann niemand mehr für irgendetwas verantwortlich sein, denn niemand kann die Entscheidungen der KI noch nachvollziehen. Dass eine KI ein Bild auf einem LKW falsch interpretiert hat lässt sich noch recht einfach belegen. Aber warum eine KI jemand als gefährlich, nicht kreditwürdig, terroristisch veranlagt, suizidgefährdet oder was auch immer einstufen wird, das wird man irgendwann nicht mehr widerlegen können. Und Gnade uns Gott, wenn wir uns dann zu sehr auf das Urteilsvermögen von komplexen Algorithmen verlassen müssen.

    SarahFabien RöhlingerGelöschter AccountGelöschter AccountTimJens Momi uhrGelöschter AccountcarlosH GC. F.Charlotte K.


    • 37
      San Blarnoi 25.11.2018 Link zum Kommentar

      > wie dumm eine "ich habe ja nichts zu verbergen" Einstellung ist.
      Amen!

      Selbst wenn man unterstellt, das die gesammelten Daten derzeit in vertrauenswürdigen Händen sind und nicht missbraucht werden - morgen haben wir eine andere Regierung und/oder andere Personen haben an relevanten Stellen Entscheidungsbefugnisse, die heute gesammelten Daten sind aber immer noch da, dann aber plötzlich in nicht mehr so vertrauenswürdigen Händen...

      Daten werden im großen Stil gesammelt (und dazu muss man nicht nach China gucken, das passiert auch in Europa allerorten), und aufgrund der bei anlassloser Überwachung anfallenden Datenmengen, werden die selbstverständlich von KI ausgewertet (auch von unqualifizierter, weil unausgereifter).

      Ob mehr Regeln für KI-Systeme da helfen würden, wage ich mal leise zu bezweifeln, die Geschichte zeigt ja regelmäßig, das Regeln immer nur für manche gelten, nicht für alle (siehe zB die BND-Skandale im Umfeld der Snowden-Enthüllungen); und Regeln können später, wenn die Daten schon gesammelt sind, auch schnell wieder geändert werden (siehe zB die gerade geplante Zusammenlegung von "Polizei-Datenbanken", die wurden seinerzeit mit dem vorliegenden Datenumfang auch mit der Argumentation geschaffen, das ja alles örtlich begrenzt sei und nicht weitergegeben wird)...


      • 103
        Tenten 25.11.2018 Link zum Kommentar

        Nein, was ich meine, ist, wir brauchen eine Regelung für Verantwortung für die Ergebnisse einer KI. Daten werden missbraucht, das ist nicht neu, das gab es immer schon. Und auch in Zukunft wird es Institutionen geben, die mit voller Absicht Daten für ihre ganz eigenen Zwecke zum Schaden anderer benutzen werden. Aber darum geht es mir gar nicht, das ist sowieso zu erwarten. Mit böser Absicht muss man immer rechnen. Mir geht es darum, dass auch ohne böse Absicht Menschen ins Visier genommen werden, weil man denkt, man täte das richtige. Das richtige, weil man sich auf die Ergebnisse der KI verlässt. Diese könnten falsch sein, aber es ist niemand mehr dafür verantwortlich, weil der hohe Grad der Komplexität und der Verknüpfung nicht mehr nachvollzogen werden kann. Aber ohne Verantwortung auch keine Haftung mehr und schon gar keine Gewähr, dass ethische oder moralische Prinzipien noch Gültigkeit haben werden.

Neuen Kommentar schreiben:
Alle Änderungen werden gespeichert. Änderungen werden nicht gespeichert!
VG Wort Zählerpixel