Im Rahmen unserer Websites setzen wir Cookies ein. Informationen zu den Cookies und wie Ihr der Verwendung von Cookies jederzeit widersprechen bzw. deren Nutzung beenden könnt, findet Ihr in unserer Datenschutzerklärung.

Kommentar 7 Min Lesezeit 9 Kommentare

Die dunkle Seite der Künstlichen Intelligenz: China geht den falschen Weg

In der heutigen technologischen und wirtschaftlichen Welt ist es schwer, über etwas zu sprechen, ohne einen Blick auf China zu werfen. Das Land ist in den letzten Jahren immer weiter aufgestiegen und setzt den Rest der Welt unter Druck. Das gilt vor allem für die Entwicklungen im Bereich der Künstlichen Intelligenz. Hinzu kommen beunruhigende Geschichten über die chinesische Regierung, die Technologie einsetzt, um ihre Bürger zu unterdrücken. Jenseits der Sensations-Geilheit kann die dunkle Seite der Geschichte jedoch näher sein, als man denkt.

Laut Kai-Fu Lee, dem weltbekannten KI-Experten und ehemaligen Präsidenten von Google China, stehen die Vereinigten Staaten kurz davor, von China in der KI-Entwicklung überholt zu werden. Im Gespräch mit TechCrunch erläuterte der hochkarätige Investor, wie sich das Kräfteverhältnis durch die Übernahme der ursprünglich in den USA entwickelten Technologie und die Nutzung der riesigen Datenbestände Chinas veränderte:

"China, als größter Marktplatz mit der größten Datenmenge, nutzt die KI, um jede Möglichkeit zu finden, um einen Mehrwert für traditionelle Unternehmen, das Internet und alle Bereiche zu schaffen. Das chinesische Unternehmer-Ökosystem ist riesig, so dass heute die wertvollsten KI-Unternehmen in den Bereichen Computer Vision, Spracherkennung und Drohnen alle chinesischen Unternehmen sind."

Es ist schwer, an Dinge wie Gesichtserkennung und Drohnen in China zu denken, ohne sich auch an die jüngsten Horrorgeschichten über die Unterdrückung von Dissidenten und Minderheiten im Land zu erinnern. Unterdrückung, die durch die Technologie umso effizienter wird.

AI und der Polizeistaat

Die Überwachung mit Gesichtserkennung und KI wird in China verstärkt und kann sich einiger Erfolge rühmen, wenn es darum geht, Kriminelle zu festzunehmen. Genutzt wird dazu etwa eine Sonnenbrille mit Gesichtserkennung, die die Polizei beim Scannen von Reisenden und Nummernschildern an Bahnhöfen und stark frequentierten Kontrollpunkten trägt. Ursprünglich auf ein Testgebiet in der Zhengzhou East Railway in der Provinz Henan beschränkt, werden sie auch in Peking und anderen Gebieten immer stärker eingesetzt.

policeglasses
In Luoyang trägt die Polizei KI-unterstützte Brillen. / © Reuters

Natürlich sind neben der Brille auch altmodische Kameras immer noch beliebt. China verfügt bereits über geschätzte 200 Millionen Überwachungskameras - viermal so viele wie die Vereinigten Staaten. In einigen Städten zeigen Billboard-Displays die Gesichter von unachtsamen Fußgängern und listen die Namen von Schuldnern auf, um sie zu beschämen. 

Obwohl die Datenbanken und Überwachungssysteme derzeit noch auf bestimmte Bereiche beschränkt sind, arbeitet China an einem nationalen Gesichtserkennungssystem, das darauf abzielt, jeden seiner 1,3 Milliarden Bürger innerhalb von drei Sekunden identifizieren zu können. 

Das sind viele Daten, die gesammelt werden müssen, aber Gesichtserkennungssysteme können jetzt schon dazu genutzt werden, Zugang zu Universitäten, Büros und Wohnanlagen zu gewähren, Zahlungen zu autorisieren und natürlich Smartphones freizuschalten. Das heißt aber nicht, dass die Menschen diese Technologie nicht zu schätzen wissen oder dass sie zu keiner Verbesserung des Komforts und der Lebensqualität führt. Das tut sie durchaus. Das Problem ist, dass, wenn alle personenbezogenen Daten über die Bürger von den Behörden auf diese Weise erfasst und verfolgt werden, dies auch die Entwicklung eines Hightech-Polizeistaates fördert.

So soll beispielsweise in der Grenzregion Xinjiang ein Gesichtserkennungssystem, das die Behörden alarmiert, wenn Zielpersonen sich mehr als 300 Meter von ihrem Zuhause oder Arbeitsplatz entfernen, eine Schlüsselrolle beim Zusammentreiben von uigurischen Muslimen, einer chinesischen Minderheit, in Lager spielen. China hat eine unmenschliche Behandlung von politischen Dissidenten und religiösen Minderheitengruppen zu verzeichnen, und die Technologie erlaubt es nun, dies effektiver umzusetzen.

Ist sowas auch im Rest der Welt möglich?

Ihr könntet nun versucht sein, die Situation in China als etwas abzutun, das nur unter einem offen autoritären Regime wie der Kommunistischen Partei möglich ist. Aber das würde bedeuten, den unersättlichen Hunger der Geheimdienste dieser Welt nach Daten und die Geschichte ihrer heimlichen Sammlung naiv zu ignorieren. 

Bereits 2013 stellte der ehemalige CIA-Vertragspartner Edward Snowden ein geheimes Überwachungsprogramm der NSA vor, das persönliche Daten sammelte und die Aktivitäten von Dutzenden Millionen Menschen überwachte. Das Prism-Programm der NSA hat direkt auf die Server von neun Internetunternehmen, darunter Facebook, Google, Microsoft und Yahoo, zugegriffen, um die Online-Kommunikationen zu verfolgen.

Während Chinas Grad der Überwachung wie eine Horrorgeschichte aus einem fernen Land erscheinen mag, vergesst nicht, dass wenn solche Behörden auf entsprechende Krisen hinweisen, selbst angeblich freiheitsliebende Nationen bereit sind, ein Stück der Freiheit für die Sicherheit zu opfern. Der Patriot Act der USA wurde in der Atmosphäre der Unsicherheit nach dem Terroranschlag vom 11. September 2001 verabschiedet, und obwohl die staatliche Überwachung offiziell in einigen Funktionen zurückgefahren wurde, braucht es nur einen weiteren Moment der Angst, um eine weitere Möglichkeit für die staatlichen Autoritäten zur Erweiterung ihrer Befugnisse zu schaffen.

Chinas Überwachung mag durch die offizielle Ansprache und die angebliche soziale Verantwortung verschleiert sein, aber sie wird offen ausgeübt. Und es geht nicht nur um die Regierung. Wir vertrauen viele unserer personenbezogenen Daten kommerziellen Diensten wie Facebook, Twitter und Google an, aber wie sicher sind sie wirklich? Erst nach dem Cambridge-Analytica-Skandal von Facebook nimmt der öffentliche Diskurs die Frage ernst, wie die riesigen Datenmengen, die wir unbedacht an Technologieunternehmen weitergegeben haben, um auf ihre Dienste zuzugreifen, missbraucht werden können.

Sowohl für Privatunternehmen als auch für Regierungsbehörden sollten ethische Fragen aufgeworfen werden, denn beide werden immer miteinander verbunden sein, sei es im Kapitalismus, im Kommunismus oder in anderen Bereichen dazwischen. In der heutigen globalen Wirtschaft ist ein Technologieunternehmen, das auf einem riesigen Datenspeicher sitzt, nicht unbedingt an die Regierung einer Nation gebunden.

AndroidPIT google is evil 2
Googles Motto 'Don't be evil' hat die Firma schon lange aufgegeben. / © AndroidPIT

Google zum Beispiel entdeckte sein Gewissen, als es unter dem Druck der Mitarbeiter beschloss, Project Maven, sein militärisches Drohnenprogramm, das maschinelles Lernen für die Objekterkennung der Waffen nutzte, einzustellen. Andererseits arbeitet das gleiche Unternehmen auch an Project Dragonfly, einer zensierten Suchmaschine für China, die die Suche mit Telefonnummern verknüpft, um es einfacher zu machen, Personen zu finden, die nach gefährlichen Themen suchen.

Westliche Unternehmen arbeiten an Projekten, die, obwohl sie angeblich dazu dienen, uns genau die Hemden zu verkaufen, die wir mögen oder die uns für Dienstleistungen interessieren, die unserem Geschmack entsprechen, unter entsprechenden Voraussetzungen gegen uns verwendet werden können. Im Moment ist die Fähigkeit von Unternehmen und Regierungen, große Datenmengen zu sammeln, weitaus größer als der Schutz der einfachen Menschen, und das muss sich ändern.

AI kann viel bewegen, aber wir müssen unsere Rechte schützen

Ich will hier keine Horrorgeschichte erzählen und verlangen, dass die Welt umgekrempelt wird. Ich bin ein Technik-Enthusiast und glaube immer noch, dass die KI große Dinge für uns tun wird - nicht nur, um Konsumgüter bequemer zu machen, sondern auch als ein Werkzeug, das humanitäre oder wohltätige Bemühungen effizienter machen kann, so wie sie Unterdrückung effizienter machen kann. Projekte wie AI for Humanitarian Action, bei denen Microsoft mit den Vereinten Nationen zusammenarbeitet, um humanitären NGOs und Menschenrechtsgruppen zu helfen, sind lobenswert und zeigen ein anderes Potenzial für die Entwicklung von KI. Es geht darum, die Technologie so zu steuern, dass sie zum Wohle der Menschheit eingesetzt wird.

Der erste Schritt dazu wäre eine breitere Anerkennung der Rechte der Bürger an ihren personenbezogenen Daten und eine Garantie einer gewissen Kontrolle über die Daten, die wir an Technologieunternehmen weitergeben. Die DSGVO-Vorschriften der Europäischen Union sind ein erster wichtiger Schritt, der aber durchaus noch seine Schwächen hat. Andere Nationen, wie z.B. die USA, tun sich mit solchen Veränderungen leider immer wieder sehr schwer.

GDPR Option Android
Die neuen DSGVO-Richtlinien haben auch bei WhatsApp zum Beispiel Auswirkungen gezeigt. / © WABetainfo.com

Mit Social Media und Tech-Giganten, die vom US-Kongress aktuell wie nie zuvor untersucht werden, könnte es sein, dass das goldene Zeitalter für die Titanen der Tech-Industrie vorbei ist. An dieser Stelle ist es wichtig, unseren Gesetzgebern eine klare Botschaft zu übermitteln: dass die Bürger Schutz, ein Recht auf Privatsphäre und das Eigentum an ihren Daten verlangen.

Letztendlich müssen wir alle mit der Künstlichen Intelligenz sorgsam umgehen, denn alles und jeder ist heutzutage miteinander verbunden. Nicht in irgendeiner Art von Science Fiction vom Typ Skynet, sondern in einer Geschichte der Konsolidierung und des Machtmissbrauchs, die so alt ist wie die Geschichte selbst.

Quelle: TechCrunch

Dank ist diese Seite frei von Werbebannern

9 Kommentare

Neuen Kommentar schreiben:
Alle Änderungen werden gespeichert. Änderungen werden nicht gespeichert!

  •   45
    Gelöschter Account vor 2 Monaten Link zum Kommentar

    Die Büchse der Pandora ist geöffnet- und die Zahnpasta bekommt man auch nicht mehr in die Tube zurück....
    Der Mensch ist des Menschen Wolf....!


  • Aries vor 2 Monaten Link zum Kommentar

    Ich musste doch erstmal nachsehen, ob ich wirklich auf AndroidPIT bin... Ein kritischer Artikel!

    Wir sind auf dem Weg, dass auch die westlichen Staaten die neue Technik zur ansatzlosen Überwachung verwenden. Seit 9/11 wird das mit Terrorabwehr begründet. Es gibt einen Grund, warum ich auf die Dienste der Big-Player in vielen Bereichen verzichte!


  • China ist ja nicht umsonst das Land der aufgehenden Sonne und Weltmarkt.


  • Das ist meiner Meinung nach schon überall Realität, die Frage ist nur, wie engmaschig das Netz in welchem Land und Region ist und wer wieviel und was überwacht und Deutschland ist da sicher weiter als offiziell bekannt, genau wie überall auf der Welt. Ich bin auch ziemlich sicher, dass man dazu schon Techniken nutzt die wir (offiziell) noch gar nicht kennen. Es ist ein weltweites Thema und da keine wirkliche Kontrolle stattfindet, weiß man auch nicht wie weit das schon geht. Demokratie im Sinne des Wortes existiert auch in Europa nicht in dem Umfang wie manch eine glauben mag, zumindest ist das meine Ansicht.


  • Tim vor 2 Monaten Link zum Kommentar

    "Ist sowas auch im Rest der Welt möglich?"
    Also zumindest in Deutschland mache ich mir da aufgrund des rasendschnellen technischen Fortschritts ziemlich wenige Gedanken. Das dauert ein paar Hundert Jahre, bis man hier so ein Netz ausgebaut hätte ^^

    Dennoch ist es erschreckend, was die Köpfe in China hinter halbverschlossenen Türen so planen und ich finde mind. genauso schlimm, dass Google die Regierung dabei auch noch unterstützt...


  • Danke für den informativen Artikel. Er regt zum Nachdenken an. Aber die Entwicklung der KI ist wohl nicht aufzuhalten und Schuld daran sind wir ALLE!

Empfohlene Artikel

Dank ist diese Seite frei von Werbebannern