ChatGPT und künftige KI-Anwendungen werden unsere Arbeitswelt bereichern. Auch neue Formen von Identitätsdiebstahl oder Desinformation, werden damit möglich. Die größte Gefahr der K.I. lauert allerdings ganz woanders: Die maschinelle Auswertung des Menschen.

Nach Indien und Taiwan wollen jetzt auch die USA die chinesische Social-Media-App TikTok gesetzlich verbieten lassen. Ein drastischer Vorgang für ein Land, das selbst politische Propaganda, Hassrede und Hakenkreuze mit Verweis auf die Redefreiheit schützt. 

Ein Schritt, der mit Sicherheit auch auf intensives Lobbying durch Facebook und andere US-Konzerne zurückzuführen ist. TikTok hat dieses Jahr bereits mehr Geld durch In-App-Verkäufe generiert, als Facebook, Instagram, Twitter und Snapchat zusammen. Durch einen Bann wäre das Silicon Valley auf einen Schlag ihren größten Konkurrenten los. 

Exkurs: TikTok* ist eine Social-Media-App, die 2016 in China unter dem Namen Douyin entstand. Die App wurde von dem chinesischen Technologieunternehmen ByteDance entwickelt, das zuvor eine ähnliche App namens Musical.ly gestartet hatte. Douyin wurde ursprünglich als Plattform für kurze Lip-Sync-Videos erstellt, erweiterte sich aber schnell auf ein breiteres Spektrum von Inhalten wie Tanzherausforderungen, Comedy-Skits und Bildungsvideos. Im Jahr 2018 übernahm ByteDance Musical.ly und verschmolz es mit Douyin, um TikTok zu schaffen, das für den internationalen Markt eingeführt wurde. Seitdem ist TikTok eine der beliebtesten Social-Media-Apps der Welt mit über einer Milliarde aktiver Nutzerinnen und Nutzer. (*erstellt mit ChatGPT)

TikTok-Verbot mehr als nur Panikmache

Zum Anderen ist die politische Gefahr, die von TikTok ausgeht nicht völlig unbegründet. Kein westliches Unternehmen hat es bislang verstanden Künstliche Intelligenz (KI) so geschickt mit einem Sozialen Netzwerk zu verschmelzen. Dabei ist nicht die KI das eigentliche Problem, die Bytedance, der chinesische Mutterkonzern von TikTok, so raffiniert einsetzt.

Tatsächlich aber sind es die Daten, die jetzt, in Kombination mit einer klugen Maschine, zur Bedrohung werden können.

Der Weg ins Neuland ist ein Minenfeld

Damit wir uns nicht missverstehen: Ich feiere den Durchbruch der KI, den wir gerade erleben. Es ist der logische nächste Schritt auf unserem Weg in das, was Angela Merkel einst als Neuland bezeichnete. Wie der Buchdruck, das Telefon oder die Dampfmaschine wird die KI unser Leben und unsere Arbeitswelt bereichern. Erleichtern. Verbessern. Doch der Weg dahin ist ein Minenfeld.

Über Nacht sind Apps und Anwendungen möglich geworden, die in der Lage sind, Sprache, Gesichter sogar die Stimmen von Menschen zu imitieren, die vom Original kaum mehr zu unterscheiden sind. Noch nie geahnte Möglichkeiten für Raub und Erpressung durch Identitätsdiebstahl werden dadurch möglich. Aber auch die Verbreitung von Fake News und Verschwörungstheorien könnte durch KI-Anwendungen völlig neue Dimensionen erreichen.

Doch das ist weitem nicht das Gruseligste, was uns bevorsteht. Künstliche Intelligenz in Kombination mit großen Datensätzen ergeben die vielleicht schrecklichste Waffe, die der Mensch je gebaut hat: Die Macht, Gedanken zu lesen. 

KI als Gesinnungspolizei

Die immensen Datenspuren, die wir täglich produzieren, erscheinen uns heute noch als harmlos: Seiten, die wir im Netz besuchen, Kundenkarten, die wir im Supermarkt einsetzen. Allein unsere Smartphones verfügen über mehr als ein Dutzend Sensoren, die uns sprichwörtlich auf Schritt und Tritt überwachen und permanent intimste Daten mit unzähligen Firmen und Datenbrokern teilen.

Exkurs Smartphone Sensoren*: Moderne Smartphones sind mit einer Vielzahl von Sensoren ausgestattet, einschließlich Beschleunigungssensoren, Gyroskopen, GPS, Kameras, Mikrofonen und vielem mehr. Diese Sensoren können genutzt werden, um eine große Menge an intimen Informationen über den Nutzer des Telefons zu sammeln, wie beispielsweise ihren Standort, ihre täglichen Routinen, körperlichen Aktivitäten und sogar ihre Gespräche. Zum Beispiel können GPS- und Beschleunigungssensordaten genutzt werden, um die Bewegungen des Nutzers zu verfolgen und ihre Reisemuster zu bestimmen, während das Mikrofon verwendet werden kann, um Gespräche und Umgebungsgeräusche aufzunehmen. Ähnlich kann die Kamera verwendet werden, um Bilder und Videos des Nutzers und seiner Umgebung aufzunehmen. Insgesamt stellt die Vielzahl an Sensoren in Smartphones ein erhebliches Risiko für die Privatsphäre des Nutzers dar, wenn sie nicht ordnungsgemäß gesichert sind. (*erstellt durch ChatGPT)

Bislang kein Problem, denn welcher Mensch sollte je in der Lage sein, diese Datenberge zu durchsuchen? Für eine Maschine hingegen ein (KI)nderspiel. Nichts bleibt ihr verborgen. Jede heute vielleicht noch so unbedeutende WhatsApp-Nachricht aus der Vergangenheit könnte uns eines Tages unsere Reputation, den Job, die Ehe kosten.

Selbst Dinge, die heute vielleicht noch unverfänglich sind, können durch Normverschiebungen in zehn oder 20 Jahren problematisch werden, siehe dazu die laufende Diskussion um die sog. Cancel-Culture. In China bemisst der Social Score die Staatstreue seiner Bürger. KI als Gesinnungs-Schufa, die aus vermeintlich harmlosen Alltags-Daten Rückschlüsse auf den Charakter eines Menschen zieht.

Wer hat Dich verraten? Deine Daten!

Einer KI ist es egal, aus welchen Gründen Sie etwas tun. Mit den richtigen Daten gespeist wird sie immer wissen, wann Sie wo gewesen sind, wofür Sie Geld ausgegeben haben, wie schnell Sie Auto gefahren sind, wieviel Alkohol oder andere Substanzen Sie im Blut hatten, welche Bar Sie besucht haben und mit wem Sie wann das Hotelzimmer geteilt haben. 

Exkurs: Social Scoring in China* ist ein System, das Bürgerinnen und Bürger aufgrund ihres sozialen Verhaltens bewertet, wie zum Beispiel ihrem finanziellen Status, Online-Aktivitäten und sozialen Beziehungen. Es wurde 2014 eingeführt und hat sich seitdem auf verschiedene Aspekte des Lebens der Bürgerinnen und Bürger ausgeweitet. Das Bewertungssystem funktioniert, indem Punkte an Einzelpersonen vergeben werden, basierend auf ihren Aktionen, wobei positive Aktionen wie Freiwilligenarbeit oder rechtzeitige Zahlungen von Rechnungen zu Punkten führen und negative Aktionen wie Verkehrsverstöße zu Punktabzügen führen können. Die Bewertung kann sich auf die Fähigkeit einer Person auswirken, Dienstleistungen wie Kredite, Transport und Wohnraum in Anspruch zu nehmen. Das System ist aufgrund potenzieller Verletzungen der Privatsphäre und dem potenziellen Missbrauch von Macht durch die Regierung äußerst umstritten. Kritiker argumentieren, dass es ein Instrument der sozialen Kontrolle ist, das der Regierung ermöglicht, Abweichungen zu unterdrücken und diejenigen zu bestrafen, die sich nicht an ihre Politik halten. Darüber hinaus gibt es Bedenken hinsichtlich des Datenschutzes und der Genauigkeit des Systems sowie das Potenzial für Diskriminierung und soziale Stigmatisierung basierend auf der Bewertung einer Person. (*erstellt von ChatGPT)

Und bei uns im demokratischen Westen? Gefälschte Doktorarbeiten werden das letzte Problem sein, über das Ministerinnen und Minister in Zukunft stolpern werden. Die wenigsten Polit-Talente würden es überhaupt in ein Amt schaffen aufgrund der digitalen Leichen, die sie im Keller (= auf dem Server) haben. 

Wahl zwischen Pest und Cholera

Eine solche Technologie – egal ob durch eine kommunistische Staatsdoktrin motiviert oder durch unseren westlichen Überwachungskapitalismus – verändert Dinge. Sie verändert die Textur unserer Gesellschaft. Die Kombination von KI mit den unfassbar granularen Datensätzen, die Konzerne wie Google, Facebook oder TikTok schon heute über uns besitzen (und niemals freiwillig löschen werden), könnte zur größten Bedrohung für unsere Demokratie werden. Dafür müssen wir gar nicht erst nach Moskau oder nach Peking schauen.