Das Geschäft mit der Ausbeutung : Wenn die KI menschliche Augen braucht
Millionen Datenarbeiter halten KI-Systeme am Laufen. Wie Ausbeutung, Schweigeklauseln und Niedriglöhne zum Geschäftsmodell wurden, beschäftigte den Digitalausschuss.
Ende Februar enthüllten zwei schwedische Zeitungen, dass die KI-Brille von Meta intimste Bild-, Video- und Sprachinhalte von Nutzern an Beschäftigte von Subunternehmen weiterleitet. Darunter: Aufnahmen aus Schlafzimmern, Badezimmern sowie von Bankdaten und PINs. Rund 30 sogenannte Datenarbeiter in Kenia hatten den Journalisten erzählt, wie sie dieses Material sichten und der KI dabei helfen, die Welt zu verstehen.
Meta brachte im Herbst 2023 zusammen mit der Marke Ray-Ban eine KI-Brille auf den Markt: Intimste Daten der Träger sollen bei Datenarbeitern gelandet sein.
Weltweit sortieren, prüfen und validieren Datenarbeiter riesige Datenmengen. Dass sie dabei regelmäßig in Abgründe blicken und KI keineswegs quasi von selbst arbeitet, bleibt allerdings in der Regel im Verborgenen: Während etwa Plattformarbeiter bei Lieferdiensten unübersehbar auf ihren Rädern durch die Städte heizen, arbeiten Datenarbeiter "unsichtbar" im Homeoffice. Wie sie dabei behandelt werden, berichtete die ehemalige Datenarbeiterin Joan Kinyua aus Kenia in einem Fachgespräch des Digitalausschusses am Mittwoch.
Datenarbeiter sind oftmals auch selbst Datensubjekte
Über acht Jahre habe sie täglich mit KI-Systemen interagiert und diese mit ihren Geräten trainiert, berichtete sie - oft ohne Vertrag, Krankenversicherung und mit vielen Stunden unbezahlter Arbeit. In Nairobi verdienten Datenarbeiter etwa 30.000 kenianische Schilling im Monat, umgerechnet 250 US-Dollar, so Kinyua. Niemand habe ihr erklärt, warum diese Tätigkeit notwendig sei, wohin die Daten gelangten oder woher sie kämen.
Teil der Arbeit sei auch, selbst Datensubjekt zu sein: "Die Kamera ist immer an und beständig dabei, Informationen aufzunehmen. Man weiß nicht, wozu sie verwendet werden." Irgendwann habe sie Panikattacken und Angstzustände bekommen, da sie nicht nur Straßen für selbstfahrende Autos labeln, sondern auch vertrauliche Dokumente wie Kontoauszüge, Aufnahmen von Überwachungskameras oder Gewaltdarstellungen sichten musste.
„Ohne Datenarbeiter und -arbeiterinnen gibt es keine KI.“
Dass viele der Datenarbeiterinnen und -arbeiter im globalen Süden arbeiten - doch eben nicht nur, betonte die Soziologin und Informatikerin Milagros Miceli, die am Weizenbaum Institut zu Daten, algorithmischen Systemen und Ethik forscht. Die Weltbank schätzte 2025 die Zahl der Datenarbeiter weltweit auf 150 bis 430 Millionen. Ein erheblicher Teil davon arbeite in Europa, berichtete die Forscherin.
Auch deutsche Unternehmen, etwa aus der Automobil- oder Pharmabranche, aber auch Technologiekonzerne, beauftragten solche Drittunternehmen mit Datenarbeit, sagte Miceli. Die Branche sei durch Intransparenz charakterisiert. Niedrige Löhne, unbezahlte Arbeitszeit und psychische Belastungen könnten als "konstantes Muster und ein Geschäftsmodell" betrachtet werden.
Warum Deutschland mehr Verantwortung übernehmen muss
Zur Datenarbeit zähle neben dem Generieren von Trainingsdaten, das Labeln von Daten, das Validieren und Korrigieren von Fehlern sowie die Simulation von KI-Verhalten, wie die Wissenschaftlerin erläuterte. Mit dem Aufstieg von generativer KI und von Large Language Models habe sich die Datenarbeit weiter ausgeweitet. "Ohne Datenarbeiter und -arbeiterinnen gibt es keine KI", betonte sie und sprach sich für die Anerkennung als Ausbildungsberuf aus. Alle Sachverständigen betonten, wenn Deutschland auf KI setze, müsse es mehr Verantwortung für die Menschen dahinter übernehmen.
Was machen Datenarbeiter?
💻KI trainieren und füttern: Datenarbeiterinnen und -arbeiter liefern die Grundlage für künstliche Intelligenz. Sie labeln, ordnen und erzeugen Daten, damit Systeme Muster erkennen und die Welt aus menschlicher Perspektive „verstehen“.
📈Qualität sichern und verbessern: Sie bewerten Antworten von KI, korrigieren Fehler und geben Feedback zu Sprache, Ton und Verhalten – damit die Maschine plausibler, präziser und angemessener reagiert.
🗒️Aufgaben simulieren und erweitern: Datenarbeiter erstellen Inhalte wie etwa Texte, Bilder oder Audiodateien, testen Anwendungen und übernehmen teils selbst die Rolle der KI – oft unsichtbar im Hintergrund automatisierter Dienste.
Viele ihrer Kollegen hätten posttraumatische Belastungsstörungen entwickelt und würden oft irgendwann durch andere ersetzt - "wie eine Austauschware", berichtete Datenarbeiterin Kinyua aus der Praxis. So sei es auch ihr gegangen. Seit Februar 2025 kämpft sie nun als Vorsitzende der Data Labelers Association für Verbesserungen bei den Arbeitsstandards, der Bezahlung und der mentalen Gesundheit.
Zum Stillschweigen über die Tätigkeit verpflichtet
Darauf, dass Beschäftigte vielfach sogenannte Non-Disclosure-Agreements (NDAs) unterzeichnen müssen, die sie zum Stillschweigen über ihre Tätigkeit verpflichten, wies Digitalexpertin Julia Kloiber von der NGO Superrr Lab hin. Viele der Beschäftigten befänden sich zudem in vulnerablen Lebenssituationen, berichtete sie. Hinzu komme, dass die Jobs eine Sackgasse seien, da die Beschäftigten nicht nachweisen könnten, was sie dort genau gemacht haben, und nicht mehr aus den Jobs herauskämen.
"Wer unseren digitalen Raum schützt, darf dabei nicht psychisch zugrunde gehen", betonte Kloiber. Das Thema verdiene entschlossenes Handeln, damit die digitale Zukunft nicht auf Ausbeutung fuße. Es könne nicht sein, dass die reichsten Unternehmen des Planeten in KI investierten, jedoch wichtige Arbeit an Drittfirmen auslagerten anstatt "für faire Löhne und gute Arbeitsbedingungen" zu sorgen. In Bezug auf beteiligte Firmen merkte sie an, dass die Frage vielmehr sei, wer sich die Daten nicht von Drittanbietern annotieren lasse.
Auch lesenswert
Die grüne Finanzpolitikerin will große US-Tech-Konzerne wie Google, Apple oder Amazon stärker zur Kasse bitten. Angst vor einer Gegenreaktion Trumps hat sie nicht.
Der Schriftsteller Michael Wildenhain hält wenig vom Begriff der Künstlichen Intelligenz. In seinem Buch ergründet er (menschliches) Bewusstsein und Intelligenz.
Die deutsch-kurdische Unternehmerin Aya Jaff legt mit ihrem Buch "Broligarchie" eine sehr persönliche Abrechnung mit der Tech-Branche im Silicon Valley vor.