Es war eine böse Überraschung für die junge Britin: Plötzlich sah sie sich auf Tiktok, spärlich mit einem Strand-Outfit bekleidet. Das Video verzeichnete mehr als eine Million Aufrufe und eine Menge Kommentare, viele davon gehässig oder sexistisch. Die Frau musste erst nachdenken, woher das Bildmaterial stammte, das ohne ihr Wissen den Weg in soziale Medien gefunden hatte. Schließlich fiel ihr ein: Vor ein paar Tagen hatte sie ein Mann am Strand angesprochen und nach ihrer Telefonnummer gefragt. Ein Handy hatte sie nicht bemerkt, doch sie erinnerte sich an die auffällige Sonnenbrille, die er getragen hatte. Darin, vermutete sie nun, musste eine Kamera verborgen gewesen sein.
Ähnliche Vorfälle häuften sich in den vergangenen Monaten. Sie alle betrafen junge Frauen, die im Freien oder in Bars von männlichen Brillenträgern angesprochen wurden. Und stets landeten später ungefragt Videoclips der jeweiligen Szene auf Social Media.
Zuletzt sorgten solche Multimedia-Brillen allerdings aus einem anderen Grund für Aufruhr: Modelle des Facebook-Mutterkonzerns Meta gerieten in Verdacht, Bilder und Videos der eigenen Anwender missbräuchlicher Verwendung zuführen – und damit Persönlichkeitsrechte zu verletzen.
Fragwürdiger Datenfluss
Auslöser der Aufregung waren Berichte einer kenianischen Investigativjournalistin, die in Kooperation mit den schwedischen Zeitungen „Svenska Dagbladet“ und „Göteborgs-Posten“ eine bemerkenswerte Praxis enthüllte: Besitzer sogenannter „Smart Glasses“, die auf Meta-Technologie beruhen, müssen damit rechnen, dass heikle und intime Daten aus ihren Brillen an ein Softwareunternehmen in Nairobi übermittelt und dort von Mitarbeitern gesichtet werden.
Die Mitarbeiter erzählten von Aufnahmen nackter Personen, von Einblicken in Badezimmer und Toiletten sowie von abgefilmten Kreditkarten, deren Ziffern klar erkennbar waren.
Wie konnte es zu solch ungebetenem Eindringen in die Privatsphäre kommen? Was haben Videos europäischer Anwender bei einer kenianischen Firma verloren? Und worum genau handelt es sich überhaupt bei Smart Glasses, wie sie Meta anbietet?
Heimliche Aufnahmen
Im Grunde sind solche „Wearables“ keine neue Entwicklung – ebenso wenig die Kritik daran. Die erste Multimediabrille brachte Google bereits 2013 auf den Markt. Der Erfolg war mäßig, wegen technischer Mängel und ironischerweise auch damals schon aufgrund von Datenschutzbedenken. Es wurde gewarnt, dass es mittels „Google Glass“ möglich sei, heimlich Gespräche oder Bilder aufzuzeichnen, zum Beispiel Unterhaltungen fremder Menschen in Lokalen.
Dennoch brachten bald auch andere Unternehmen ähnliche Smart Glasses auf den Markt. Mehr als 20 verschiedene Modelle gibt es heute. Sie tragen Bezeichnungen wie „XReal One“, „Viture Pro XR“ oder „Norwiss Smart Glasses“ und haben gemeinsam, dass sie ihre Benutzer gleichsam in ein Datenuniversum einbetten: Integrierte Kameras können, je nach Modell, Fotos und Videos aufzeichnen, Lautsprecher spielen Musik, Telefonate oder Nachrichten ein, manche Geräte haben ein Display eingebaut, andere erfassen Körperfunktionen.
Diese Multimediabrille kam bereits 2013 auf den Markt. Prompt kam es zu Vorwürfen wegen Verstößen gegen Persönlichkeitsrechte.
Die meiste Aufmerksamkeit erfuhr die Entwicklung von Meta. Dies zum einen, weil die Brille in Kooperation mit dem Designer Ray Ban vermarktet wird; zum anderen, weil Meta-Boss Mark Zuckerberg öffentlichkeitswirksam die Ansicht vertritt, Smart Glasses würden mittelfristig Smartphones ablösen. Das Versprechen lautet: Statt nach dem Handy kramen und umständlich damit hantieren zu müssen, würde der Mensch das digitale Multiwerkzeug der Zukunft einfach auf der Nase tragen. Die „Meta AI Glasses“ existieren heute in unterschiedlichen Ausführungen und Preisklassen und werden in Österreich von Optikern und in Elektronikmärkten um etwa 300 bis 500 Euro angeboten.
Sämtliche Versionen verfügen über eine Kamera, die per Berührung des Bügels oder mittels Sprachbefehl gestartet werden kann und dann alles aufzeichnet, was der Brillenträger sieht. Ebenfalls in die Bügel sind Lautsprecher integriert, die Musik oder auch Sprachnachrichten abspielen. Besonders betont wird die Verfügbarkeit eines AI-Assistenten, also von Artificial Intelligence, die beispielsweise bei Urlaubsreisen hilfreich sein soll. Erfasst die Brillenkamera eine Sehenswürdigkeit, kann man sich von der künstlichen Intelligenz deren Geschichte erklären oder Übersetzungen von Inschriften anfertigen lassen.
Je nach Modell verfügen die Brillen über eine Kamera, Lautsprecher und eine Anbindung an einen KI-Assistenten, der zum Beispiel die mit de Brille aufgenommenen Bilder interpretiert.
Je nach Modell verfügen die Brillen über eine Kamera, Lautsprecher und eine Anbindung an einen KI-Assistenten, der zum Beispiel die mit de Brille aufgenommenen Bilder interpretiert.
Mag ja fallweise ganz praktisch sein, doch genau diese KI-Anbindung ist der Kern der aktuellen Empörung über die schlauen Brillen, in die bei Bedarf auch optische Gläser eingepasst werden können. Denn keine KI-Unterstützung ohne Internetverbindung, und sobald die Brille online ist, kann sie naturgemäß Daten an den Mutterkonzern liefern – und dazu zählen auch Videos aus dem Schlaf- oder Badezimmer, wenn der Besitzer nicht daran gedacht hat, vorher die Kamera auszuschalten.
Einblicke ins Schlafzimmer
Nicht nur den Anwendern der Meta-Brillen ist dieser Datentransfer nicht bewusst, offenbar gilt das auch für viele Verkäufer. Die schwedischen Journalisten fragten mehrere Händler, was mit dem aufgenommenen Bild- und Filmmaterial geschehe – und bekamen versichert, es werde lediglich lokal gespeichert, also auf den tragbaren Geräten selbst. Das Kleingedruckte in den Nutzungsbedingungen dürften sie nicht studiert haben, wonach „fallweise“ die „Interaktionen mit der AI“ ausgewertet würden und eine „automatische oder manuelle Überprüfung durch Menschen“ in Kauf genommen werden müsse.
Diese Menschen arbeiten beim Unternehmen Sama in Nairobi, dessen Motto lautet: „Get Quality Data for High-Performance AI“. Sama hat Niederlassungen in Afrika, in den USA und im niederländischen Den Haag. In Nairobi sollen Tausende Beschäftigte zu eher prekären Bedingungen in Zehnstunden-Schichten jene Bild- und Textdaten studieren, die aus Geräten des Meta-Universums übermittelt werden.
In Gesprächen mit den Reportern berichteten rund 30 dieser Arbeiter, dass es mitunter ziemlich peinlich sei zuzusehen, wie Menschen duschen, die Toilette aufsuchen, sich umkleiden oder wichtige Dokumente im Auge der Brillenkamera liegen lassen. Zwar sollten eigentlich Algorithmen dafür sorgen, dass Gesichter automatisch unkenntlich gemacht werden. Doch Algorithmen tun, was sie gerne tun: Sie versagen fallweise, was im konkreten Fall bewirkt, dass Personen eindeutig erkennbar sind.
Es gibt keine klare Rechtsgrundlage für die Verarbeitung der Daten. Deren Verwendung für das Training künstlicher Intelligenz sollte die ausdrückliche Zustimmung der betroffenen Personen erfordern, da Einzelpersonen effektiv die Kontrolle über das Bild- oder Audiomaterial verlieren, sobald es in KI-Modelle aufgenommen wird.
Kleanthi Sardeli, Datenschutzjuristin
Der Job der Arbeiter in Nairobi heißt in der Fachsprache „Data annotation“. Rein technisch betrachtet handelt es sich um eine notwendige Aufgabe, damit künstliche Intelligenzen in der Lage sind, brauchbare Informationen auszuwerfen.
Datenannotation ist im Wesentlichen Schulunterricht für Artificial Intelligence und soll den Maschinen ein Grundverständnis von Objekten und deren möglichst stimmiger Interpretation vermitteln. Simples Beispiel: Ein Sessel kann verschiedenste Formen besitzen, und für den Menschen ist es kein Problem, auch die ausgefallensten Designs sofort als Sitzgelegenheit zu erkennen. Für eine Maschine ist das weitaus schwieriger, wenn sie etwa bisher gelernt hat, dass ein Sessel immer vier Beine hat. Um einer künstlichen Intelligenz beizubringen, dass auch andere Ausführungen – etwa bloß ein massives Bein in der Mitte – denselben Zweck erfüllen, muss man sie entsprechend schulen.
Künstliche Intelligenz auf der Schulbank
Diesen Job erledigen Datenannotatoren in mühevoller Kleinarbeit. Auf Basis von Bildern und Videos bringen sie den Systemen bei, welch vielfältige Erscheinungsformen ein Sessel annehmen kann. Dazu werden die Objekte auf Fotos oder Videos mit Rahmen, sogenannten „Bounding boxes“, markiert und beschriftet, somit „annotiert“. So speichert die Maschine nach und nach immer mehr Sesselformen ab und soll allmählich in der Lage sein, Entitäten zu bilden, also in dem Fall verschieden aussehende Objekte der Kategorie „Sessel“ zuzuordnen .
Gleiches geschieht mit all den anderen Gegenständen der Umwelt, die auf dem Bildmaterial erkennbar sind: Autos, Busse, Verkehrsschilder, Ampeln, Aufzüge, Türen, Bahnstationen, Merkmale der menschlichen Anatomie. Nach einem ähnlichen Prinzip lassen sich auch Texte auswerten. Anhand von markierten Begriffen sollen ebenfalls Begriffe gebildet werden, beispielsweise für Dokumente, Alltagsgegenstände oder Emotionen. So sollen die Maschinen allmählich ein sprachliches Verständnis der humanen Welt erwerben.
Ein Milliardengeschäft
Datenannotation kann automatisiert oder manuell durchgeführt werden. Erstere Variante ist schneller und kostengünstiger, die zweite aufwendiger, gilt aber als zuverlässiger, weil es Menschen sind, die die Trainingseinheiten übernehmen. Genau dies ist das Spezialgebiet von Unternehmen wie Sama, die große Belegschaften zu günstigen Konditionen beschäftigen. Es ist in Zeiten zunehmender Bedeutung künstlicher Intelligenz ein lukratives und stetig wachsendes Geschäftsfeld. Der globale Markt dafür wurde für 2024 auf gut drei Milliarden Dollar geschätzt. Bis Ende des Jahrzehnts dürfte sich das Volumen dafür etwa verfünffachen.
Freilich: Aus dem technischen Zwang, künstliche Intelligenzen zur Qualitätsverbesserung umfassend zu trainieren – auch im Hinblick auf künftige Anwendungen wie autonomes Fahren –, folgt noch nicht, dass man dazu ungefragt die persönlichen und teils intimen Aufnahmen der Anwender von Smart Glasses umleiten und abschöpfen darf, auch wenn dies für Meta der einfachste Weg sein mag, an große Datensätze zu gelangen.
In Europa kollidiert Meta damit zumindest teilweise mit der Datenschutzgrundverordnung (DSGVO) Zwar falle die Verwendung der Brille im Privatleben nicht in deren Geltungsbereich, heißt es bei der Wiener Datenschutzorganisation noyb – European Center for Digital Rights. Doch Hersteller wie Meta müssten die DSGVO einhalten, „da sie personenbezogene Daten der Nutzer und Nutzerinenn verarbeiten, um alle Produktfunktionen bereitzustellen.“
Die Verwendung der Brillen im privaten Bereich fällt nicht unter die DSGVO. Unternehmen, die diese Produkte herstellen und die Infrastruktur betreiben, müssen jedoch die DSGVO einhalten, da sie die personenbezogenen Daten der Nutzer:innen verarbeiten. Die Optiker:innen hingegen können nicht wissen, wie der Hersteller die personenbezogenen Daten behandelt. Dies wirft Haftungsfragen auf, falls das Produkt von Gerichten oder Datenschutzbehörden der EU-Mitgliedstaaten als rechtswidrig eingestuft wird.
noyb – European Center for Digital Rights
Britische und irische Datenschutzbehörden haben inzwischen angekündigt, die Sachlage juristisch zu prüfen – speziell im Hinblick auf auf die Kooperation mit Sama, da Abkommen mit der EU über den Umgang mit Daten fehlen. Außerdem sei mehr als fraglich, ob die Verwendung von Bild- und Filmmaterial ohne aktive Zustimmung der Konsumenten zulässig sei. Ein paar nebulose Formulierungen im Kleingedruckten, die das stillschweigende Einverständnis voraussetzen, dass man bereitwillig die Kontrolle über die eigenen Daten abgibt, seien ziemlich sicher zuwenig.
„Es gibt keine klare Rechtsgrundlage für die Verarbeitung der Daten. Deren Verwendung für das Training künstlicher Intelligenz sollte die ausdrückliche Zustimmung der betroffenen Personen erfordern, da Einzelpersonen effektiv die Kontrolle über das Bild- oder Audiomaterial verlieren, sobald es in KI-Modelle aufgenommen wird“, sagt Kleanthi Sardeli, Juristin bei noyb. „Wir sehen ein erhebliches Transparenzproblem bei den Meta Smart Glasses, da Nutzer und Nutzerinnen möglicherweise gar nicht bemerken, dass die Kamera sie aufzeichnet.“
Sinnvolle Anwendungsgebiete
Je nach Ergebnis der gerade anlaufenden Prüfungen und je nach Reaktion des Meta-Konzerns (der sich zu den Vorwürfen stets nur in dürren Floskeln äußert) kann der von Zuckerberg erträumte Triumphzug der smarten Brillen durchaus erst mal ins Stocken geraten – oder einigen professionelle Anwendungen vorbehalten bleiben, wo derartige Technologien durchaus nützlich sein können, etwa in Logistik, Industrie, Medizin und Wissenschaft. In Lagerhallen könnten Angestellte Warenbestände prüfen oder Bestellungen aufgeben und gleichzeitig die Hände frei haben, medizinisches Personal könnte Befunde in Patientenakten einspeisen, Industriearbeiter könnten Maschinen überwachen. Auch Menschen mit Behinderungen könnten von Smart Glasses profitieren, indem sie zum Beispiel hörbeeinträchtigten Personen erlauben, an Konversationen teilnehmen, wenn die KI in der Brille Gespräche in geschriebene Worte transformiert.
Ob eine breite gesellschaftliche Anwendung auf allgemeine Akzeptanz stoßen würde, ist ohnehin ungewiss. Das früheste Modell solcher Brillen aus dem Hause Google büßte letztlich auch seinen Reiz ein, weil es bald sozial geächtet war, heimlich Bilder oder Gespräche aufzunehmen. Für Zeitgenossen, die sich zu solchen Übergriffen hinreißen ließen, gab es rasch ein eigenes Schimpfwort: „Glassholes.“
