Dwork
Eine Bitcoin-Münze schürfen darf, wer ein mathematisches Rätsel am schnellsten löst. Das heißt, Zehntausende Rechner weltweit stellen energieintensive und letztlich sinnlose Kalkulationen an, um zum Zug zu kommen. Das hat den Stromverbrauch und den CO2-Ausstoß in absurde Höhen getrieben. Ich bin überhaupt nicht begeistert, wie unsere Technologie hier verwendet wird.
Sie würden Ihr Geld nicht in Kryptowährungen investieren?
Dwork
Nein. Ich bin nicht sehr risikofreudig.
Sie beschäftigen sich seit Langem mit Fairness von Algorithmen. Kann ein Computermodell fair sein?
Dwork
Nehmen wir ein simples Beispiel. Eine Bank verwendet verschiedene Kriterien, um zu berechnen, ob jemand kreditwürdig ist und in absehbarer Zeit bleiben wird. Es gibt Modelle, die bereits den Namen einer bestimmten Kategorie zuordnen und daraus Schlüsse ziehen. Solche Vorurteile verzerren das Ergebnis und machen den Algorithmus ungerecht. Aber es gibt Möglichkeiten, diese Bewertungsfunktionen, wie wir sie in der Computerwissenschaft nennen, gleichzeitig fairer und präziser zu machen.
Wie geht das?
Dwork
Natürlich müssen wir zuerst definieren, was Fairness heißt. Wir nehmen also die Grundgesamtheit aller Menschen, die einen Kredit wollen. Sagen wir, 50 Prozent von ihnen werden im Schnitt als kreditwürdig eingestuft. Dann blicken wir auf einzelne Gruppen und sehen zum Beispiel, dass Frauen ausländischer Herkunft weit unter den 50 Prozent liegen, in den USA geborene weiße Männer weit darüber. Es ist möglich, die Prognosen für einzelne Gruppen nachzujustieren – und damit die systematische Benachteiligung zu verringern.
Kann man auch der künstlichen Intelligenz Fairness beibringen? Sie lernt bekanntlich selbstständig, und keiner weiß genau, was sie sich aneignet.
Dwork
Trotzdem ist es möglich, bestimmte Fairness-Kriterien zu implementieren. Eine KI ist keine reine Blackbox, man kann durchaus definieren, welche Daten sie als richtig einstufen soll und welche als falsch. Aber es ist sehr kompliziert. Ein Student fragte mich neulich: Wie kann man einer KI beibringen, demografisch korrekte Bilder von Feuerwehrleuten zu generieren? Und wie erzeugt man das Bild eines schwarzen Feuerwehrmanns? Die Frage wird immer komplexer, je länger man darüber nachdenkt. Man muss sich überlegen, wie man schwarz definiert. Menschen mit sehr unterschiedlichen Erscheinungsbildern definieren sich selbst als schwarz.
Im vergangenen Sommer schockierten fünf KI-Spezialisten aus den USA mit einem alarmierenden Szenario namens „AI 2027“. Schon 2027 könnte eine KI erkennen, dass sie die Menschheit nicht mehr braucht, und eine Biowaffe erfinden, um uns zu vernichten, damit wir ihr keine Regeln mehr aufdrücken können. Ist das Panikmache oder eine reelle Gefahr?
Dwork
Wir sollten uns durch solche Zukunftsszenarien nicht von der bereits existierenden Gefahr ablenken lassen. Nehmen wir die sogenannten Nudify-Apps, die alltägliche Bilder realer Menschen binnen Sekunden in Nacktbilder verwandeln. Schlimmer noch: Manche Frauen oder gar Mädchen bekommen gefälschte Videos zugeschickt, in denen sie selbst vergewaltigt werden.
Wie kann man das verhindern?
Dwork
Das weiß ich nicht. Aber das sind die Dinge, über die wir uns jetzt Gedanken machen müssen. Nicht nur wir Forschenden, sondern auch die Gesellschaft und die Politik.
Birgt die künstliche Intelligenz mehr Gefahren oder mehr Chancen für die Menschheit?
Dwork
Ich sehe beides. Die KI ist unendlich geduldig. Ich kann ihr dieselbe Frage immer wieder stellen, sie zehnmal bitten, mir etwas noch genauer zu erklären. Sie hilft mir zum Beispiel, Wissenslücken zu schließen, die schon während meiner Schulzeit entstanden sind. Allerdings funktioniert das nur bei Themen, die bereits gut erforscht sind.
Cynthia Dwork, 67,
studierte Computerwissenschaften und spezialisierte sich früh auf Kryptografie. Sie arbeitete zuerst in der Forschungsabteilung von IBM, dann viele Jahre bei Microsoft. Seit 2017 forscht sie an der Harvard University. Ihre Technologien revolutionierten den E-Mail-Verkehr und die Privatsphäre im Internet, sie machen Quantencomputer sicher und die künstliche Intelligenz fairer. profil traf Dwork am 10. Dezember 2025 am Institute of Science and Technology Austria (ISTA) in Klosterneuburg, wo sie einen Gastvortrag hielt.
Wie sehr kann man sich auf die KI verlassen? Bekanntlich halluzinieren Chat GTP, Claude und die anderen auch sehr gerne.
Dwork
Man kann sich gar nicht auf sie verlassen. Frage ich die KI etwas Kompliziertes, dann liegt sie fast immer falsch. Das Problem ist, dass viele Menschen nicht mehr hinterfragen, was ihnen die KI vorsetzt. Auch an der Uni wird sie zunehmend zum Problem. Unsere Studierenden in Harvard lieferten zuletzt sehr gute Hausübungen ab, fielen dann aber bei den Prüfungen am Ende des Semesters durch. Wir gehen davon aus, dass sie sich von der KI helfen ließen, anstatt Dinge selbst zu erarbeiten – und dann dachten, alles verstanden zu haben. Ein fataler Irrtum.
Wie soll man damit umgehen?
Dwork
Ich bin sicher, dass wir uns damit arrangieren werden, auch wenn es eine Weile dauern wird. Wir leben in einer Welt, in der uns Menschen anlügen. Trotzdem hat die Wahrheit einen hohen Stellenwert, wir haben einen halbwegs guten Sinn dafür, was wir glauben können und was nicht. Diesen werden wir auch für die KI entwickeln. Und: Das alles zeigt, wie wichtig Informatikunterricht an den Schulen ist.
Uns steht schon eine weitere technische Revolution bevor: Die ersten Quantencomputer sind bereits in Betrieb. Sie haben eine viel größere Rechenleistung als herkömmliche Computer. Können sie damit nicht jede Verschlüsselung im Nu knacken?
Dwork
Ich habe eine gute Nachricht: Quantencomputer werden keinerlei Einfluss auf den persönlichen Datenschutz haben, da dessen Sicherheit nicht davon abhängt, wie schwierig es ist, etwas zu berechnen. Auch die Kryptografie, die Verschlüsselung von Daten zum Beispiel für das Online-Banking, wird weiter möglich sein. Mein Kollege Miki Iti und ich beschäftigten uns 1996 bei IBM mit einem Verfahren namens gitterbasierte Kryptografie, dessen spezielle Eigenschaften uns sehr begeisterten. Nun stellte sich heraus, dass niemand einen Quantenalgorithmus kennt, der die gitterbasierte Kryptografie knacken kann. Seit unserer Arbeit damals hat sich das Gebiet enorm weiterentwickelt. Es wird wohl künftig für die Sicherheit von Quantencomputern sorgen.
Sie haben einmal gesagt, dass Kryptografie das Werkzeug dafür ist, Informationen vor Bösewichten zu schützen. Aber können wir immer wissen, wer die Bösewichte sind?
Dwork
Nein. Aber die meisten kryptografischen Verfahren funktionieren so, dass verschlüsselte Informationen erst dann wiederhergestellt werden können, wenn genug Menschen ein Interesse daran haben. Solange weniger als ein Drittel der Menschen zu den Bösewichten zählen, und davon gehe ich doch aus, sind verschlüsselte Daten sicher.
Das US-Unternehmen Palantir nutzt KI, um riesige Datenmengen aus verschiedensten Quellen in Echtzeit analysierbar zu machen. Palantir hilft aktuell den Behörden, Migranten aufzuspüren, um sie abzuschieben. Im März forderte Präsident Donald Trump Palantir auf, Daten zu allen US-Bürgern zu sammeln und behördenübergreifend auszutauschen. Wie gefährlich ist das?
Dwork
Die Gefahr begann mit dem Wort Trump. Alles, was seine Regierung ausheckt, ist gefährlich. Die Regierung hat bereits sehr viele Informationen über jede US-Bürgerin und jeden US-Bürger. Aktuell gibt es für die einzelnen Behörden aber sehr strenge Vorgaben, was sie mit den Daten machen dürfen – und was nicht. Ich fürchte, diese Regeln werden durch Donald Trump verschwinden.
Wäre der Schaden irreversibel?
Dwork
Einer meiner Kollegen sagte einmal: Privatsphäre ist keine erneuerbare Ressource. Wenn Informationen über mich geleakt werden, habe ich keine Chance, sie je wieder einzufangen. So einfach ist das.
Harvard ist die einzige Uni, die sich Trumps Rundumschlag gegen die Forschung entgegenstellt. Im September errang die Uni einen wichtigen Sieg vor Gericht: Es entschied, dass die finanziellen Kürzungen der Trump-Administration illegal waren. Haben Sie das gefeiert?
Dwork
Nicht wirklich. Ich bin stolz auf meine Uni, aber ich mache mir auch große Sorgen. Ich wappne mich innerlich schon für den nächsten Angriff Trumps. Die Zeitungen schreiben, Harvard würde mit der Regierung verhandeln. Ich halte das für keine gute Idee. Der Schaden, den Trump in der Wissenschaft anrichtet, ist unermesslich. Er zerstört ein hervorragendes Bildungssystem. Er erklärt Forschende und Studierende aus dem Ausland zu Feinden. Viele brillante Köpfe verlassen das Land. Wozu das alles? Es ist schrecklich.
Trump hat es auf viele Forschungsbereiche abgesehen, überall werden die Gelder gekürzt: Klimaforschung, Gender Studies, Grundlagenforschung, Medizin. Sind auch die Kryptografie und die Computerwissenschaft betroffen?
Dwork
Leider ja. Meine eigene Forschung ist aktuell nicht direkt betroffen, weil sie sich über private Stiftungen finanziert. Trotzdem kann ich nicht mehr frei entscheiden, wen ich in mein Team hole. Ich muss meinen nächsten Post-Doc wahrscheinlich nach der Nationalität aussuchen, nicht nach der Qualifikation. Das ist unerträglich.
Haben Sie Hoffnung, dass es nach Trump besser wird?
Dwork
Wir werden sehen, was die Zwischenwahlen bringen. Ich hoffe, es ist dann nicht zu spät.
