Wie bereiten wir uns auf die nächste technologische Revolution vor?

 Die Fragen sind: Wie wollen wir das gestalten? Was gibt es für Risiken, was für Vorteile? Denn der medizinische und technologische Fortschritt werden immer schneller und haben starke Effekte. Wenn generative KIs wie  Midjourney oder Chatbots in das Alltagsleben von Menschen hineinkrachen, sind wir als Gesellschaft gefordert. Wir als Ethikrat fragen danach „Was sollen wir als Gesellschaften tun?“. Und wo sollten wir vielleicht sagen: „Hier  müssen wir aufpassen oder auch regulieren.“

Ich finde die öffentliche Diskussion durchaus nachvollziehbar. Das Bewusstsein „Das könnte mich jetzt auch  betreffen“ ist ja zutreffend. Sie als Journalistin zum Beispiel gehören zu jenen, deren Beruf gerade recht  starken Veränderungen unterliegt. In den USA etwa werden in der schreibenden Zunft viele Stellen abgebaut.  Ebenso im telefonischen Kundendienst, bei Sachbearbeiterinnen und Sachbearbeiter in Versicherungen und in Banken wird sich zukünftig wohl viel verändern. Auch Lehre und Ausbildung an Schulen und Hochschulen sind  betroffen. Deswegen habe ich gemischte Gefühle, wenn ich offene Briefe von KI-Entwicklern und Elon Musk lese, die Endzeitszenarien enthalten, wie etwa, dass die KI uns alle kontrollieren oder auslöschen wird. Dieses Potenzial gibt es und das muss natürlich verhindert werden. Aber das ist Zukunftsmusik. Es gibt bereits heute  Herausforderungen, um die man sich jetzt schleunigst kümmern muss, davon lenken solche Aktionen auch ein wenig ab. Und dann gibt es noch den Hype, bei dem viele erwarten, dass KI bald den Klimawandel und die  Energiewende löst. Die Aussage „KI wird's schon richten“ ist genauso Quatsch wie „KI wird uns alle  unterjochen“. Da muss mehr Ruhe und Realität in die Debatte.

Berufsverbände, gerade auch in der Medizin, sollten sich die Fragen stellen: Welche Qualitätsstandards brauchen wir? Wie überprüfen wir sie? Wo kann uns KI helfen und was wollen wir an unserer Berufsausübung schützen?  Was sind Aufgaben, die wir an Algorithmen delegieren können? Was ist unser Berufsverständnis? Was ist der  Kern unserer Berufe, was geben wir der KI nicht in die Hand, selbst wenn sie es könnte? Wie arbeiten wir also mit diesen Technologien zusammen, ohne dass wir überflüssig werden? Und wie bilden wir in dieser Hinsicht unseren Nachwuchs aus?

In bestimmten Bereichen der Politik, wie etwa der Digitalpolitik, auch bei Arbeit, Sozialem und Forschung,  scheint das so zu sein. Und niemand hat einfache Antworten, auch nicht die Ethiker, Programmierer oder die Menschen, die sich mit sozialer Transformation befassen. Denn die Frage, wie man weiter vorgeht, wird für jede Branche  anders aussehen. 

Wir haben kürzlich eine dicke Stellungnahme geschrieben und uns fundamentale ethische Fragen angeschaut: Was sind eigentlich Intelligenz, Vernunft und Handeln? Was heißt das im Bereich der künstlichen Intelligenz? Und wir haben uns Anwendungsbeispiele in Medizin, Bildung, Verwaltung und Social Media angesehen und  darauf unser ethisches Handwerkszeug angewendet. Das Fazit, ganz knapp: KI soll die Handlungs- und  Entfaltungsmöglichkeiten von Menschen erweitern und nicht verringern. Und sie darf den Menschen nicht ersetzen.

Das eine sind die Fragen von Privatheit, Datenschutz, Datensicherheit. Das andere ist: Was benutzt man für  Daten, um KI zu trainieren? Wir brauchen hohe Standards, um Daten der Nutzerinnen und Nutzer zu schützen.  Aber wir brauchen auch viele Daten, damit KI wirklich gut ist. An diese Datensätze gibt es zugleich hohe ethische Anforderungen, denn sie dürfen nicht verzerrt sein.

KI hat großes Potenzial. Etwa überall dort, wo sie Routinetätigkeiten übernehmen kann, die Menschen nicht  gern machen möchten. Es werden derzeit Algorithmen entwickelt, die Pflegende oder Ärztinnen und Ärzte bei  administrativen Aufgaben entlasten, das würde wieder mehr Zeit mit Patienten geben. Ein weiterer Bereich ist die Medikamentenentwicklung, etwa bei der Entwicklung neuer Krebsmedikamente. Hilfreich kann KI auch da  sein, wo sie uns überlegen ist, was Mustererkennung anbelangt, zum Beispiel in der Diagnostik. Vor dem Hintergrund  des akuten Fachkräftemangels kann KI also an verschiedenen Stellen sinnvoll sein – unter den genannten Bedingungen.

Sehr wichtig. Im Moment sind mehrere Initiativen im Laufen, etwa die KI-Verordnung der EU, auf die die Welt  mit Interesse blickt. Denn es bringt nichts, wenn das eine europäische Land so reguliert, das andere so. Und es  sind es globale Technologien. Etwas Anderes anzunehmen, wäre naiv. Entsprechend wäre es gerade auch  wichtig, dass sich die Demokratien global zusammenfinden und auf Standards einigen.