KI-Tools: „Eine Pause beim Training von künstlicher Intelligenz hilft nicht“

Anbieter zum Thema

CADFEM Germany GmbH

Esker Software Entwicklungs-und Vertrieb

Yorizon GmbH & Co. KG

Prof. Urs Gasser von der TU München hält nichts von einer Unterbrechung des Trainings von künstlicher Intelligenz. In folgendem Gastbeitrag kommentiert er die Forderung nach einem Moratoriums für die Entwicklung von KI-Tools.

Die Entwicklung von künstlicher Intelligenz und KI-Tools ist außer Kontrolle geraten, finden rund 3.000 Unterzeichner eines offenen Briefs aus Wirtschaft und Wissenschaft. Sie fordern eine Pause beim Training besonders leistungsfähiger KI-Systeme. Prof. Urs Gasser, Experte für die Governance digitaler Technologien an der TU München, erklärt, von welchen wichtigen Fragen dieser Brief ablenkt. Und warum ein „KI-TÜV“ sinnvoll wäre und wie weit die EU im Vergleich mit den USA bei der Regulierung ist.

Künstliche Intelligenzen, die mit der Intelligenz des Menschen konkurrenzfähig sind, könnten schwerwiegende Risiken für Gesellschaft und Menschheit bergen, schreiben die Unterzeichner des offenen Briefs. Deshalb sollten mindestens ein halbes Jahr lang keine Technologien weiterentwickelt werden, die leistungsfähiger sind als der kürzlich vorgestellte GPT-4, Nachfolger des Sprachmodells ChatGPT. In dieser Zeit sollten mit unabhängigen Experten Sicherheitsregeln eingeführt werden. Falls Labore, die KI-Tools entwickeln, nicht freiwillig eine Pause einlegen, solle sie von Regierungen angeordnet werden.

Ist die geforderte Notbremse bei KI-Tools richtig?

Leider absorbiert der offene Brief sehr viel Aufmerksamkeit, die bei anderen Fragen der KI-Debatte besser investiert wäre. Richtig ist, dass heute wohl niemand weiß, wie man extrem leistungsfähige KI-Tools so trainieren kann, dass sie in jedem Fall zuverlässig, hilfreich, ehrlich und harmlos sind. Eine Pause beim Training von KI hilft diesem Ziel allerdings nicht. Allein schon, weil sich ein solches Moratorium nicht global durchsetzen ließe und die geforderten Regulierungen nicht innerhalb von nur sechs Monaten eingeführt werden könnten. Ich bin überzeugt, dass es eine schrittweise Weiterentwicklung von Technologien und parallel dazu die Anwendung und Anpassung von Kontrollmechanismen braucht.

Wovon lenkt die Forderung nach einer Entwicklungspause ab?

Erstens malt der offene Brief erneut das Schreckgespenst einer menschenähnlichen Künstlichen Intelligenz an die Wand, einer sogenannten Artificial General Intelligence. Das lenkt von einer ausgewogenen Diskussion der Risiken und Chancen derjenigen Technologien ab, die derzeit auf den Markt kommen. Zweitens bezieht sich das Papier dann auf zukünftige Nachfolgemodelle von GPT-4. Das lenkt davon ab, dass uns schon der Vorgänger ChatGPT vor wesentliche Probleme stellt, die wir dringend angehen sollten – beispielsweise Falschinformationen oder Vorurteile, welche die Maschinen replizieren und groß skalieren. Und drittens lenkt die spektakuläre Forderung davon ab, dass wir bereits jetzt Instrumente zur Hand haben, mit denen wir die Entwicklung und den Einsatz von KI regulieren können.

Wonach könnte sich eine Regulierung für KI-Tools richten?

In den vergangenen Jahren wurden intensiv ethische Prinzipien entwickelt, welche die Entwicklung und Anwendung von KI leiten sollen. Diese wurden in wichtigen Bereichen auch durch technische Standards und „Best Practices“ ergänzt. Namentlich die OECD-Grundsätze zu Künstlicher Intelligenz verbinden ethische Prinzipien mit mehr als 400 konkreten Werkzeugen. Auch die US-Standardisierungsbehörde NIST hat eine 70-seitige Richtlinie erlassen, wie Verzerrungen in KI-Tools entdeckt und bearbeitet werden können. Im Bereich Sicherheit von großen KI-Modellen sehen wir neue Methoden wie „Constitutional AI“, mit der ein KI-System vom Menschen Prinzipien des guten Verhaltens „lernt“ und dann die Ergebnisse einer anderen KI-Anwendung überwachen kann. Gerade bei Sicherheit, Transparenz und Datenschutz gibt es inzwischen große Fortschritte und sogar spezialisierte Prüfunternehmen.

Instrumente zur Regulierung richtig einsetzen

Jetzt kommt es darauf an, ob und wie solche Instrumente auch eingesetzt werden. Nochmals das Beispiel ChatGPT: Werden die Chatverläufe der Benutzer für das iterative Training in das Modell aufgenommen? Sind Plug-ins erlaubt, welche die Interaktion zwischen Nutzer, Kontakte oder andere persönliche Daten aufzeichnen könnten? Dass hier vieles noch unklar ist, zeigt das einstweilige Verbot und die Eröffnung einer Untersuchung gegen den Entwickler von ChatGPT durch die italienische Datenschutzbehörde. Der offene Brief fordert, dass KI-Systeme erst dann entwickelt werden, wenn wahrscheinlich ist, dass sie positive Effekte haben und ihre Risiken handhabbar sind. Zu welchem Entwicklungszeitpunkt könnte man die Wirkungen einer KI so gut vorhersagen, dass eine solche Regulierung Sinn macht?

Aus der Technikgeschichte wissen wir, dass der „gute“ oder „schlechte“ Einsatz von Technologien schwer voraussehbar ist. Und dass Technologien oft beides mit sich bringen und Negatives auch unbeabsichtigt sein kann. Statt auf einen bestimmten Zeitpunkt der Prognose abzustellen, braucht es zwei Dinge: Erstens, müssen wir uns fragen, welche Anwendungen wir gesellschaftlich nicht wollen, selbst wenn sie möglich wären. Hier braucht es klare rote Linien und Verbote. Ich denke an autonome Waffensysteme als Beispiel. Zweitens brauchen wir von der Entwicklung bis hin zur Nutzung ein flächendeckendes Risikomanagement, wobei die Anforderungen daran steigen, je größer die potenziellen Risiken einer Anwendung für Mensch und Umwelt sind. Diesem Ansatz folgt zu Recht auch der europäische Gesetzgeber.

Unabhängige Experten sollten die Risiken von KI-Tools beurteilen

Solche unabhängigen Prüfungen sind ein sehr wichtiges Instrument, gerade bei Anwendungen, die erheblichen Einfluss auf Menschen haben können. Das ist im Übrigen keine neue Idee. Von KFZ-Zulassungsverfahren bis TÜV und Buchprüfung haben wir in verschiedensten Lebensbereichen solche Prüfungsverfahren und Instanzen im Einsatz. Bei bestimmten KI-Methoden und KI-Tools ist die Herausforderung allerdings ungleich größer. Das liegt auch daran, weil sich gewisse Systeme mit der Anwendung selbst weiterentwickeln, also dynamisch sind. Daneben ist es wichtig zu sehen, dass Experten allein nicht alle gesellschaftlichen Wirkungen gut bewerten können. Wir brauchen auch neuartige Mechanismen, die etwa benachteiligte und unterrepräsentierte Gruppen in die Diskussion um KI-Folgen miteinbezieht. Das ist keine leichte Aufgabe, für die ich mir mehr Aufmerksamkeit wünschen würde.

Aufgabe der Politik ist es, einen „KI-TÜV“ verankern

In der Tat brauchen wir klare Spielregeln für künstliche Intelligenz. Auf EU-Ebene wird derzeit das KI-Gesetz finalisiert, mit dem gewährleistet werden soll, dass die Technologien sicher sind und die Grundrechte wahren. Der Entwurf sieht die Einstufung von KI-Technologien nach ihrem Risiko für diese Prinzipien vor. Einschließlich mit der möglichen Konsequenz von Verboten oder Transparenzpflichten. Geplant ist zum Beispiel das Verbot, Privatpersonen in ihrem Sozialverhalten zu bewerten, wie wir es aus China kennen. In den USA ist der politische Prozess im Kongress auf diesem Gebiet blockiert. Es wäre hilfreich, wenn sich die prominenten Urheber des Briefs dafür einsetzen, dass der US-Gesetzgeber auf Bundesebene ähnlich aktiv wird, statt zu fordern, die Technologieentwicklung vorübergehend zu stoppen. (sg)

Ein Interview mit Koordinatorin Prof. Enkelejda Kasneci zu dem Positionspapier ist hier abrufbar.

Über den Autor: Prof. Dr. Urs Gasser leitet seit 2021 den Lehrstuhl für Public Policy, Governance and Innovative Technology an der Technischen Universität München (TUM). Er ist Dekan der TUM School of Social Sciences and Technology und Rektor der Hochschule für Politik München (HfP) an der TUM. Zuvor war er Executive Director des Berkman Klein Center for Internet & Society an der Harvard University und Professor an der dortigen Harvard Law School.

Lesen Sie auch: Künstliche Intelligenz: Drohen Verwüstungen auf dem Arbeitsmarkt?