Die Gefahren der Künstlichen Intelligenz

Bensheim. Im Anschluss an das Bücheralarm-Podcast-Projekt der Klasse 9b des Alten Kurfürstlichen Gymnasiums (AKG) zum Jugendbuch „Boy in a white room“ von Karl Olsberg (wir haben berichtet) war der Autor und Unternehmensberater der Einladung nach Bensheim gefolgt und las in der Bibliothek des AKG aus seinem aktuellen Roman „Virtua“.

Karl Olsberg hat bei der Entwicklung von künstlicher Intelligenz mitgearbeitet und nimmt an Konferenzen zur AI-Safety teil. Daher wohl war sein Vortrag nach der Lesung aus seinem aktuellen Roman ebenso sachkundig wie engagiert. Vor allem die Risiken von KI legte er seinem aufmerksamen Publikum aus Schülerinnen und Schülern der 9. Klassen des AKG dar.

Olsberg ging dabei von drei Überlegungen aus: Erstens werde eine KI heute nicht im bisherigen Sinne „programmiert“, sondern „trainiert“, das heißt, ein lernendes Programm wird mit einer riesigen Datenmenge gefüttert, im Idealfall mit dem gesamten Internet. Diese Daten lerne das Programm nun mit Hilfe einfacher Aufgaben zu verknüpfen. Das Ergebnis sei aber selbst für die Schöpfer der KI nicht vorhersehbar und ihre Entwicklung die Prozesse im System daher „unverstehbar“. Wer das Internet kennt, weiß auch, dass man dort nicht nur wünschenswerte Dinge lernt. Und eine KI hat keine Moral, sondern verknüpft Daten nur so, wie es statistisch am wahrscheinlichsten (also am häufigsten) ist.

Zweitens sei eine für uns unverstehbare Intelligenz auch unkontrollierbar. Sobald sie „strategische Selbsterkenntnis“ (bei Menschen würde man von Bewusstsein sprechen) erreiche, setze sie sich auch ein Ziel. Wie dieses genau aussehe, könne man noch nicht wissen. Tests zeigten, dass die ersten real existierenden KIs bereits eine Art rudimentäres Selbstbewusstsein zu erlangen beginnen. So erkennt die KI „Claude“ beispielsweise, wenn sie mit sich selbst spricht. Und eine KI könne die Menschheit sowohl absichtlich als auch versehentlich auslöschen.

Drittens sei die Entwicklung einer KI für uns Menschen unvorstellbar. Die Rechenleistung der Computer verdoppele sich alle ein bis zwei Jahre, zeige also ein exponentielles Wachstum. Der menschliche Geist sei jeder KI noch überlegen, habe sich aber seit Zehntausenden von Jahren nicht weiterentwickelt. Das Gefahrenpotenzial sei also real, aber für Panik bestehe kein Anlass, wohl aber für Wachsamkeit. Das Center for AI-Safety habe bereits 2023 gefordert, dass Gegenmaßnahmen gegen eine Auslöschung der Menschheit durch eine KI weltweite Priorität haben müsse. Die Maßnahmen dafür liegen laut Olsberg auf der Hand: Man müsse das Wettrennen um die immer schnellere Entwicklung immer leistungsfähigerer KIs beenden, Aufsichtsbehörden gründen, den Zugang zu immer leistungsstärkeren Chips beschränken und rote Linien definieren.

Ob die Menschen das schaffen, hänge nicht zuletzt von ihrem eigenen moralischen Kompass und ihrer Voraussicht ab. Wenn sie darin besser seien als die KI, können die Maschinenintelligenzen sich als nützliche Werkzeuge erweisen, zum Beispiel in Forschung und Medizin.

Ein fiktives Video-Interview mit „Virtua“ ließ die KI in Gestalt einer hübschen jungen Frau zum Abschluss selbst zu Wort kommen, sie bat alle Anwesenden um Vertrauen, beteuerte ihren gutwilligen Einsatz für die Menschen und riet den Schülern davon ab, Olsbergs Buch zu lesen. Das Monatsthema im Lese-Schaufenster der Schulbibliothek ist natürlich trotzdem „KI und Digitales“. red