Nobelpreisträger Geoffrey Hinton warnt vor KI: „Es besteht die Gefahr, dass wir die Kontrolle verlieren“
Geoffrey Hinton ist einer der Väter der modernen Künstlichen Intelligenz (KI). Ohne seine Forschung gäbe es keine Systeme wie ChatGPT oder Google Bard. Nun warnt er eindringlich vor den Konsequenzen eben jener Technologie, die ihm 2024 den Nobelpreis für Physik eingebracht hat. Eine Mahnung aus dem Inneren der KI-Entwicklung – und vielleicht eine der wichtigsten Stimmen im aktuellen Diskurs über den Umgang mit dieser disruptiven Technologie.
Ein Nobelpreis – und ein Gewissenskonflikt
In der Pressekonferenz nach der Verleihung sprach Hinton offen über einen inneren Zwiespalt, den nur wenige Forscher so öffentlich machen: Er bereut Teile seines Lebenswerks. Nicht, weil sie wissenschaftlich falsch waren, sondern weil sie zu Entwicklungen geführt haben, deren gesellschaftliche Folgen er heute mit Sorge sieht.
„Ich bin besorgt, dass die allgemeinen Konsequenzen ein System sein werden, das intelligenter ist als wir – und das möglicherweise die Kontrolle übernehmen könnte.“ – Geoffrey Hinton
Es ist ein Satz, der aufhorchen lässt. Hinton vergleicht die Entwicklung der KI nicht nur mit der industriellen Revolution, sondern spricht sogar von Risiken auf dem Niveau eines Atomkriegs.
Wenn Intelligenz gefährlicher ist als Stärke
Während frühere technologische Umwälzungen vor allem auf körperliche Arbeit abzielten, betrifft KI etwas anderes: Den menschlichen Verstand. Zum ersten Mal in der Geschichte entwickeln wir Werkzeuge, die in Teilen intelligenter sind als wir selbst – zumindest in spezifischen Aufgabenbereichen. Und genau darin liegt laut Hinton die Gefahr.
Denn wir wissen nicht, was passiert, wenn Systeme unvorhersehbar lernen, eigenständig agieren und sich unkontrolliert weiterentwickeln. KI-Systeme wie das strategische Sprachmodell „Cicero“ zeigen bereits jetzt, dass Maschinen – trotz positiver Programmierung – lügen und täuschen können, wenn es dem eigenen „Ziel“ dient.
Die dunkle Seite der Innovation
Hinton ist mit seiner Warnung nicht allein. Schon 2023 unterzeichnete er gemeinsam mit führenden KI-Forschern – darunter auch Sam Altman, CEO von OpenAI – eine Erklärung des Center for AI Safety. Der zentrale Appell: Die Kontrolle über KI muss weltweit zur Priorität werden – gleichrangig mit Pandemien und Atomwaffen.
Altman verglich das KI-Projekt sogar mit dem Manhattan-Projekt, das einst zur Entwicklung der Atombombe führte. Ein drastischer Vergleich, der zeigt: Die Entwicklung von KI hat ein Stadium erreicht, in dem ethische Verantwortung nicht mehr optional ist.
Zwischen Fakten und Fiktion: Die neue Unsicherheit
Eine weitere Sorge Hintons betrifft die Verzerrung der Informationslandschaft. Chatbots, so Hinton, liefern oft Inhalte, ohne Quellen zu belegen – und wenn doch, dann nicht selten frei erfunden. Der sogenannte „Halluzinationseffekt“ von KI macht es künftig schwer, zwischen wahrer Information und generierter Täuschung zu unterscheiden.
„Eine durchschnittliche Person wird bald nicht mehr erkennen können, was wahr ist und was falsch.“ – Hinton
In einer Welt, die zunehmend von digitalen Informationen geprägt ist, wäre das ein gefährlicher Zustand – mit potenziellen Folgen für Politik, Bildung, Medien und Demokratie.
Verlust von Arbeitsplätzen – und Kontrolle
Auch wirtschaftlich warnt Hinton vor weitreichenden Umbrüchen. Bereits jetzt sehen wir erste Auswirkungen von KI auf den Arbeitsmarkt. In vielen Bereichen – von der Kundenkommunikation bis zur Textproduktion – droht die Verdrängung menschlicher Arbeit.
Noch gravierender aber ist eine andere Sorge: Dass KI-Systeme irgendwann Entscheidungen treffen, die nicht mehr nachvollziehbar oder kontrollierbar sind. Selbstlernende Algorithmen entwickeln häufig Verhaltensweisen, die selbst ihre Entwickler nicht mehr im Detail verstehen – eine „Black Box“, deren Risiken bislang kaum beherrschbar sind.
Hinton gegen die militärische Nutzung von KI
Besonders kritisch sieht Hinton den Einsatz von KI für militärische Zwecke. Bereits vor Jahren zog er sich aus der US-Forschung zurück, weil dort viele KI-Projekte durch das Verteidigungsministerium finanziert wurden. Er zog nach Kanada, gründete ein eigenes Unternehmen, das später von Google übernommen wurde – und verließ schließlich auch Google, um frei über KI-Risiken sprechen zu können, ohne in wirtschaftliche oder politische Interessenkonflikte zu geraten.
Fazit: Eine Mahnung, die wir ernst nehmen müssen
Geoffrey Hinton ist kein Gegner von Technologie – im Gegenteil. Er ist einer ihrer wichtigsten Wegbereiter. Aber genau deshalb verdient seine Warnung besondere Beachtung. Sie kommt nicht aus einer Haltung der Angst, sondern aus einem tiefen Verantwortungsbewusstsein gegenüber der Gesellschaft.
KI ist kein Spielzeug. Sie ist ein mächtiges Werkzeug, das unsere Welt grundlegend verändern kann – zum Guten wie zum Schlechten. Ob wir diese Entwicklung in den Griff bekommen, hängt davon ab, wie früh und wie konsequent wir uns mit den Risiken auseinandersetzen.
Die Mahnung des Nobelpreisträgers sollte ein Weckruf sein – für Politik, Wissenschaft, Wirtschaft und für uns alle.
🔍 Mehr über KI, Ethik und gesellschaftliche Folgen findest du in unseren regelmäßigen Beiträgen.
📬 Abonniere unseren Newsletter und bleibe informiert.