Die führenden US-KI-Entwickler täuschen nach Auffassung des früheren OpenAI-Forschers Daniel Kokotajlo mit ihrer Forderung nach Regulierung für künstliche Intelligenz den Wunsch nach mehr Kontrolle nur vor. Anthropic, OpenAI, X und Google betrieben lediglich "Safety Washing", sagte Kokotajlo dem "Spiegel". Zugleich forderte der heutige Leiter des "AI Futures Project" im kalifornischen Berkeley die KI-Entwicklung von OpenAI oder Anthropic staatlich massiv einzuschränken. "Wir müssen die KI-Entwicklung im Wesentlichen abschalten."
Die US-Unternehmen Anthropic, OpenAI, X und Google plädierten für "ein klein wenig Regulierung, ein paar externe Prüfer. Aber sie haben kaum etwas davon gesagt, die automatische Entwicklung künstlicher Intelligenz zu verlangsamen oder zu beenden", kritisierte Kokotajlo. Er gilt als einer der renommiertesten Fachleute für die Zukunft der Künstlichen Intelligenz. Seit Jahren warnt der frühere OpenAI-Forscher vor existenziellen Risiken der Technologie.
Die Techindustrie plane eine Automatisierung der KI-Forschung, sagte Kokotajlo. Damit "überschreitet die Menschheit einen Horizont. Ab diesem Punkt könnte die KI in vielerlei Hinsicht deutlich übermenschliche Fähigkeiten entwickeln - vielleicht in jeder Hinsicht. Das ist äußerst gefährlich." Wenn eine KI die nächste trainiere, beschleunige sich das Tempo des Fortschritts erheblich. Das bedeute auch, dass es schwieriger werde, den Überblick zu behalten, und es wahrscheinlicher werde, dass Fehler nicht bemerkt würden, betonte der Forscher.
Der Menschheit fehle derzeit "das Verständnis und die Fähigkeit, KI mit dem Skalpell zu regulieren und zwischen dem Guten und dem Schlechten zu unterscheiden". Erst wenn ein sicherer und allgemein vorteilhafter Weg für die Entwicklung einer Superintelligenz gefunden sei, dürfe mit ihrer Entwicklung fortgefahren werden. "Dafür braucht es vollständige Transparenz, eine breitere Machtverteilung - und einen Kill-Switch" - einen Ausschalter.
Latest stories
Sports Immer weiter: Ronaldo in Portugals Kader
Er spielt und spielt und spielt - auch weiter für Portugal: Fußball-Weltstar Cristiano Ronaldo steht auch beim Start in die Nations League wieder im Kader des Europameisters von 2016. Der neue Nationaltrainer Jorge Jesus berief den 41-Jährigen am Freitag in sein...
Politik Demografischer Wandel schlägt zu: Schülerzahl erreicht Höchststand bereits 2029
Der demografische Wandel schlägt in den Schulen einer aktuellen Analyse zufolge früher durch als bislang angenommen. Der Höchststand bei den bundesweiten Schülerzahlen wird schon 2029 erwartet, wie aus neuen Prognosen hervorgeht, die die Kultusminsterkonferenz der Länder (KMK) am Freitag in Berlin veröffentlichte...
Sports "Geht ihm viel besser": Leverkusen hofft auf Rückkehr von Maza
Fußball-Bundesligist Bayer Leverkusen kann im Duell mit RB Leipzig auf eine Rückkehr von Ibrahim Maza hoffen. "Es geht ihm schon viel, viel besser", sagte Trainer Carles Martínez vor dem Heimspiel am Sonntag (15.30 Uhr/DAZN): "Er war natürlich krank, noch nicht bei 100 Prozent. Aber wenn alles gut läuft, wird er im Kader stehen. Und...