CNN: KI-Fehler hätte fast zu US-Militäreinsatz gegen chinesisches Schiff geführt

Ein mithilfe von Künstlicher Intelligenz (KI) erstellter,  fehlerhafter US-Geheimdienstbericht hätte laut einem Medienbericht fast dazu geführt, dass inmitten des Iran-Kriegs das US-Militär ein chinesisches Schiff gestürmt hätte. Der Sender CNN zitierte am Freitag (Ortszeit) mit dem Vorfall vertraute Kreise, wonach die Geheimdienstinformationen über eine angebliche Ladung des Schiffes mit Komponenten für Atomwaffen "komplett falsch" gewesen seien, aber im Frühjahr "fast einen Krieg verursacht" hätten.

Dem Bericht zufolge hatten sich US-Soldaten bereits darauf vorbereitet, das Schiff zu entern. Aus einigen Kreisen hieß es, Flugzeuge der Luftwaffe seien bereits in der Luft gewesen. Der Einsatz im Mittleren Osten wurde demnach abgebrochen, nachdem Beamte herausfanden, dass ein von einem Analysten genutzter KI-Chatbot die Ladung des Schiffes falsch identifiziert habe.

CNN zufolge verknüpfte der KI-Bot öffentlich zugängliche Informationen mit Geheimdienstinformationen und kam so zu seiner fatalen Fehleinschätzung. Der Analyst nutzte demnach dann abermals KI, um einen Geheimdienstbericht zu verfassen, den er dann verbreitete.

Was das Schiff tatsächlich geladen hatte und wohin es unterwegs war, blieb unklar. Die US-Streitkräfte und das Pentagon äußerten sich laut CNN zunächst nicht zu dem Vorfall.

In jüngster Zeit häuften sich Warnungen über die Gefahren, die vom Einsatz Künstlicher Intelligenz ausgehen. Ein Mitarbeiter des Unternehmens Anthropic sagte unlängst, die Chancen, dass KI die Menschheit innerhalb des nächsten Jahrzehnts auslöschen könnte, lägen bei mehr als zehn Prozent.