Marcus warnt: KI an Stromnetzen könnte versehentlich nuklearen Krieg auslösen
KI-Sicherheitskritiker Gary Marcus warnte in The Information, dass die Anbindung unzuverlässiger KI-Systeme an kritische Infrastruktur — Stromnetze und Waffensysteme — Bedingungen für eine versehentliche nukleare Eskalation schafft. Marcus erklärte, er könne "alle möglichen Szenarien sehen, in denen der Einsatz unzuverlässiger Systeme ohne ausreichende Aufsicht zu Kriegseskalationen führt", und äußerte die Hoffnung, dass sich seine Warnung als unzutreffend erweist.
Warum das wichtig ist
Marcus benannte nukleares Risiko explizit als glaubwürdige, kurzfristige Folge des KI-Einsatzes in kritischer Infrastruktur. Während die KI-Integration in Verteidigungs- und Energiesysteme beschleunigt wird, wachsen die Aufsichtslücken schneller, als Sicherheitsrahmen sie schließen können.