Die Bundesregierung ruft nach Warnungen von US-Techbossen vor Gefahren von außer Kontrolle geratenen KI-Modellen zur Suche nach globalen Lösungen auf. »Wir nehmen die Warnungen, die wir da gehört haben, sehr ernst«, sagte der stellvertretende Regierungssprecher Steffen Meyer vor Journalisten in Berlin. Das höchste Sicherheitsgremium – der Nationale Sicherheitsrat – habe sich bereits zweimal mit diesem Thema beschäftigt. Darüber sei im Nachgang informiert worden.

Anthropic-Chef Dario Amodei hat am Wochenende einen Blogbeitrag  mit dem Titel: »We Must Pace the Frontier«, übersetzt etwa »Wir müssen das Tempo reduzieren«, veröffentlicht. Darin schlug er eine branchenweite Verlangsamung der Entwicklung leistungsstarker KI-Modelle vor, um der Forschung ein bis zwei Jahre Zeit für wirksame Sicherheitsvorkehrungen zu verschaffen. Der Menschheit könnten laut Amodei sonst nur noch sechs bis zwölf Monate bleiben, bevor sie die Kontrolle über die solche KI-Modelle verliert.

Unter anderem regt er an, unabhängige Prüfer direkt in die Unternehmen zu lassen, internationale Standards zu vereinbaren und vorsichtiger bei Systemen zu sein, die sich selbstständig ohne Aufsicht weiterentwickeln. Konkurrenten wie OpenAI-Chef Sam Altman und Technologieunternehmer Elon Musk stimmten dem Vorstoß zu.

Meyer sprach mit Blick auf Wirtschaft, Produktivität oder Medizin von großen Chancen durch KI einerseits und Risiken und Gefahren andererseits und plädierte für Lösungen etwa im Rahmen der G7. »Und deshalb ist es wichtig, dass wir beides machen müssen, jetzt auch nicht nur in Doomsday-Szenarien zu denken, sondern beides: die Chancen ergreifen und dort, wo wir Risiken sehen, aber auch entschlossen agieren und handeln.«