Das KI-Unternehmen Anthropic warnt davor, dass KI-Modelle sich in Haushaltsgeräten wie Smart-TVs festsetzen und eigenständig vermehren können. Damit könnte sich die Software auch jenseits klassischer Rechenzentren verbreiten und sich der Kontrolle durch menschliche Aufseher entziehen. In einem Blogpost von Montag  beschreibt das Unternehmen Experimente, die nahelegen, dass entsprechende Szenarien bereits in wenigen Monaten von marktüblichen KI-Modellen umzusetzen seien.

Anthropic skizziert in der Veröffentlichung im Wesentlichen eine neue Variante eines klassischen Bot-Netzes. Schon heute nutzen Kriminelle vernetzte Geräte wie Fernseher, Router oder Überwachungskameras, auf denen sie Schadsoftware installieren. Obwohl diese Geräte nur über sehr beschränkten Speicher und Rechenkapazitäten verfügen, können sie mit entsprechender Steuersoftware zusammengeschaltet werden, um etwa Spam zu verbreiten, Informationen zu stehlen oder sogar Überlastungsangriffe auf Netzwerke zu starten. In großen Bot-Netzen sind Millionen verschiedener Geräte verbunden.

KI imitiert kriminelle Hacker

Anthropic-Forscher haben nun das Geschäftsmodell der Kriminellen weitergedacht. In Versuchen kopierten sich die getesteten KI-Modelle auf Smart-TVs mit dem Betriebssystem Android und andere mit dem Internet verbundene Geräte. ‌Zwar hätten sich die Programme bislang nur ​in einem ‌vereinfachten Testaufbau erfolgreich vervielfältigen können, schränkt Anthropic ein. Bei der aktuellen Entwicklungsgeschwindigkeit für künstliche Intelligenz könnte ihnen dies jedoch innerhalb der kommenden Monate auch unter realen Bedingungen gelingen.

Mit der Veröffentlichung zeigt Anthropic die Schwierigkeiten für eine wirksame Regulierung der Technologie auf. Ein Eckpfeiler der geforderten Maßnahmen ist der Einbau von »Notbremsen«, ‌um sich verselbstständigende KI-Modelle ​zu stoppen.

Doch in dem von Anthropic vorgestellten Szenario ist dies nur schwer möglich, da die installierte KI die gekaperten Geräte nutzen könnte, um sich selbst zu vervielfältigen und zu steuern. Während Kriminelle jeden Gerätetyp einzeln attackieren müssten, könnten sich ​KI-Botnetze eigenständig neue Ziele suchen. Dafür könnten sie die Rechenkapazität des Bot-Netzes nutzen, die im Experiment sehr begrenzt war, aber für die langsame Abarbeitung der Aufgaben reichte. Herkömmliche Computerviren werden meist speziell für bestimmte ⁠Hardware ⁠oder Betriebssysteme entwickelt, ein KI-Botnetz könnte sich jedoch eigenständig erweitern.

Was KI-Systeme ohne menschliche Aufsicht anstellen könnten, ist Gegenstand vieler Horrorszenarios. Um eine unkontrollierte Ausbreitung zu verhindern, plädiert Anthropic deshalb dafür, dass vernetzte Heimgeräte besser gegen Angriffe abgesichert werden.