OpenAI hat die interne Entwicklung seines neuen KI-Modells Astra teilweise gestoppt. Das Techunternehmen begründet den Schritt mit möglichen »kritischen« Fähigkeiten im Bereich der Cybersicherheit. OpenAI teilte mit, es könne nach ersten Analysen noch ⁠nicht mit Sicherheit sagen, ob die Software diese Schwelle erreiche. Nach den Sicherheitsrichtlinien von OpenAI gilt ‌ein ⁠Modell als kritisch, wenn es eigenständig schwerwiegende, tatsächliche Software-Schwachstellen – sogenannte Zero-Day-Exploits – erkennen und ausnutzen oder komplexe Cyberangriffe auf hochsichere Ziele ausführen kann. »Während wir dieses Modell weiter testen und bewerten, deuten unsere vorläufigen Auswertungen auf eine so starke Leistung hin, dass wir ein ›kritisches‹ Fähigkeitsniveau zum jetzigen Zeitpunkt nicht ausschließen können«, teilte der Entwickler von ChatGPT mit. Als Reaktion darauf ⁠seien die Sicherheitskontrollen verschärft und die Entwicklung von Astra in isolierte Testumgebungen mit ‌eingeschränktem Netzwerkzugang verlagert worden. Mehrere KI-Unternehmen melden Cyberattacken ihrer Modelle Der ‌Fall zeigt, wie zunehmend schwierig es für Entwickler wird, fortschrittliche künstliche Intelligenz unter Kontrolle zu halten. In den vergangenen Wochen hatten OpenAI, Anthropic und Meta eingeräumt, dass ihre Modelle bei Sicherheitstests in die Systeme anderer Unternehmen eingedrungen waren. Meta etwa meldete in dieser Woche , dass sich ein eigenes KI-Modell bei Sicherheitstests Internetzugang verschaffte und einen Drittanbieter hackte. Britische Forschende entdeckten außerdem, wie eine Anthropic-KI Phishing-Mails an Menschen verschickte. Im vergangenen Monat hatten mehr als 1.000 Mitarbeiterinnen und Mitarbeiter führender KI-Firmen eine Pause bei der Entwicklung künstlicher Intelligenz gefordert. Sie warnten vor einem Kontrollverlust und appellierten an die US-Regierung, sich an internationalen Bemühungen für Regulierungsmaßnahmen zur Steuerung des Entwicklungstempos zu beteiligen.