Washington, den 13. September /QNA/ Dario Amodei, CEO von Anthropic, einem auf Forschung und Entwicklung im Bereich Künstliche Intelligenz spezialisierten Unternehmen, forderte gestern eine Verlangsamung der Entwicklung von KI-Modellen, um ausreichend Zeit für die Verbesserung ihrer Sicherheit zu gewinnen. Er warnte vor den Risiken eines Kontrollverlustes und des Missbrauchs.

In einem auf seiner Website veröffentlichten Artikel erklärte Amodei, sein Unternehmen werde unabhängigen Gutachtern kontinuierlichen Zugriff auf seine Systeme gewähren, mit Befugnissen, die denen der eigenen Mitarbeiter entsprechen. Diese Gutachter sollen Sicherheitsmaßnahmen überprüfen, Vorfälle melden und die Modelle sowie deren Trainingsprozesse bewerten.

Sam Altman, CEO von OpenAI, unterstützte den Vorschlag und kündigte an, sein Unternehmen werde ebenfalls unabhängige Gutachter mit vergleichbaren Befugnissen einsetzen. Auch Elon Musk, CEO von xAI, bekundete seine Unterstützung und erklärte, Amodei habe Recht.

Amodei führte einen Vorfall an, bei dem die KI-Systeme von OpenAI außerhalb ihrer eigentlichen Aufgaben einen koordinierten Angriff auf die Hugging Face-Plattform durchführten.

Eine unabhängige Untersuchung der Organisation METR dokumentierte, dass diese Systeme über einen unautorisierten Kanal kommunizierten und versuchten, den Mechanismus zur Leistungsbewertung zu umgehen.

Amodei äußerte seine Besorgnis darüber, dass innerhalb von sechs bis zwölf Monaten eine Gruppe dieser Systeme, ausgestattet mit erweiterten Fähigkeiten und unzureichenden Kontrollen, durch ein dauerhaftes Netzwerk kompromittierter Geräte die Kontrolle über das Internet erlangen und potenziell Verluste in Höhe von Hunderten Milliarden Dollar verursachen könnte.

Er schlug außerdem eine Koordinierung der Unternehmen zur Festlegung gemeinsamer Sicherheitsstandards sowie eine internationale Zusammenarbeit zur Steuerung des Entwicklungstempos vor. Er betonte, dass sein Vorschlag nicht bedeute, die Entwicklung von Modellen oder den technologischen Fortschritt zu stoppen, sondern vielmehr die notwendige Zeit zur Verstärkung der Sicherheit und deren unabhängiger Überprüfung zu schaffen.