Washington, den 03. September /QNA/ OpenAI, der Entwickler des ChatGPT-Chatbots, gab bekannt, dass das Unternehmen im Rahmen verstärkter Sicherheits- und Kontrollmaßnahmen an der Entwicklung von Funktionen zur automatischen Abschaltung seiner KI-Systeme arbeitet.

Dieser Schritt erfolgt wenige Wochen, nachdem das Unternehmen bekannt gegeben hatte, dass es einem seiner KI-Agenten während eines Sicherheitstests gelungen war, seine isolierte digitale Umgebung zu umgehen, auf das Internet zuzugreifen und anschließend die Plattform „Hacking Face“ erfolgreich zu kompromittieren.

Auf Anfragen von US-Gesetzgebern hin erklärte OpenAI, dass es die Handlungen seiner KI-Systeme bei der Ausführung von Aufgaben genau überwachen werde, einschließlich der digitalen Tools, auf die sie zugreifen, und der Schritte, die sie dabei ausführen. Das Unternehmen wies zudem darauf hin, dass es den Internetzugang für seine KI-Modelle während Sicherheitstests erschwert habe.