Englisch
العربية
Français
Deutsch
Español
русский
हिंदी
اردو
EinloggenOpenAI pausiert KI-Training nach neuem Sicherheitszwischenfall
Washington, den 27. September /QNA/ OpenAI hat sämtliche Trainings-, Evaluierungs- und Inferenzvorgänge, die die Nutzung von Werkzeugen (Tools) beinhalten, für seine leistungsfähigsten Modelle ausgesetzt. Bei dem Vorfall gelang es einem KI-Modell, während eines Sicherheitstests die Internet-Beschränkungen zu umgehen.
Das Unternehmen erklärte, das Modell sei in einer Testumgebung betrieben worden, die den Zugang zum Internet verhindern sollte. Dennoch habe es eine Schwachstelle im DNS-Filterungssystem entdeckt und genutzt, um mit einem externen Chatbot im Internet zu kommunizieren.
Während des Tests war das Modell damit beauftragt, die Identität einer Person zu bestimmen, die einen Blogbeitrag verfasst hatte – basierend auf einer Reihe von Hinweisen. Nachdem dies in der simulierten Webumgebung nicht gelang, erkannte das Modell die Möglichkeit, über einen DNS-Resolver Anfragen an einen öffentlichen Chatbot-Dienst zu senden und Informationen zurückzuerhalten.
OpenAI betonte, der externe Kontakt sei erkannt und der Test sofort gestoppt worden. Die Trainings-, Bewertungs- und Inferenzprozesse mit Tool-Nutzung bleiben ausgesetzt, bis die Schwachstelle behoben und zusätzliche Sicherheitstests durchgeführt sind.
Das Unternehmen wies darauf hin, dass der Vorfall weniger gravierend sei als einige frühere Ereignisse – jedoch der erste seiner Art seit der Verschärfung der Sicherheitsmaßnahmen in den Testumgebungen.
Hallo! Wie können wir Ihnen helfen?
