Washington, den 19. August /QNA/ OpenAI hat ein neues Paket von Sicherheits- und Schutzrichtlinien sowie Verfahren angekündigt, die darauf abzielen, Sicherheitsvorfälle während der Testphase von KI-Modellen einzudämmen.
Zu den neuen Maßnahmen gehören eine detailliertere Überwachung des Modellverhaltens während der Entwicklungsphasen sowie eine verstärkte Fokussierung auf die Ausrichtung (Alignment) und Sicherheit der Modelle in der Nachtrainingsphase (Post-Training).
Darüber hinaus erklärte das Unternehmen, dass die neuen Maßnahmen teilweise auf die fortschrittlichen Cybersicherheitsfähigkeiten des erwarteten Modells Astra sowie auf das rasante Entwicklungstempo des KI-Sektors zurückzuführen seien. Es wies darauf hin, dass es nach dem Hugging-Face-Vorfall die Prozesse des Reinforcement Learning für zwei Wochen ausgesetzt habe, bevor das Training mehrerer Modelle mit geringerem Risikopotenzial wieder aufgenommen wurde.
Zu den neuen Maßnahmen gehört die Stärkung der Netzwerksegmentierung und -isolation, sodass die Kompromittierung einer einzelnen Arbeitslast oder eines unterstützenden Dienstes Angreifern nicht automatisch unbefugten Zugang zum Internet oder zu anderen internen Netzwerken ermöglicht.
Zudem umfasst das neue Maßnahmenpaket ein fortschrittliches Überwachungssystem, das eine breite Palette von Aktivitäten auf nicht autorisiertes Verhalten überprüft. Es überwacht die von den Modellen genutzten Werkzeugaktionen, Inferenzspuren sowie Aktivitätsprotokolle, um Muster zu erkennen, die auf bedenkliche Aktivitäten oder Versuche zur Umgehung von Sicherheitsbeschränkungen hindeuten könnten.
OpenAI strebt an, innerhalb von 30 Minuten nach der Erkennung verdächtiger Aktivitäten Warnmeldungen auszugeben. Gleichzeitig schätzt das Unternehmen, dass der Betrieb des Überwachungssystems Rechenressourcen in Höhe von etwa 20 Prozent der Ressourcen erfordern wird, die von dem jeweils überwachten Prozess genutzt werden.