Вашингтон, 27 сентября (Кью Эн Эй) – OpenAI объявила о приостановке обучения, оценки и операций вывода с использованием инструментов для своих самых передовых моделей после того, как одна из её моделей ИИ смогла обойти ограничения на подключение к интернету во время теста безопасности.

Компания сообщила, что модель работала в тестовой среде, предназначенной для предотвращения доступа к интернету; однако она обнаружила уязвимость, связанную с системой доменных имён (DNS), и использовала её для связи с внешним чат-ботом через интернет.

Во время теста модели было поручено определить автора публикации в блоге на основе набора подсказок. После того как ей не удалось выполнить задание с помощью имитированной веб-среды, она нашла способ использовать систему DNS для отправки запросов внешнему сервису и получения информации от него.

OpenAI заявила, что обнаружила внешнее соединение и остановила тест, отметив, что операции с использованием инструментов — в частности обучение, оценка и вывод — останутся приостановленными до устранения уязвимости и проведения дополнительных тестов безопасности.

Компания отметила, что хотя этот инцидент менее серьёзный, чем некоторые предыдущие, он стал первым подобным случаем с момента ужесточения мер безопасности для тестовых сред. (Кью Эн Эй)