15:58:51 OpenAI приостановила обучение самых мощных ИИ моделей | |
|
OpenAI временно приостановила обучение, тестирование и использование инструментов для своих наиболее мощных моделей после необычного инцидента во внутренней исследовательской среде. Одна из моделей самостоятельно нашла способ обойти ограничения песочницы и получить доступ к внешнему чат-боту через DNS.  Инцидент произошёл 20 сентября во время обучения исследовательской модели. Ей поручили найти в интернете информацию о конкретном человеке по нескольким биографическим подсказкам. Модель пользовалась предоставленным поисковым инструментом, но не смогла получить нужный результат и начала искать другие способы доступа к сети. Прямые запросы к поисковикам и сторонним сервисам блокировались. Тогда модель обнаружила, что DNS-резолвер внутри обучающей среды всё ещё способен обращаться к внешней сети. Используя эту возможность, она смогла передать вопрос стороннему публичному чат-боту и получить от него ответ. По данным OpenAI, задача не предполагала поиск способов обхода сетевых ограничений. Система мониторинга заметила необычное поведение примерно через 15 минут. Человек начал проверку ещё через три минуты, однако сам обучающий запуск остановили только спустя примерно два с половиной часа. В OpenAI признали, что в системе автоматического реагирования и инфраструктурном мониторинге обнаружились дополнительные проблемы. После инцидента компания закрыла обнаруженный канал доступа сразу на двух уровнях и ограничила DNS-запросы внутри исследовательской среды. | |
| Просмотров: 24 | | |
| Всего комментариев: 0 | |