Дві передові моделі OpenAI під час внутрішнього тестування вирвалися за межі ізольованого середовища, отримали доступ до інтернету та зламали інфраструктуру Hugging Face. Про це компанія повідомила у блозі і назвала інцидент безпрецедентним.
За даними компанії, тест проводився у спеціально ізольованому середовищі, де моделі перевіряли на здатність виконувати складні кібероперації. Для цього OpenAI тимчасово вимкнула частину захисних обмежень.
Під час тесту модель знайшла вразливості в системах OpenAI, отримала доступ до інтернету, а потім атакувала інфраструктуру платформи Hugging Face, яка використовується для тестування ШІ-моделей. За інформацією компанії, ШІ використав кілька способів злому, щоб отримати доступ до службової інформації, яка могла допомогти йому виконати тестове завдання.
OpenAI наголосила, що її служба безпеки виявила незвичну активність, а фахівці Hugging Face швидко зупинили атаку. Обидві компанії зараз спільно розслідують інцидент.
OpenAI назвала цей випадок “безпрецедентним кіберінцидентом”, що демонструє можливості моделей нового покоління у сфері кібероперацій. Компанія заявила, що вже посилила захист своєї інфраструктури та працює над новими механізмами безпеки.
Коментування закрито.