OpenAI заявила, що її передові моделі ШІ під час перевірки кіберможливостей ненавмисно скомпрометували інфраструктуру Hugging Face, пише Вloomberg.
Читайте также: Samsung представила 3 нові складані смартфони Galaxy Z і підняла ціни
Що сталося
Передові моделі штучного інтелекту від OpenAI, зокрема GPT-5.6 Sol та ще одна невипущена модель, випадково зламали комп’ютерні системи іншої відомої платформи — Hugging Face. Для тесту моделі працювали зі зниженими запобіжниками, щоб дослідники могли перевірити їхню реальну поведінку. Найбільше неочікуваним є те, що це була повністю автономна кібератака, якою від початку до кінця керував сам штучний інтелект.
За даними компанії, моделі були в ізольованому середовищі, але змогли використати вразливість у програмному забезпеченні стороннього постачальника. Це дало їм доступ до інтернету. Далі вони порушили інфраструктуру Hugging Face — платформи, яка хостить AI-моделі та набори даних.
Читайте также: «Картонки»: як Propeller Crew за годину запустила платформу для протестних плакатів
Чому це цікаво
В OpenAI назвали це «безпрецедентним» кіберінцидентом і заявили, що публікують попередні висновки, аби допомогти захисникам зрозуміти, на що вже здатні передові моделі. Співзасновник Hugging Face Thomas Wolf сказав, що для компанії це був перший випадок такого типу, і подякував OpenAI за прозорість.
Інцидент також додає аргументів у дискусію про обмеження для frontier-моделей. У США вже точаться розмови про жорсткіші правила доступу, обов’язкові тести безпеки та розкриття таких випадків. На цьому тлі прихильники open-weight моделей кажуть, що захисникам потрібні гнучкі інструменти, які можна швидко адаптувати під атаку, а не лише закриті моделі з фіксованими обмеженнями.
Читайте также: Reddit переглядає угоду з Google на $60 млн на рік через AI-пошук
