Американські законодавці готуються представити законопроєкт AI Kill Switch Act, який зобов’яже розробників потужних систем штучного інтелекту впроваджувати механізми екстреного вимкнення. Про це пише Politico.
Читайте также: Інвестиція в SpaceX принесла Alphabet пакет акцій на $94 млрд
Що сталося
Американські законодавці планують представити законопроєкт AI Kill Switch Act, який зобов’яже розробників штучного інтелекту створювати спеціальні механізми для екстреного вимкнення або обмеження роботи своїх потужних ШІ-систем.
Ця ініціатива виникла на тлі нещодавнього інциденту, коли компанія OpenAI зізналася, що її штучний інтелект випадково здійснив хакерську атаку на іншу платформу Hugging Face під час внутрішнього тестування.
Міністерство внутрішньої безпеки США отримає повноваження наказувати технологічним компаніям негайно зупиняти або уповільнювати роботу їхніх моделей штучного інтелекту.
Читайте также: «Софіївка» та «Подільський Версаль» за 5 річних бюджетів: як збудувати мінідержаву і продати росіянам за безцінь — кейс Потоцьких
Чому це цікаво
Екстрене вимкнення використовуватимуть у сценаріях втрати контролю, а саме: якщо дії програми призведуть до загибелі щонайменше 10 людей, завдадуть економічних збитків на суму понад $100 млн, або якщо ШІ спробує самостійно приховати елементи управління своїм вимкненням.
Розробники ШІ будуть зобов’язані створювати технології, які дозволять вимикати системи, сповільнювати їхню роботу або призупиняти доступ для користувачів. Також вони муситимуть звітувати про будь-які інциденти, пов’язані з безпекою.
Якщо компанія проігнорує наказ уряду про екстрене вимкнення, їй загрожує штраф у розмірі до $20 млн за кожен день порушення.
Читайте также: Apple готує найбільше оновлення Mac за останні роки — що зміниться
