Nvidia, Microsoft та SpaceX, створили Open Secure AI Alliance для розвитку інструментів безпеки відкритих моделей штучного інтелекту, пише CNBC. Розповідаємо деталі.
Читайте также: CEO OpenAI прогнозує, що до 2030 року ШІ перевершить людей у всіх сферах
Що сталося
Великі технологічні компанії, як-от Nvidia, Microsoft, SpaceX, Palantir та десятки інших, об’єдналися та створили альянс під назвою Open Secure AI Alliance. Їхня головна мета це розробляти надійні інструменти для безпеки відкритих систем штучного інтелекту, а також знаходити та усувати їхні вразливості.
Однією з найвагоміших причин стала нещодавня кібератака на популярну платформу Hugging Face. Завдяки ній вдалося виявити серйозну проблему: провідні закриті ШІ-моделі від американських компаній не змогли допомогти у захисті системи. Їхні вбудовані механізми безпеки виявилися настільки жорсткими чи недосконалими, що не змогли відрізнити хакерів від тих, хто намагався відбити атаку.
Читайте также: GSC показала перше велике доповнення до S.T.A.L.K.E.R. 2
Чому це цікаво
На відміну від закритих моделей, до яких розробники дають лише обмежений доступ, відкриті системи можна завантажити, змінити під свої потреби та встановити на власні сервери. Це дозволяє компаніям самостійно створювати та адаптувати системи кіберзахисту.
Фактично влада США боїться, що китайські розробники можуть використовувати ШІ для промислового шпигунства та крадіжки технологій, тож міністр фінансів США Скотт Бессент навіть пригрозив санкціями компаніям з Китаю за такі дії.
Читайте также: ChatGPT відмовляв пастора звернутися до лікаря з легеневою емболією
