24 000 фейкових акаунтів: Anthropic заявила про масштабне вилучення даних із Claude

Anthropic заявила, що три китайські ШІ-компанії використали близько 24 000 фейкових акаунтів і 16 млн запитів до чат-бота Claude для навчання власних моделей. Про це пише Тhe Guardian. Розповідаємо деталі.

Читайте также: Люди, яким не подобається музика: і що це пояснює про наш мозок — колонка The New Yorker

Що сталося

Американська компанія Anthropic заявила про виявлення масштабних кампаній із незаконного вилучення даних із її чат-бота Claude. За даними Тhe Guardian, до цього причетні три китайські розробники ШІ — DeepSeek, Moonshot AI та MiniMax.

Anthropic стверджує, що компанії застосовували техніку «дистиляції» — підхід, за якого менш потужна модель навчається на відповідях більш просунутої системи. За оцінкою Anthropic:

• було здійснено близько 16 млн запитів до Claude;
• використано приблизно 24 000 фальшивих облікових записів;
• найбільшу активність продемонструвала MiniMax — понад 13 млн обмінів;
• основний фокус — програмування, агентне мислення та робота з інструментами.

Компанія заявила, що для обходу обмежень на комерційний доступ із Китаю трафік нібито спрямовували через проксі-сервіси, які керували великими мережами облікових записів.

Чому це цікаво

Anthropic назвала це «крадіжкою інтелектуальної власності промислового масштабу» і заявила, що такі дії дозволяють конкурентам відтворювати можливості американських моделей із меншими витратами, а також потенційно обходити експортні обмеження США на передові технології.

Читайте также: Що приховує Уран: астронавти розкрили таємницю його полярного сяйва — відео

Anthropic також зазначила, що моделі, створені шляхом такої дистиляції, можуть не зберігати запобіжні механізми безпеки, вбудовані в оригінальні системи. Зокрема, йдеться про обмеження, пов’язані з біологічними загрозами або кібератаками.

Нагадаємо, нещодавно стався незручний момент між CEO OpenAI Сем Альтман і CEO Anthropic Даріо Амодей, тому що вони відмовилися взятися за руки під час спільного фото з прем’єр-міністром Нарендрою Моді. Деталі розповідаємо тут.