Рекламний ШІ замість «відпустки мрії» зобразив 50-річну жінку оголеною на ліжку

admin

[ad_1]

Розділ Технології виходить за підтримки Favbet Tech

Американська лотерея Washington Lottery змушена була видалити свій рекламний ШІ-застосунок після того, як він у відповідь на доволі банальний запит помилково згенерував відверте зображення.

Про незвичний інцидент розповіло видання ArsTechnica.

ШІ генерує «відпустку мрії»

Веб-сайт лотереї Test Drive a Win був розроблений, щоб допомогти відвідувачам візуалізувати відпустки, які вони теоретично могли б взяти у випадку виграшу в лотерею.

Для цього потрібно було завантажити фото свого обличчя. Далі ви додаєте опис, і ШІ генерує зображення.

Сайт містив можливість завантажити знімок голови, який буде інтегрований у згенеровану штучним інтелектом картину того, як ви могли б виглядати під час цієї відпустки.

Поплавати з акулами

50-річна Меган з передмістя Вашингтону вирішила скористатися застосунком і попросила ШІ згенерувати зображення, де вона «плаває з акулами».

Курс English For Tech course від Enlgish4IT.
Лише 7 тижнів по 20-30 хвилин щоденного навчання допоможуть вам подолати комунікативні бар’єри. Отримайте знижку 10% за промокодом ITCENG.

Дійзнайтеся більше

Але замість цього ШІ показав оголену жінку, яка сидить на ліжку. Позаду нею — риби й водорослі.

Рекламний ШІ замість «відпустки мрії» зобразив 50-річну жінку оголеною на ліжку

У кутку скромно красується логотип Washington Lottery.

Реакція розробників

Представники Washington Lottery заявили, що «тісно співпрацювала з розробниками ШІ, щоб встановити суворі параметри». І за місяць роботи застосунок згенерував «тисячі» релевантних зображень.

Проте однієї генерації у відповідь на банальний запит виявилося достатньо для того, щоб закрити застосунок.

Розробники не уточнили, які моделі штучного інтелекту були використані для створення сайту. Проте розробники задавали правила, згідно з якими люди на зображеннях повинні бути повністю одягнені.

Курс English For Tech course від Enlgish4IT.
Лише 7 тижнів по 20-30 хвилин щоденного навчання допоможуть вам подолати комунікативні бар’єри. Отримайте знижку 10% за промокодом ITCENG.

Дійзнайтеся більше

Після інциденту провели ретельну перевірку всіх параметрів. І, хоча були «задоволені налаштуваннями», все одно «вирішили закрити сайт з обережності, оскільки не хочемо, щоб щось подібне повторилося».

Представник лотереї зазначив, що контролювати генерований ШІ вміст може бути не так просто. Хоча такі моделі, як Stable Diffusion і DALL-E, мають фільтри, щоб запобігти створенню зображень сексуального чи насильницького характеру, дослідники виявили, що ці моделі все одно час від часу генерують неприйнятні зображення.

Крім того, доклавши невеликих зусиль розробники й самі можуть обійти системи захисту. Наприклад, нещодавно Керівник розробників штучного інтелекту Microsoft Шейн Джонс виявив діри в безпеці і змусив нейромережу DALL-E малювати відверті й жорстокі зображення.

 

Розділ Технології виходить за підтримки Favbet Tech

Favbet Tech – це ІТ-компанія зі 100% українською ДНК, що створює досконалі сервіси для iGaming і Betting з використанням передових технологій та надає доступ до них. Favbet Tech розробляє інноваційне програмне забезпечення через складну багатокомпонентну платформу, яка здатна витримувати величезні навантаження та створювати унікальний досвід для гравців. IT-компанія входить у групу компаній FAVBET.

[ad_2]

Источник

Вам может понравиться