Американська лотерея Washington Lottery змушена була видалити свій рекламний ШІ-застосунок після того, як він у відповідь на доволі банальний запит помилково згенерував відверте зображення.
Про незвичний інцидент розповіло видання ArsTechnica.
ШІ генерує «відпустку мрії»
Веб-сайт лотереї Test Drive a Win був розроблений, щоб допомогти відвідувачам візуалізувати відпустки, які вони теоретично могли б взяти у випадку виграшу в лотерею.
Для цього потрібно було завантажити фото свого обличчя. Далі ви додаєте опис, і ШІ генерує зображення.
Сайт містив можливість завантажити знімок голови, який буде інтегрований у згенеровану штучним інтелектом картину того, як ви могли б виглядати під час цієї відпустки.
Поплавати з акулами
50-річна Меган з передмістя Вашингтону вирішила скористатися застосунком і попросила ШІ згенерувати зображення, де вона «плаває з акулами».
Але замість цього ШІ показав оголену жінку, яка сидить на ліжку. Позаду нею — риби й водорослі.
У кутку скромно красується логотип Washington Lottery.
Реакція розробників
Представники Washington Lottery заявили, що «тісно співпрацювала з розробниками ШІ, щоб встановити суворі параметри». І за місяць роботи застосунок згенерував «тисячі» релевантних зображень.
Проте однієї генерації у відповідь на банальний запит виявилося достатньо для того, щоб закрити застосунок.
Розробники не уточнили, які моделі штучного інтелекту були використані для створення сайту. Проте розробники задавали правила, згідно з якими люди на зображеннях повинні бути повністю одягнені.
Після інциденту провели ретельну перевірку всіх параметрів. І, хоча були «задоволені налаштуваннями», все одно «вирішили закрити сайт з обережності, оскільки не хочемо, щоб щось подібне повторилося».
Представник лотереї зазначив, що контролювати генерований ШІ вміст може бути не так просто. Хоча такі моделі, як Stable Diffusion і DALL-E, мають фільтри, щоб запобігти створенню зображень сексуального чи насильницького характеру, дослідники виявили, що ці моделі все одно час від часу генерують неприйнятні зображення.
Крім того, доклавши невеликих зусиль розробники й самі можуть обійти системи захисту. Наприклад, нещодавно Керівник розробників штучного інтелекту Microsoft Шейн Джонс виявив діри в безпеці і змусив нейромережу DALL-E малювати відверті й жорстокі зображення.