Минулого місяця OpenAI оновила GPT-4o, додавши нову функцію генерації зображень, яка дозволяє створювати надзвичайно реалістичні картинки. Зокрема, значно покращилася також генерація тексту на зображеннях, що вже використовується деякими користувачами для створення фальшивих квитанцій з ресторанів. Це може стати ще одним інструментом у вже розширеному арсеналі ШІ-діпфейків, які використовують шахраї.
Про це розповідає ProIT
Активний користувач соцмереж і інвестор Діді Дас поділився в X фотографією підробленого чека, створеного за допомогою нової версії GPT-4o. Він зазначив, що реалістичність зображення вражає.
“I think in the original image the letters are too perfect and they don’t bend with the paper. They look like hovering above the paper.”
Інші користувачі також змогли отримати схожі результати, додаючи деталі, як-от плями від їжі чи напоїв, щоб зробити підробку ще переконливішою. Найяскравіший приклад створили у Франції, де один з користувачів LinkedIn поділився зім’ятим ШІ-згенерованим чеком з місцевої мережі ресторанів.
Інший відомий ресурс, TechCrunch, протестував нову функцію і зміг створити фальшиву квитанцію для Applebee’s у Сан-Франциско. Проте, у цьому випадку були помічені деякі очевидні помилки, такі як використання коми замість крапки для відокремлення десяткових знаків, а також неузгодженість сум. Це підкреслює, що моделі ШІ все ще мають труднощі з базовими обчисленнями, що не стало несподіванкою.
Однак шахраям не буде складно виправити кілька цифр за допомогою редактора зображень або більш точних запитів до ШІ. Легкість створення підроблених чеків відкриває нові можливості для шахрайства, адже неважко уявити, як такі технології можуть використовуватися для фальшивих відшкодувань витрат.
Представниця OpenAI Тая Крістіансон зазначила, що всі зображення, створені ChatGPT, містять метадані, що вказують на їхнє походження. Вона також додала, що OpenAI вживає заходів у разі порушення правил використання та постійно адаптується на основі реального використання та відгуків користувачів.
На питання, чому ChatGPT взагалі дозволяє генерувати підроблені чеки, і чи відповідає це політиці OpenAI, яка забороняє шахрайство, Крістіансон відповіла, що мета компанії – надати користувачам максимально можливу творчу свободу. Вона також зазначила, що фальшиві квитанції можуть використовуватися не тільки для шахрайських цілей, а й для навчання фінансової грамотності, створення оригінального мистецтва та реклами продуктів.
Сем Альтман, один із засновників OpenAI, прокоментував тренд, пов’язаний з новим генератором зображень GPT-4o, зауваживши: «Я зробив з тебе Ghibli, ха-ха».
