В прошлом месяце OpenAI обновила GPT-4o, добавив новую функцию генерации изображений, которая позволяет создавать чрезвычайно реалистичные картинки. В частности, значительно улучшилась также генерация текста на изображениях, что уже используется некоторыми пользователями для создания поддельных квитанций из ресторанов. Это может стать еще одним инструментом в уже расширенном арсенале ИИ-дипфейков, которые используют мошенники.
Об этом сообщает ProIT
Активный пользователь соцсетей и инвестор Диди Дас поделился в X фотографией поддельного чека, созданного с помощью новой версии GPT-4o. Он отметил, что реалистичность изображения впечатляет.
“Я думаю, что в оригинальном изображении буквы слишком идеальны и не изгибаются вместе с бумагой. Они выглядят так, будто парят над бумагой.”
Другие пользователи также смогли получить схожие результаты, добавляя детали, такие как пятна от еды или напитков, чтобы сделать подделку еще более убедительной. Ярчайший пример был создан во Франции, где один из пользователей LinkedIn поделился смятым ИИ-сгенерированным чеком из местной сети ресторанов.
Другой известный ресурс, TechCrunch, протестировал новую функцию и смог создать поддельную квитанцию для Applebee’s в Сан-Франциско. Однако в этом случае были замечены некоторые очевидные ошибки, такие как использование запятой вместо точки для отделения десятичных знаков, а также несоответствие сумм. Это подчеркивает, что модели ИИ все еще имеют трудности с базовыми вычислениями, что не стало неожиданностью.
Тем не менее, мошенникам не составит труда исправить несколько цифр с помощью редактора изображений или более точных запросов к ИИ. Легкость создания поддельных чеков открывает новые возможности для мошенничества, ведь несложно представить, как такие технологии могут использоваться для фальшивых возмещений расходов.
Представительница OpenAI Тая Кристиансон отметила, что все изображения, созданные ChatGPT, содержат метаданные, указывающие на их происхождение. Она также добавила, что OpenAI принимает меры в случае нарушения правил использования и постоянно адаптируется на основе реального использования и отзывов пользователей.
На вопрос, почему ChatGPT вообще позволяет генерировать поддельные чеки и соответствует ли это политике OpenAI, которая запрещает мошенничество, Кристиансон ответила, что цель компании – предоставить пользователям максимальную творческую свободу. Она также отметила, что поддельные квитанции могут использоваться не только для мошеннических целей, но и для обучения финансовой грамотности, создания оригинального искусства и рекламы продуктов.
Сэм Альтман, один из основателей OpenAI, прокомментировал тренд, связанный с новым генератором изображений GPT-4o, заметив: «Я сделал из тебя Ghibli, ха-ха».
