Раздел Технологии выходит при поддержке
В прошлом месяце OpenAI добавила в GPT-4o улучшенную генерацию изображений, которая позволяет создавать реалистичные изображения. В том числе значительно улучшилась генерация текста на изображениях. Люди уже начали использовать эту функцию для создания фальшивых квитанций из ресторанов, что может стать еще одним инструментом в уже широком арсенале ИИ-дипфейков, которые применяют мошенники.
Инвестор и активный пользователь соцсетей Диди Дас опубликовал в X фото поддельного чека из реального стейкхауса в Сан-Франциско, который, по его словам, был создан с помощью 4o.
Другие пользователи также смогли воспроизвести подобные результаты, в частности добавляя пятна от еды или напитков, чтобы сделать подделку еще более реалистичной.
Самый правдоподобный пример происходит из Франции. Один из пользователей LinkedIn опубликовал смятый ИИ-сгенерированный чек от местной сети ресторанов.
СпецпроектыМийний пилотяг Dreame R10 Pro Aqua: швидкі насадки-швабри, підсвітка і 5 ступенів фільтраціїРозетка вже відкрила передзамовлення на ноутбуки MSI серії GeForce RTX 50
TechCrunch также протестировал 4o и смог создать поддельную квитанцию для Applebee’s в Сан-Франциско. Хотя в этом случае было несколько очевидных признаков, что чек фальшивый. Во-первых, сумма общая использует запятую вместо точки. Во-вторых, математика не сходится. Модели ИИ все еще имеют проблемы с базовыми вычислениями, поэтому это не стало неожиданностью.
Но мошенникам не составит труда исправить несколько цифр с помощью редактора изображений или более точных запросов к ИИ.
Очевидно, что возможность легко создавать поддельные чеки открывает огромные возможности для мошенничества. Нетрудно представить, как подобные технологии используют для фальшивого возмещения расходов.
Представительница OpenAI Тая Кристиансон заявила, что все изображения, созданные ChatGPT, содержат метаданные, указывающие на их происхождение. Она также добавила, что OpenAI принимает меры в случае нарушения правил использования и постоянно учится на основе реального использования и отзывов пользователей.
На вопрос, почему ChatGPT вообще позволяет генерировать поддельные чеки, и соответствует ли это политике OpenAI, которая запрещает мошенничество, Кристиансон ответила, что цель OpenAI — предоставить пользователям как можно больше творческой свободы. Вместе с тем фейковые квитанции могут использоваться не только для мошенничества, но и для обучения финансовой грамотности, создания оригинального искусства и рекламы продуктов.
Источник: TechCrunch
Раздел Технологии выходит при поддержке
Favbet Tech – это IT-компания со 100% украинской ДНК, которая создает совершенные сервисы для iGaming и Betting с использованием передовых технологий и предоставляет доступ к ним. Favbet Tech разрабатывает инновационное программное обеспечение через сложную многокомпонентную платформу, способную выдерживать огромные нагрузки и создавать уникальный опыт для игроков.
