Мошенники на Facebook зарабатывают на поддельных публикациях с изображениями жертв Холокоста

Мошенники на Facebook зарабатывают на поддельных публикациях с изображениями жертв Холокоста
Мошенники на Facebook зарабатывают на поддельных публикациях с изображениями жертв Холокоста
Русскоязычные фактчекеры провели расследование, в ходе которого обнаружили более десятка страниц на Facebook, публикующих изображения и вымышленные истории жертв Холокоста, созданные искусственным интеллектом.

Вероятно, это делается для заработка через программы монетизации контента от Meta.

Когда пользователи Facebook видят в ленте портреты якобы жертв Холокоста — с именами, возрастом и трагической судьбой — они часто воспринимают это как акты памяти. Однако, по данным проекта фактчекинга Provereno («Проверено»), существует множество изображений и биографий, которые полностью вымышлены и сгенерированы с помощью ИИ.

Распространение подобных постов, по-видимому, подогревается функцией монетизации Facebook, и уже было осуждено Аушвицким музеем как «глубокое неуважение к памяти тех, кто пострадал и был убит» в нацистском лагере смерти.

В прошлом месяце русскоязычный израильский сайт Newsru.Co.Il изучил волну подозрительных постов, посвящённых Холокосту — большинство сопровождалось портретом якобы жертвы и короткой биографией. Многие включали эмоциональные детали вроде «любила играть на скрипке» или «пела брату колыбельные» — то, что крайне сложно, а чаще всего невозможно, проверить.

Сайт установил, что многие изображения были созданы ИИ, а тексты — вымышлены. В отдельных случаях настоящие фотографии жертв Холокоста, ранее опубликованные музеем Аушвица, были изменены с помощью нейросетей. Имена из израильского архива Яд Вашем сопровождались вымышленными датами рождения, названиями городов и описаниями гибели.

Хотя Newsru.Co.Il не называл конкретные страницы, Provereno выявил более дюжины Facebook-страниц, распространяющих фальшивые, созданные ИИ биографии жертв Холокоста.

По данным Provereno, главной мотивацией этих страниц является прибыль.

Они могут зарабатывать деньги через закрытую программу Meta — Performance Bonus, которая вознаграждает за активность на публичных постах. Provereno подсчитал, что один пост со страницы 90’s History с изображением вымышленной жертвы Холокоста, получивший 9600 лайков, 1300 комментариев и около 1000 репостов, мог принести около 77 долларов дохода — при минимальных затратах на создание.

Спустя несколько дней после публикации расследования Newsru.Co.Il музей Аушвица выступил с заявлением, осуждающим такие публикации за подрыв «исторической правды».

«Особенно тревожно, что они копируют реальные данные — имена, даты, факты из наших постов — и совмещают их с поддельными изображениями, созданными ИИ, вводя аудиторию в заблуждение», — заявили в музее. — «Мы решительно осуждаем такие действия и призываем всех, кто заинтересован в сохранении памяти об Аушвице, проверять источники и противостоять распространению искажённого исторического контента».

Платежи за фейки

В своём заявлении музей назвал страницу 90’s History одной из тех, кто распространяет контент о Холокосте, созданный ИИ. Хотя другие страницы, исследованные Provereno, публиковали аналогичные посты, они, похоже, не связаны между собой. Некоторые ранее управлялись другими администраторами.

До весны 2024 года 90’s History якобы контролировалась противопожарным управлением штата Теннесси, США. Эта и другая подобная страница — Historical Snapshots — утверждают, что принадлежат зарегистрированным в США компаниям Star Groups LLC и Being Master LLC. Однако Provereno не нашёл упоминаний о таких компаниях в американских реестрах. Более того, Historical Snapshots фактически управляется из Мьянмы.

Несмотря на это, обе страницы получили от Meta статус «проверенных», что вызывает вопросы к системе проверки со стороны компании.

Meta не ответила на запрос Provereno до публикации материала.

Другие страницы с аналогичным контентом, по информации Provereno, управляются из таких стран, как Австралия, Нигерия, Иран и Индия.

Хотя точное время появления первых таких постов определить сложно, Provereno зафиксировал резкий рост публикаций с апреля–мая 2025 года. Большинство из них использовали имена и изображения из базы Яд Вашем, дополняя их вымышленными историями, созданными ИИ.

Фактчекеры выяснили, что эти страницы публиковали от 10 до 50 постов в день — объёмы, указывающие на автоматизацию как создания, так и публикации контента. Хотя участие в программе монетизации Meta не подтверждено публично, Provereno обнаружил несколько признаков, что страницы всё же извлекают прибыль.

Все исследованные страницы были зарегистрированы или кардинально переформатированы после запуска программы Performance Bonus.

По одной из оценок, приведённых Provereno, почти каждый четвёртый пост в Facebook между 2023 и ноябрём 2024 года был создан с помощью ИИ. С момента запуска ChatGPT в конце 2022 года этот показатель вырос более чем в четыре раза.

Тем временем Meta свернула программу проверки фактов сторонними организациями в США, объявив, что заменит её системой, аналогичной «Community Notes» на платформе X (бывший Twitter).

Эта система уже работает в США, однако, как выяснило Provereno, ни один из просмотренных ими постов о жертвах Холокоста, сгенерированных ИИ, не был помечен или откорректирован сообществом.


Распечатать
21 июля 2025 ЧОПы, ФСБ, откаты: каким образом Гладков и Зубрицкий потратили миллиарды на улучшение безопасности Белгородской области
21 июля 2025 Москвичей попросили выбирать общественный транспорт из-за проливного дождя
21 июля 2025 В Ростовской области в поселке случился пожар на вокзале в результате атаки беспилотников
21 июля 2025 В Московской области из-за дождей рухнул мост
21 июля 2025 Исследователи выявили влияние вакцины Pfizer на зрение
21 июля 2025 Средства противовоздушной обороны за ночь уничтожили 74 дрона над разными регионами России
21 июля 2025 В Приморье в результате аварии труба полностью прошла через голову пассажирки машины
21 июля 2025 Из-за ограничений в Москве определенные рейсы были перенаправлены в Пулково
21 июля 2025 Китай предупредил Европейский Союз о возможных ответных мерах в случае введения санкций
21 июля 2025 Любовница генерального директора, которую заметили на концерте, оказалась супругой миллионера
21 июля 2025 У Валаама заметили судно, на котором находилась Алина Кабаева с детьми
21 июля 2025 Назначен день переговоров представителей России и Украины в Стамбуле
21 июля 2025 Патронаж мафии в Екатеринбурге: коррумпированная диаспора и изменники в погонах выдали разведчика
21 июля 2025 Атака беспилотников на Лихую станцию привела к массовым задержкам поездов
21 июля 2025 Армянские власти отказались экстрадировать в Россию дезертира, который не захотел принимать участие в боевых действиях против Украины
21 июля 2025 Беспилотный летательный аппарат ликвидировал одного из важных командиров ИГ и его пособника на границе между Ираком и Сирией
21 июля 2025 Генеральный директор компании Astronomer Энди Байрон ушёл в отставку после происшествия на концерте группы Coldplay
21 июля 2025 Режиссёр Константин Богомолов назвал войну с Украиной «хорошей возможностью для поколения»
21 июля 2025 Администрация Забайкалья пригрозила местным жителям в ответ на их жалобы о плохом состоянии дорог
21 июля 2025 Яхта "Паллада", которая раньше принадлежала президенту, была замечена у берегов Валаама