Meta* анонсировала набор ИИ-инструментов, которые должны отлавливать рекламу, внешне безобидную, но фактически ведущую к материалам о сексуальном насилии над детьми (CSAM). «Онлайн-хищники сменили тактику, и реклама — одна из площадок, где мы видим это на практике», — говорится в заявлении Meta*. Схему, при которой запрещённый контент размещается вне Facebook* и Instagram*, чтобы избежать обнаружения, а объявление работает как скрытый указатель, компания называет signposting.
Объявление само по себе может выглядеть безобидным, но при этом скрыто вести людей к нелегальным материалам
, — поясняют в Meta*.
В основе — большая языковая модель, обученная распознавать именно такие случаи. Если ссылка признаётся нарушающей, её блокируют, после чего система ищет другие материалы с этим адресом — посты, комментарии, рекламные креативы. Объявления с заблокированными ссылками отклоняются ещё на этапе загрузки. Дополнительно Meta* усилила ИИ-проверки на контент с сексуальной эксплуатацией детей и запустила ИИ-агента, который «прощупывает» защиту платформы, чтобы находить новые враждебные тактики до их масштабирования. Система распознавания рецидивистов, пытающихся вернуться после бана, тоже обновлена.
С января по июнь 2026 года из Facebook* и Instagram* удалено 33,2 млн единиц контента с CSAM, более 97% из них — автоматически, до жалоб пользователей.
Анонс появился после публикаций, обвинявших Meta* в показе рекламы с CSAM. Ранее компания стала участником мирового соглашения на $17,1 млрд по делу об эксплуатации детей, а в августе её оштрафовали на $567 млн по иску из Нью-Мексико — суд установил, что Facebook и Instagram были спроектированы так, чтобы максимизировать время несовершеннолетних на платформах.
* Meta, Facebook и Instagram принадлежат Meta Platforms, которая признана в России экстремистской организацией; её деятельность в РФ запрещена.