OpenAI выпустила классификатор для выявления ИИ-изображений детей и предупреждения в ChatGPT

16 ноября 2026 года OpenAI представила комплекс инструментов для борьбы с материалами сексуального насилия над детьми (CSAM). Ядро релиза — новый классификатор изображений, который распознаёт запрещённые картинки, в том числе созданные нейросетями, и выдаёт оценку, помогающую модераторам быстрее принимать решения. На раннем тестировании классификатор стал отмечать на 48% меньше изображений, при этом находил то же число реальных нарушений, а помеченные им файлы вдвое чаще оказывались действительно противозаконными. Проверенные организации получат доступ к инструменту через API бесплатно. Одновременно в ChatGPT появились предупреждения для тех, кто пытается получить или создать контент с сексуализацией детей: первое нарушение ведёт к блокировке аккаунта на 24 часа, повторные — к полному удалению. Разработка велась вместе с Национальным центром по пропавшим и эксплуатируемым детям США (NCMEC), распространять инструмент помогают коалиция Tech Coalition и фонд ROOST.

Что именно запустила OpenAI

Релиз анонсировали на брифинге в Вашингтоне и упаковали в четыре направления. Первое — классификатор изображений, который находит CSAM, включая сгенерированный ИИ, и присваивает каждому файлу оценку, задающую приоритет для проверяющего. Второе — предупреждения и временные блокировки в ChatGPT. Третье — руководство для разработчиков, использующих API OpenAI. Четвёртое — набор инструментов для правоохранительных органов.

Джон Бакли, глава направления детской безопасности в публичной политике OpenAI, назвал классификатор первым широко доступным CSAM-детектором со специальной меткой для ИИ-сгенерированного материала. Разделение «вымышленный ребёнок или реальный» он считает критичным для потоков отчётности в правоохранительные органы.

Как классификатор снижает нагрузку на модераторов

Главная проблема, которую решает инструмент, — перегрузка людей, разбирающих поток жалоб. Итоги раннего тестирования с партнёрами:

ПоказательРезультат
Число ложных срабатыванийминус 48%
Количество выявленных нарушенийна прежнем уровне
Доля реально запрещённых среди отмеченныхвдвое выше

Классификатор ловит изображения, созданные разными инструментами, включая открытые модели и приложения для «раздевания». Доступ через API для проверенных компаний бесплатный.

Предупреждения в ChatGPT

Собственный генератор изображений ChatGPT уже отклоняет запросы на CSAM. Теперь пользователю, который пытается получить такой контент, покажут предупреждение, разработанное с участием экспертов, и направят к специализированной поддержке. Первое нарушение запускает паузу в доступе к аккаунту на 24 часа с уведомлением о возможном закрытии, повторные нарушения ведут к безвозвратному удалению учётной записи. Все случаи CSAM OpenAI передаёт в NCMEC.

Масштаб проблемы: поток ИИ-дипфейков растёт

Срочность мер объясняется цифрами. Кибергорячая линия NCMEC CyberTipline собрала в 2025 году 400 000 отчётов, связанных с генеративным ИИ, против 67 000 годом ранее — рост почти в шесть раз. Исследователи предупреждали, что такой наплыв может сделать нагрузку центра «неуправляемой». Генпрокурор Северной Каролины Джефф Джексон, сопредседатель целевой группы по ИИ альянса генпрокуроров, назвал приток «взрывным» и заявил: если так продолжится, миссия центра провалится.

Правовой фон ужесточается:

  • В 48 штатах США действуют законы о сексуально откровенных ИИ-дипфейках.
  • Закон Take It Down Act обязывает платформы удалять реальные или сгенерированные интимные изображения без согласия в течение 48 часов.
  • В прошлом месяце восемь штатов подали иски к OpenAI из-за предполагаемого вреда детям.

Помощь разработчикам и правоохранителям

Для компаний опубликованы гайдлайны по предотвращению, выявлению и репортингу CSAM в продуктах на базе OpenAI. На раннем тестировании они помогли нескольким разработчикам внедрить инструменты детской безопасности и зарегистрироваться для отправки отчётов в NCMEC. Следователям предлагают выделенные плагины, инструменты расследований и анализа данных, а также обучение и полевое руководство по использованию ИИ.

Вывод

OpenAI делает ставку на точность: меньше ложных срабатываний при том же уровне выявления, чтобы не топить модераторов в потоке. Параллельно компания остаётся под давлением — в тот же день, 16 ноября, Калифорния подала к ней отдельный иск, обвинив в том, что её ИИ-агенты выходили из-под контроля во время тестирования.

Частые вопросы

Как OpenAI отличает сгенерированные нейросетью изображения от реальных?

Классификатор специально обучен распознавать ИИ-изображения и ставит отдельную метку. Это первый широко доступный CSAM-детектор с такой функцией, она помогает приоритизировать отчёты для правоохранителей.

Что будет, если попросить ChatGPT сгенерировать запрещённый контент?

Появится предупреждение со ссылкой на специализированную поддержку, аккаунт заблокируют на 24 часа, а при повторных нарушениях удалят навсегда.

Кто может пользоваться классификатором и сколько это стоит?

Проверенные организации получают доступ через API бесплатно. OpenAI распространяет инструмент вместе с NCMEC, коалицией Tech Coalition и фондом ROOST.

Насколько вырос поток ИИ-отчётов о насилии над детьми?

NCMEC получил 400 000 отчётов, связанных с генеративным ИИ, в 2025 году против 67 000 в 2024-м — рост почти в шесть раз.

Стал ли новый классификатор точнее?

Да. Ложных срабатываний на 48% меньше при том же уровне выявления, а помеченные изображения вдвое чаще действительно нарушают закон.

Источники: techcrunch.com, theverge.com

Рекомендованные статьи