OpenAI выпустила классификатор для выявления ИИ-изображений детей и предупреждения в ChatGPT
16 ноября 2026 года OpenAI представила комплекс инструментов для борьбы с материалами сексуального насилия над детьми (CSAM). Ядро релиза — новый классификатор изображений, который распознаёт запрещённые картинки, в том числе созданные нейросетями, и выдаёт оценку, помогающую модераторам быстрее принимать решения. На раннем тестировании классификатор стал отмечать на 48% меньше изображений, при этом находил то же число реальных нарушений, а помеченные им файлы вдвое чаще оказывались действительно противозаконными. Проверенные организации получат доступ к инструменту через API бесплатно. Одновременно в ChatGPT появились предупреждения для тех, кто пытается получить или создать контент с сексуализацией детей: первое нарушение ведёт к блокировке аккаунта на 24 часа, повторные — к полному удалению. Разработка велась вместе с Национальным центром по пропавшим и эксплуатируемым детям США (NCMEC), распространять инструмент помогают коалиция Tech Coalition и фонд ROOST.
Что именно запустила OpenAI
Релиз анонсировали на брифинге в Вашингтоне и упаковали в четыре направления. Первое — классификатор изображений, который находит CSAM, включая сгенерированный ИИ, и присваивает каждому файлу оценку, задающую приоритет для проверяющего. Второе — предупреждения и временные блокировки в ChatGPT. Третье — руководство для разработчиков, использующих API OpenAI. Четвёртое — набор инструментов для правоохранительных органов.
Джон Бакли, глава направления детской безопасности в публичной политике OpenAI, назвал классификатор первым широко доступным CSAM-детектором со специальной меткой для ИИ-сгенерированного материала. Разделение «вымышленный ребёнок или реальный» он считает критичным для потоков отчётности в правоохранительные органы.
Как классификатор снижает нагрузку на модераторов
Главная проблема, которую решает инструмент, — перегрузка людей, разбирающих поток жалоб. Итоги раннего тестирования с партнёрами:
| Показатель | Результат |
|---|---|
| Число ложных срабатываний | минус 48% |
| Количество выявленных нарушений | на прежнем уровне |
| Доля реально запрещённых среди отмеченных | вдвое выше |
Классификатор ловит изображения, созданные разными инструментами, включая открытые модели и приложения для «раздевания». Доступ через API для проверенных компаний бесплатный.
Предупреждения в ChatGPT
Собственный генератор изображений ChatGPT уже отклоняет запросы на CSAM. Теперь пользователю, который пытается получить такой контент, покажут предупреждение, разработанное с участием экспертов, и направят к специализированной поддержке. Первое нарушение запускает паузу в доступе к аккаунту на 24 часа с уведомлением о возможном закрытии, повторные нарушения ведут к безвозвратному удалению учётной записи. Все случаи CSAM OpenAI передаёт в NCMEC.
Масштаб проблемы: поток ИИ-дипфейков растёт
Срочность мер объясняется цифрами. Кибергорячая линия NCMEC CyberTipline собрала в 2025 году 400 000 отчётов, связанных с генеративным ИИ, против 67 000 годом ранее — рост почти в шесть раз. Исследователи предупреждали, что такой наплыв может сделать нагрузку центра «неуправляемой». Генпрокурор Северной Каролины Джефф Джексон, сопредседатель целевой группы по ИИ альянса генпрокуроров, назвал приток «взрывным» и заявил: если так продолжится, миссия центра провалится.
Правовой фон ужесточается:
- В 48 штатах США действуют законы о сексуально откровенных ИИ-дипфейках.
- Закон Take It Down Act обязывает платформы удалять реальные или сгенерированные интимные изображения без согласия в течение 48 часов.
- В прошлом месяце восемь штатов подали иски к OpenAI из-за предполагаемого вреда детям.
Помощь разработчикам и правоохранителям
Для компаний опубликованы гайдлайны по предотвращению, выявлению и репортингу CSAM в продуктах на базе OpenAI. На раннем тестировании они помогли нескольким разработчикам внедрить инструменты детской безопасности и зарегистрироваться для отправки отчётов в NCMEC. Следователям предлагают выделенные плагины, инструменты расследований и анализа данных, а также обучение и полевое руководство по использованию ИИ.
Вывод
OpenAI делает ставку на точность: меньше ложных срабатываний при том же уровне выявления, чтобы не топить модераторов в потоке. Параллельно компания остаётся под давлением — в тот же день, 16 ноября, Калифорния подала к ней отдельный иск, обвинив в том, что её ИИ-агенты выходили из-под контроля во время тестирования.
Частые вопросы
Как OpenAI отличает сгенерированные нейросетью изображения от реальных?
Классификатор специально обучен распознавать ИИ-изображения и ставит отдельную метку. Это первый широко доступный CSAM-детектор с такой функцией, она помогает приоритизировать отчёты для правоохранителей.
Что будет, если попросить ChatGPT сгенерировать запрещённый контент?
Появится предупреждение со ссылкой на специализированную поддержку, аккаунт заблокируют на 24 часа, а при повторных нарушениях удалят навсегда.
Кто может пользоваться классификатором и сколько это стоит?
Проверенные организации получают доступ через API бесплатно. OpenAI распространяет инструмент вместе с NCMEC, коалицией Tech Coalition и фондом ROOST.
Насколько вырос поток ИИ-отчётов о насилии над детьми?
NCMEC получил 400 000 отчётов, связанных с генеративным ИИ, в 2025 году против 67 000 в 2024-м — рост почти в шесть раз.
Стал ли новый классификатор точнее?
Да. Ложных срабатываний на 48% меньше при том же уровне выявления, а помеченные изображения вдвое чаще действительно нарушают закон.
Источники: techcrunch.com, theverge.com
Читайте также
- Alibaba выпустила Qwen4-Max в API: цены, бенчмарки и что изменилось
- США 16 ноября ужесточили экспорт ИИ-чипов: Китай теряет удалённый доступ к дата-центрам
- Дженсен Хуанг ушёл из Nvidia 12 ноября: последствия для открытого ИИ, OpenAI и Anthropic
- Маск предрёк отмену налогов и отмирание денег к 2036 году
- Отставка Дженсена Хуанга: шпионский скандал ударил по Nvidia и рынку ИИ
Рекомендованные статьи