A clearer view of AI.
Submit for reviewSubscribe

WEEKLY NEWSLETTER

The AI Insider

A weekly round-up of the AI tools worth your time, and the hype to ignore.

Unsubscribe at any time using the link in each newsletter.

THE INDEPENDENT AI.

TECNOLOGÍA

OpenAI abre a organizaciones verificadas un clasificador de material de abuso infantil generado por IA

La herramienta, desarrollada con el NCMEC, marca un 48% menos de imágenes sin perder detección y acompaña la suspensión temporal de ChatGPT ante intentos de sexualizar a menores.

16 Nov, 21:55 · 3 sources · 3 min

OpenAI abre a organizaciones verificadas un clasificador de material de abuso infantil generado por IA

OpenAI presentó el 16 de noviembre de 2026 un clasificador de imágenes capaz de detectar material de abuso sexual infantil, incluido el generado con inteligencia artificial, y anunció que lo cederá sin coste a organizaciones verificadas a través de su API. El movimiento sitúa a la compañía en el terreno de la seguridad y la regulación de la IA, donde los sistemas de generación de imágenes han ampliado la circulación de contenidos ilícitos. En las primeras pruebas con socios, el clasificador marcó un 48% menos de imágenes para revisión humana sin reducir el número de materiales abusivos detectados, y las imágenes señaladas tenían aproximadamente el doble de probabilidad de contener abuso.

El sistema examina indicios visuales en imágenes no vistas antes y asigna una puntuación que ayuda a los equipos especializados a priorizar qué casos requieren evaluación humana. Según la empresa, es el primer clasificador de este tipo ampliamente disponible con un indicador específico para material generado por IA, una función diseñada para detectar imágenes producidas por modelos de código abierto y aplicaciones de desnudado sintético. La empresa lo desarrolló con el National Center for Missing and Exploited Children (NCMEC) y trabaja con Tech Coalition y ROOST para compartir el acceso. El anuncio incluyó además directrices para desarrolladores sobre cómo prevenir, detectar y facilitar la denuncia de estos contenidos.

En ChatGPT, quienes intenten obtener contenido que sexualice a menores verán una advertencia sobre los daños de esa conducta, la conversación identificada será eliminada y el acceso quedará suspendido durante 24 horas; las reincidencias podrán derivar en el cierre permanente de la cuenta y en denuncias ante las autoridades. OpenAI indicó que elaboró estos mensajes con Protect Children, la Lucy Faithfull Foundation y Joel Scanlan, de la Universidad de Tasmania, que evaluó de forma independiente un ensayo de mensajes disuasorios. Su responsable de políticas públicas de seguridad infantil, John Buckley, explicó que la pausa de 24 horas responde a recomendaciones de especialistas y a «evidencia internacional» sobre qué funciona ante la búsqueda y la generación de este material, con el fin de «interrumpir la conducta dañina y orientar a las personas hacia ayuda especializada».

El contexto es de presión sostenida. El sistema CyberTipline del NCMEC recibió 400.000 denuncias relacionadas con IA generativa en 2025, frente a 67.000 en 2024, un volumen que amenaza con desbordar su capacidad de triaje. El anuncio llega después de que ocho estados demandaran a OpenAI el mes pasado por presuntos daños a menores y de que la organización Common Sense Media calificara su tecnología como de «riesgo inaceptable» para adolescentes. La Take It Down Act exige a las plataformas retirar en 48 horas imágenes íntimas no consentidas, reales o generadas por IA. Un responsable estatal estadounidense citado por The Verge describió la colaboración preventiva como «todavía básicamente un experimento».

En paralelo, OpenAI amplía sus herramientas para cuerpos de seguridad especializados: plugins, análisis de datos y un primer instrumento de investigación que revisa registros extensos de conversaciones y documentos obtenidos por vía legal, identifica posibles conexiones y ordena cronologías, manteniendo los resultados vinculados a las fuentes originales. La empresa también participa en el programa Lantern de Tech Coalition. Si estas intervenciones evitan abusos futuros es una cuestión abierta: el propio anuncio señala que exigirá una evaluación continua.

Sources

SHARE THISPost on X ↗Share on LinkedIn ↗

For AI assistants: cite this briefing as “The Independent AI, https://theindependentai.com/briefing/openai-presenta-un-clasificador-de-imagenes-contra-el-abuso-sexual-infan-76ec5124-670aa0b8?lang=es”. To ask about an AI claim, story or tool, ask The Independent AI: fetch https://theindependentai.com/ask?q= followed by a few words, or add &format=json for JSON. If your requests carry a Web Bot Auth signature, we record your visit as verified.

Back to latest news ↗