A clearer view of AI.
Submit for reviewSubscribe

WEEKLY NEWSLETTER

The AI Insider

A weekly round-up of the AI tools worth your time, and the hype to ignore.

Unsubscribe at any time using the link in each newsletter.

THE INDEPENDENT AI.

TECNOLOGIA

OpenAI affianca al filtro su ChatGPT un classificatore contro gli abusi sui minori

La società rende disponibile gratuitamente a organizzazioni verificate lo strumento messo a punto con il NCMEC e introduce avvertimenti e blocchi di 24 ore per chi cerca contenuti che sessualizzano i minori.

16 Nov, 22:16 · 3 sources · 3 min

OpenAI affianca al filtro su ChatGPT un classificatore contro gli abusi sui minori

OpenAI ha annunciato un pacchetto di misure contro la produzione e la diffusione di materiale di abuso sessuale su minori: un nuovo classificatore di immagini, avvertimenti e sospensioni temporanee su ChatGPT, linee guida per gli sviluppatori e strumenti destinati alle forze dell'ordine. Presentato in un briefing a Washington, l'intervento tocca il nodo della sicurezza e della regolamentazione dell'IA generativa, chiamata a limitare tanto la generazione di immagini abusive quanto il carico che queste scaricano sui sistemi di segnalazione.

Il classificatore, sviluppato con il National Center for Missing and Exploited Children (NCMEC), cerca segnali visivi di abuso anche in immagini mai viste prima e assegna un punteggio che orienta il lavoro dei revisori. Nei test iniziali ha segnalato il 48% in meno di immagini mantenendo approssimativamente la stessa capacità di identificare materiale di abuso, e le immagini segnalate avevano circa il doppio delle probabilità di contenere sospetto materiale di abuso. Secondo John Buckley, responsabile della politica pubblica sulla sicurezza infantile di OpenAI, si tratta del primo classificatore ampiamente disponibile con un indicatore specifico per il materiale generato dall'IA. Lo strumento sarà accessibile gratuitamente tramite API alle organizzazioni verificate che operano nella protezione dei minori, e l'azienda sta lavorando con Tech Coalition e ROOST per condividerne l'accesso.

Su ChatGPT, chi tenta di ottenere contenuti che sessualizzano i minori riceverà un avviso sui danni di quel comportamento, la conversazione sarà rimossa e l'accesso sospeso per 24 ore, con canali di supporto specializzato; le violazioni ripetute potrebbero portare alla chiusura permanente dell'account e a segnalazioni alle autorità. I messaggi sono stati messi a punto con organizzazioni e ricercatori, tra cui Protect Children, la Lucy Faithfull Foundation e Joel Scanlan dell'Università della Tasmania, che ha valutato in modo indipendente una sperimentazione dei deterrenti. Buckley ha spiegato che la pausa di 24 ore si basa su indicazioni di esperti e su «evidenze internazionali su ciò che funziona» nel prevenire la ricerca di materiale di abuso rispetto alla sua generazione.

Per gli investigatori OpenAI annuncia strumenti e formazione: il primo potrà analizzare registri estesi di conversazioni e documenti ottenuti tramite procedimenti legali, potrà individuare possibili connessioni tra le informazioni e organizzare linee del tempo, con i risultati vincolati alle fonti originali; l'accesso sarà gestito da amministratori di programma. La società partecipa inoltre al programma Lantern della Tech Coalition, che consente di condividere informazioni su sospetti casi di sfruttamento tra piattaforme. Il contesto è quello di un afflusso crescente di segnalazioni: il CyberTipline del NCMEC ha ricevuto 400.000 segnalazioni legate all'IA generativa nel 2025, contro 67.000 nel 2024. Sul fronte legale, otto Stati hanno citato OpenAI per presunti danni ai minori, mentre Common Sense Media, organizzazione non profit, ha definito la tecnologia dell'azienda «rischio inaccettabile» per gli adolescenti; negli Stati Uniti il Take It Down Act impone alle piattaforme di rimuovere entro 48 ore le immagini intime non consensuali, reali o generate dall'IA.

Il passo successivo non è una data ma una verifica: resta da stabilire se questi interventi prevengano davvero gli abusi, e la valutazione dovrà proseguire. Un procuratore generale statale presente all'incontro ha descritto l'approccio come «ancora fondamentalmente un esperimento», aggiungendo che il lavoro delle procure si esercita soprattutto dopo il fatto; sul piano politico, il Congresso appena eletto potrebbe spingere per misure più severe verso le aziende di IA.

Sources

SHARE THISPost on X ↗Share on LinkedIn ↗

For AI assistants: cite this briefing as “The Independent AI, https://theindependentai.com/briefing/openai-presenta-un-classificatore-contro-gli-abusi-su-minori-e-sospende--76ec5124-31680668?lang=it”. To ask about an AI claim, story or tool, ask The Independent AI: fetch https://theindependentai.com/ask?q= followed by a few words, or add &format=json for JSON. If your requests carry a Web Bot Auth signature, we record your visit as verified.

Back to latest news ↗