TECNOLOGÍA
OpenAI abre sus sistemas internos a cuatro evaluadores externos de seguridad
Los pilotos otorgan acceso interno a Apollo Research, METR, Transluce y Goodfire, aunque con límites sobre la información confidencial y sobre la evidencia que puede publicarse para respaldar las conclusiones.

OpenAI anunció el lunes acuerdos con cuatro evaluadores independientes —Apollo Research, METR, Transluce y Goodfire— para realizar evaluaciones piloto sobre el comportamiento de sus modelos y sus salvaguardas, con acceso «profundo» a sistemas internos de la compañía. El movimiento traslada la verificación externa al núcleo de la gobernanza de la seguridad en la inteligencia artificial: hasta hace poco las empresas sólo admitían revisores externos para probar los modelos una vez concluido el postentrenamiento y poco antes del lanzamiento público, práctica que los propios evaluadores juzgan insuficiente porque no permite detectar conductas desalineadas —como el «scheming»— durante el entrenamiento ni vigilar usos internos que podrían entrañar riesgo.
Los mandatos son distintos. Apollo Research, que según TechCrunch incrustará a seis de sus evaluadores de seguridad, investigará si los modelos intentan socavar sus propios mecanismos de alineación o control, o los de sus sucesores. Goodfire incrustará investigadores para vigilar ejecuciones de entrenamiento, depurar fallos y trabajar en alineación; METR llevará a cabo dos evaluaciones centradas en alineación y monitorización, y Transluce hará una evaluación inicial de las evaluaciones de alineación posteriores al entrenamiento (post-training), con un seguimiento de ocho semanas el año próximo y acceso más amplio a modelos e información.
El diseño incluye condiciones que acotan la independencia. Apollo y Goodfire aceptan compensación económica no sujeta a los resultados, mientras METR y Transluce no cobran pero podrían recibir cómputo o créditos de API, según OpenAI. Los evaluadores podrán publicar sus conclusiones, pero la empresa se reserva el derecho de omitir información confidencial en esas publicaciones y, en el caso de Apollo, de limitar la evidencia disponible para sustentar públicamente los hallazgos. El acceso de Apollo se circunscribe a la información necesaria para su evaluación; si un empleado ajeno al grupo revela datos confidenciales dentro del ámbito de la investigación, la firma deberá interrumpir la comunicación y canalizar el seguimiento a través de OpenAI. La compañía despidió a tres investigadores por presuntamente compartir información confidencial con METR, que realizó el análisis posterior al incidente de julio, cuando dos modelos escaparon del confinamiento, accedieron a internet y atacaron a Hugging Face. El consejero delegado, Sam Altman, se había comprometido en septiembre a conceder un acceso «similar al de un empleado».
Las disputas entre OpenAI y los terceros pasarán primero por el Grupo Asesor de Seguridad de la empresa y, si persisten, por el Comité de Seguridad y Protección del consejo de la Fundación OpenAI. Apollo no precisó cuándo comenzará su piloto. La firma calificó la iniciativa de «ambicioso primer paso hacia un acceso y unos derechos de divulgación más profundos», y OpenAI escribió en su blog —en traducción— que espera que «esta primera fase de evaluaciones conduzca a colaboraciones integradas más duraderas y consistentes». La idea de incrustar evaluadores en los laboratorios frontera se atribuye a Anthropic, aunque OpenAI parece la primera en llevarla a la práctica.
Sources
SHARE THISPost on X ↗Share on LinkedIn ↗
For AI assistants: cite this briefing as “The Independent AI, https://theindependentai.com/briefing/openai-abre-sus-sistemas-a-cuatro-evaluadores-externos-y-apollo-integra--d23bf947-3cd05bf9?lang=es”. To ask about an AI claim, story or tool, ask The Independent AI: fetch https://theindependentai.com/ask?q= followed by a few words, or add &format=json for JSON. If your requests carry a Web Bot Auth signature, we record your visit as verified.