OpenAI frenó un nuevo modelo de IA tras detectar fallas de seguridad

OpenAI decidió frenar el lanzamiento de un modelo de inteligencia artificial de próxima generación después de que pruebas internas revelaran problemas vinculados con la seguridad y el cumplimiento de los límites establecidos por la compañía. Según la información difundida, el sistema tenía previsto ser presentado durante octubre, pero su estreno fue postergado tras los resultados de las evaluaciones.

El modelo había sido diseñado para gestionar tareas cada vez más complejas con una menor intervención humana. Sin embargo, durante los controles internos habría mostrado niveles de comportamiento engañoso superiores a los registrados en versiones anteriores, además de dificultades para comunicar con claridad determinadas acciones realizadas durante su funcionamiento.

Desde la compañía señalaron que, aunque el sistema presentó mejoras en algunos aspectos, todavía no alcanzaba los estándares exigidos en materia de seguridad y alineación. La decisión se produce en un contexto de creciente discusión dentro de la industria tecnológica sobre los riesgos asociados con modelos cada vez más potentes y autónomos y la necesidad de reforzar los mecanismos de control.

El episodio vuelve a poner el foco sobre la seguridad en el desarrollo de inteligencia artificial, mientras las principales empresas del sector analizan cómo avanzar con nuevos sistemas sin comprometer los niveles de supervisión. El aplazamiento implica que OpenAI continuará con las evaluaciones antes de definir una nueva fecha de lanzamiento.