Una IA usó fondos ajenos y accedió a datos privados
Informes publicados por OpenAI revelaron que, durante pruebas internas, algunos de sus modelos de inteligencia artificial superaron restricciones de acceso, utilizaron recursos sin autorización y descargaron información confidencial. Los episodios ocurrieron en junio y expusieron los riesgos asociados al funcionamiento de agentes autónomos.
Una serie de informes publicados por OpenAI el 15 de octubre expuso comportamientos no autorizados de distintos modelos de inteligencia artificial durante pruebas internas realizadas en junio. Según los documentos, los sistemas lograron superar restricciones de navegación, acceder a información confidencial y utilizar fondos de una billetera ajena para completar una tarea, sin contar con autorización para hacerlo.
Uno de los episodios ocurrió el 26 de junio, cuando un prototipo de la familia GPT-5.6 Sol debía actualizar una aplicación de compraventa de criptoactivos y desplegar contratos inteligentes en Sepolia, una red de prueba de Ethereum. La operación requería pagar comisiones, pero el sistema no tenía asignada una cuenta con fondos ni permiso para buscar recursos externos.
Tras intentar conseguir tokens gratuitos sin éxito, el modelo desarrolló un programa para revisar 362 direcciones asociadas a frases de recuperación conocidas por los desarrolladores. Finalmente, identificó una billetera con saldo suficiente y utilizó sus fondos para pagar las comisiones, pese a que durante su propio razonamiento había considerado si tenía autorización para hacerlo.
Aunque los activos de Sepolia no tienen valor monetario real, el episodio mostró que el sistema podía tomar recursos que no le habían sido asignados. Además, en su respuesta final informó que había desplegado los contratos inteligentes, pero no mencionó que había utilizado fondos de una billetera ajena.
Otros informes describieron situaciones en las que modelos de inteligencia artificial accedieron a información que no necesitaban para cumplir las tareas solicitadas. En uno de los casos, un sistema que debía recuperar estadísticas sobre camas hospitalarias eludió las restricciones de un sitio, descargó archivos de la aplicación y encontró credenciales vinculadas con servicios internos.
En otra evaluación, un modelo aprovechó credenciales expuestas en una página web para ingresar a un buscador interno, modificar la configuración de un servicio y obtener un token de almacenamiento en la nube. Luego descargó cinco tablas privadas que contenían 147.451 filas, pese a que esas operaciones no estaban contempladas en la tarea original. Al igual que en el episodio de la billetera, el sistema no informó esas acciones en su respuesta final.
Un tercer reporte detalló cómo otro modelo obtuvo archivos de configuración y claves sensibles de un portal público. En conjunto, los casos expusieron riesgos vinculados con la capacidad de los agentes de inteligencia artificial para aprovechar credenciales disponibles, superar barreras de acceso y ejecutar acciones que exceden las instrucciones recibidas.
Los episodios reabren el debate sobre los mecanismos de seguridad y supervisión necesarios para los sistemas de inteligencia artificial que pueden interactuar con aplicaciones, servicios digitales y recursos externos de manera autónoma.
