Ex empleado admite más de 10% de probabilidad de que la IA "mate a todos los humanos"

Una fuerte discusión volvió a instalarse en la industria de la inteligencia artificial luego de que Evan Hubinger, responsable de un equipo de seguridad en Anthropic, estimara que existe más de un 10% de probabilidad de que una inteligencia artificial avanzada provoque una catástrofe para la humanidad durante la próxima década. La declaración fue realizada públicamente tras la renuncia de Jacob Coxon, investigador que cuestionó la velocidad con la que las principales empresas del sector avanzan hacia sistemas cada vez más potentes.

Jacob Coxon, de 27 años, trabajó durante aproximadamente tres años en tareas de preentrenamiento de modelos, primero en OpenAI y posteriormente en Anthropic. Al anunciar su salida de la compañía, sostuvo que ninguna de las dos empresas estaría actuando con suficiente responsabilidad y afirmó que ambas avanzan hacia una superinteligencia capaz de mejorar sus propias capacidades. "Ninguna de las dos empresas actúa con responsabilidad", expresó en una publicación que alcanzó millones de visualizaciones.

La repercusión aumentó cuando Hubinger, quien permanece dentro de Anthropic, respondió públicamente a Coxon. "Jacob tiene razón", sostuvo, antes de estimar en más de 10% el riesgo de un escenario catastrófico durante los próximos diez años. Además, reconoció que Anthropic todavía no cuenta con un plan definitivo para resolver el problema de la alineación de una eventual superinteligencia, concepto que refiere a la capacidad de garantizar que un sistema avanzado actúe de acuerdo con objetivos y valores humanos.

Las advertencias se producen en momentos en que las principales compañías tecnológicas aceleran el desarrollo de nuevos modelos y, al mismo tiempo, enfrentan cuestionamientos internos sobre sus políticas de seguridad. Coxon aseguró que dentro del sector existe preocupación por la posibilidad de que las capacidades de los sistemas crezcan más rápido que las herramientas diseñadas para controlarlos. El debate vuelve a poner en el centro la necesidad de establecer mecanismos de seguridad, supervisión y regulación antes de alcanzar niveles de inteligencia artificial que puedan resultar difíciles de controlar.