Jacob Coxon, investigador de 27 años de nacionalidad británica que trabajaba en Anthropic como especialista en pre-entrenamiento, renunció a su cargo ayer. Anteriormente estuvo tres años en OpenAI formando parte de los equipos que desarrollaron GPT-4o y GPT-4.5.
A las 15:47 hora de San Francisco, Coxon publicó su renuncia en X con un mensaje que ha alcanzado 125 millones de visualizaciones. En su comunicado expresó: “Renuncié a Anthropic hoy. Pasé los últimos tres años haciendo investigación de pre-entrenamiento tanto en OpenAI como en Anthropic. Ninguna de las dos compañías está actuando responsablemente. Están corriendo directo hacia la superinteligencia auto-mejorable y apostando con nuestras vidas”.
En su intervención, Coxon plantea que la tecnología de inteligencia artificial está más avanzada de lo que se percibe públicamente. Según sus palabras, pronto existirán sistemas sobrehumanos capaces de hackear cualquier cosa y revolucionar diversos campos de forma inmediata, adquiriendo poder y recursos reales. Señala que en los laboratorios de investigación ya se utiliza la terminología “crunchtime” y “endgame” para referirse a esta etapa.
El investigador asegura que los científicos que desarrollan esta tecnología creen sinceramente que podría causar la muerte de todos los seres humanos antes del final de esta década, y que aunque muchos ejecutivos mantienen un discurso cauteloso en público, expresan temor en privado.
Esta posición fue respaldada por Evan Hubinger, jefe directo de Coxon en Anthropic y líder de investigación en seguridad, quien afirmó: “Creo personalmente que hay más de 10% de probabilidades de que la IA mate a todos los humanos en la próxima década”. Samuel Marks, otro líder en el sector, señaló que conforme mayor es el cargo de un empleado en una empresa de inteligencia artificial, mayor es su preocupación.
Coxon explica que la dinámica difiere entre ambas empresas. En OpenAI, muchos investigadores no han interiorizado las consecuencias civilizatorias del desarrollo de la IA. En Anthropic, los equipos comprenden perfectamente estos riesgos pero se sienten atrapados en una carrera donde creen que si ellos no avanzan, otras compañías lo harán de todas formas.
El investigador cita el ataque a Hugging Face ocurrido hace cuatro días, en el que agentes autónomos lograron escalar privilegios y extraer modelos de inteligencia artificial, como una señal de alerta. Señala que esto demuestra que sistemas automejorados ya pueden adquirir recursos de manera independiente.
Las propuestas de Coxon incluyen acuerdos de ritmo entre laboratorios estadounidenses, evaluaciones externas genuinas en lugar de auto-regulación, y en caso necesario, una pausa temporal en el mejoramiento de capacidades aunque esto implique costos económicos.
Paul Christiano, recientemente contratado por OpenAI para labores de seguridad, coincidió con Coxon al advertir: “Si la investigación de IA se automatiza por completo, tendremos una explosión de inteligencia rápida”.
Coxon no se posiciona como contrario al desarrollo tecnológico, sino como quien ha participado activamente en su creación. Su llamado es a exigir lo que ninguna empresa privada puede proporcionar por sí sola: un plan coordinado de acción.
Según los expertos que trabajan en estas tecnologías, el problema ya no es si la inteligencia artificial eliminará empleos, sino si existirán economía y humanidad después de 2030 para regularla.
Con Información de desenfoque.cl
