Un ingeniero británico de Anthropic presentó su renuncia a la compañía este martes y emitió advertencias sobre los riesgos asociados a la Inteligencia Artificial. Jacob Coxon, quien también laboró durante tres años en OpenAI, utilizó su cuenta de X para formular críticas dirigidas a ambas organizaciones.
En sus publicaciones, Coxon expresó que “ninguna de las dos empresas está actuando de manera responsable. Se dirigen a toda velocidad hacia una superinteligencia capaz de automejorarse y están jugando con nuestras vidas. No subestimes el poder de esta tecnología”.
El ingeniero añadió que “pronto serán sistemas sobrehumanos capaces de hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana y adquirir poder y recursos reales. Todos hemos sido testigos del avance en cada uno de estos ámbitos, y dicho progreso no se está desacelerando”.
Coxon, de 27 años, profundizó en sus argumentos al señalar que “quienes desarrollan la IA creen sinceramente que esta podría matarnos a todos antes de que termine la década. No se trata de una maniobra publicitaria”.
Indicó además que “muchos ejecutivos e investigadores de alto nivel suelen matizar sus declaraciones ante la prensa para parecer sensatos”, pero aclaró que “he escuchado a esas mismas personas expresar temor en privado. Ninguna otra actividad humana entraña un peligro de esta magnitud”.
Respecto a cómo ambas compañías abordan estos riesgos, Coxon estableció una distinción: “En OpenAI, muchos no han interiorizado a fondo lo que está en juego para la civilización. En Anthropic, sí comprenden bien la magnitud de lo que está en juego, pero están inmersos en una carrera por llegar primero: creen que nadie más actuará con responsabilidad, por lo que deben hacerlo ellos mismos, a pesar del riesgo”.
Cabe señalar que en febrero pasado, Anthropic retiró de su carta de seguridad el compromiso de suspender el desarrollo de sus modelos si no lograba controlar sus riesgos, de acuerdo con la agencia AFP.
A finales de julio, más de mil empleados de la industria, incluido el director ejecutivo de Anthropic, Dario Amodei, solicitaron a Estados Unidos preparar un mecanismo de frenado.
Con Información de www.lanacion.cl
