Investigador de Anthropic renuncia y acusa a OpenAI y Anthropic de "jugar con nuestras vidas"
- Dimisión de un investigador de Anthropic
- Las preocupaciones sobre la IA
- Advertencias desde el sector de la inteligencia artificial
Dimisión de un investigador de Anthropic
Jacob Coxon, jefe de seguridad de la startup de inteligencia artificial Anthropic, ha entregado su renuncia tras expresar su preocupación por la gestión del desarrollo de la IA en dicha empresa y en OpenAI, donde también trabajó. Coxon califica esta tecnología como un riesgo significativo que no debe ser subestimado, alertando sobre su potencial amenaza para la humanidad.
En redes sociales, Coxon afirmó: "Hoy dimito de Anthropic. Durante los últimos tres años he investigado el preentrenamiento en OpenAI y Anthropic. Ninguna de estas compañías maneja el proceso con responsabilidad. Están avanzando a gran velocidad hacia una superinteligencia capaz de auto-mejorarse, poniendo en juego nuestras vidas".
Las preocupaciones sobre la IA
Según Coxon, dentro de la industria de la IA existen cada vez más personas que reconocen lo rápido que avanza esta tecnología y los peligros que ello implica para la sociedad. A pesar de ello, advierte que muchos ejecutivos tienden a minimizar estos riesgos para evitar generar alarma.
El investigador también mencionó que los desarrolladores de IA creen que esta tecnología podría exterminar a la humanidad antes de finalizar la década actual. La competencia entre empresas para liderar el sector ha dejado en segundo plano consideraciones importantes sobre el impacto de estos avances.
Coxon señala que, aunque Anthropic tiene en cuenta estas cuestiones en mayor medida que OpenAI, ambas están inmersas en una carrera acelerada por ser las primeras en lograr este progreso. Añadió que aceptar esta dinámica y entrar en una fase crucial sin garantías es una decisión arriesgada que no debería tomarse desde una empresa privada sin suficientes seguridades.
Advertencias desde el sector de la inteligencia artificial
Evan Hubinger, responsable de Ciencia de Alineación en Anthropic, respaldó las advertencias de Coxon y aseguró que muchos trabajadores del sector creen que la inteligencia artificial podría eliminar a toda la humanidad.
Además, Hubinger señaló que la probabilidad de que esto ocurra podría superar el 10% hacia finales de esta década. Aunque Anthropic trabaja para impedir este escenario, reconoció que aún no disponen de una solución definitiva para resolver el problema de la alineación con superinteligencias ni están completamente encaminados hacia esa meta.
El verdadero riesgo se relaciona con la aparición de una superinteligencia—una inteligencia artificial que supere ampliamente la capacidad humana—y, aunque por ahora los modelos de IA no han alcanzado ese nivel, su desarrollo va más rápido de lo previsto, especialmente en lo que a auto-mejora recursiva refiere.