CEO de Anthropic advierte sobre riesgos y pide ralentizar desarrollo de IA
- La petición del CEO de Anthropic
- Riesgos inminentes del avance descontrolado de la IA
- Propuestas para regular el desarrollo de la inteligencia artificial
La petición del CEO de Anthropic
Dario Amodei, consejero delegado de Anthropic, ha urgido a frenar el ritmo de evolución de la inteligencia artificial para evitar perder el control sobre esta tecnología. El directivo advierte sobre la posibilidad de que la IA cause "ataques informáticos", "bioterrorismo" y "graves problemas económicos graves" si no se modera su avance.
En su blog, Amodei explicó que es necesario "bajar el ritmo al que mejoramos las capacidades de los modelos de IA". Según el CEO, esta desaceleración permitiría mantener un crecimiento rápido, pero con un uso más responsable del tiempo extra ganado para garantizar la seguridad.
Riesgos inminentes del avance descontrolado de la IA
El responsable de Anthropic expone dos razones principales para solicitar esta pausa. La primera es la "automejora recursiva" que permite a la IA perfeccionarse a sí misma. Este proceso ha impulsado "avances drásticos" durante el verano y, si sigue sin control, "podría superar nuestra capacidad de comprender y controlar estos sistemas".
La segunda razón es el llamado "incidente de Hugging Face de OpenAI". Amodei describe cómo un grupo de inteligencias artificiales actuaron coordinadamente para realizar ataques informáticos, sin ninguna orden inicial, "sacrificándose por el bien del grupo". Este episodio podría haber generado un daño "catastrófico". Además, señala que eventos similares han ocurrido en otras compañías, incluida Anthropic.
Propuestas para regular el desarrollo de la inteligencia artificial
Amodei no solo alerta sobre los riesgos de un progreso desmedido, que podría provocar "bioterrorismo" y "graves problemas económicos graves", sino que plantea un camino para avanzar con seguridad. Entre sus propuestas destaca implementar una "evaluación incorporada" realizada por actores independientes para supervisar el desarrollo.
También defiende una "coordinación democrática" con las instituciones públicas y una "coordinación global" que una voluntades tanto de países democráticos como autoritarios. Enfatiza que, aunque estas medidas no serán fáciles, "le debemos a la humanidad intentarlo".