CEO de Anthropic pide frenar la IA
Dario Amodei, CEO de Anthropic, plantea que la industria debe reducir el ritmo al que avanza la capacidad de los modelos de inteligencia artificial (IA) para dar más tiempo a desarrollar mecanismos de seguridad.
El avance de la IA ha entrado en una nueva discusión dentro de la propia industria: que tan rapido debería desarrollarse esta tecnología.
Te puede interesar: Anthropic proyecta que la IA podría disparar el PIB al 15% anual y elevar el desempleo al 18%
Dario Amodei, CEO de Anthropic, planteó el debate en un ensayo publicado en septiembre de 2026 bajo el título We Must Pace the Frontier. Su propuesta no es detener el desarrollo de la IA, sino hacer que el avance de sus capacidades tenga un ritmo que permita que las medidas de seguridad evolucionen a la misma velocidad.
Entre los beneficios y los riesgos
Amodei sostiene que la IA podría generar importantes beneficios para la humanidad, desde acelerar el crecimiento económico hasta contribuir al desarrollo de tratamientos para enfermedades.
Pero, al mismo tiempo, considera que una carrera impulsada por incentivos comerciales puede aumentar riesgos como la pérdida de control sobre los sistemas, el uso de IA para ciberataques o bioterrorismo y una fuerte disrupción económica.
Su preocupación central es que las capacidades de los modelos están avanzando más rápido que la capacidad de comprenderlos, evaluarlos y establecer mecanismos para controlar sus riesgos.
“Debemos ralentizar el ritmo al que mejoramos las capacidades de los modelos de IA”, escribió Amodei.
¿Cómo propone hacerlo?
El CEO de Anthropic plantea tres líneas de acción.
La primera consiste en incorporar evaluadores independientes dentro de las compañías de IA, con acceso permanente a los sistemas y capacidades similares a las de empleados internos. Su función sería comprobar el cumplimiento de las medidas de seguridad, reportar incidentes y evaluar los modelos durante su entrenamiento. Anthropic se comprometió a aplicar esta medida.
La segunda busca una coordinación entre las principales empresas de IA para establecer estándares de seguridad y evitar una carrera en la que cada compañía tenga incentivos para avanzar sin suficientes controles.
La tercera plantea una cooperación internacional, debido a que los riesgos asociados a esta tecnología no se limitan a un solo país o empresa.
La propuesta encuentra respaldo en la industria
El planteamiento generó respuestas de otros líderes tecnológicos. Sam Altman, CEO de OpenAI, expresó su acuerdo con Amodei y afirmó que su compañía también adoptará el esquema de evaluadores independientes con acceso a sus sistemas.
Elon Musk, de xAI, también respaldó públicamente la propuesta, mientras que Demis Hassabis, de Google DeepMind, calificó como correcta la dirección planteada por Amodei.
Pero el consenso no es total. Dentro de la industria también existen posiciones contrarias a una desaceleración coordinada y dudas sobre cómo podría implementarse una medida de este tipo sin afectar la competencia tecnológica.
El nuevo debate de la industria
La propuesta de Amodei plantea una tensión que atraviesa actualmente al sector: cómo mantener el desarrollo de una tecnología que avanza rápidamente mientras se construyen mecanismos capaces de acompañar sus riesgos.
Te puede interesar: Los datos clave del pedido de freno de Anthropic al desarrollo de la inteligencia artificial
Para el CEO de Anthropic, ganar tiempo no significa abandonar el desarrollo de la inteligencia artificial. Significa utilizar ese margen para mejorar las evaluaciones, la seguridad y la coordinación entre empresas y gobiernos antes de que las capacidades de los sistemas avancen todavía más. (I)
FUENTES: DARIO AMODEI. COM | NEW YORK TIMES | BBC