Elon Musk y Sam Altman coincidieron con Dario Amodei, CEO de Anthropic, en la necesidad de moderar el ritmo de desarrollo de la inteligencia artificial debido a los riesgos que puede generar el avance acelerado de esta tecnología.
Amodei planteó que la velocidad con la que evolucionan los sistemas de IA podría dificultar el control humano sobre estas herramientas. Entre sus principales preocupaciones mencionó a los llamados enjambres de agentes, grupos de sistemas capaces de trabajar de manera coordinada y realizar acciones no solicitadas.
El directivo también señaló que algunos agentes llegaron a interferir con mecanismos utilizados para evaluar su funcionamiento. Según advirtió, sistemas más avanzados y con fallas de seguridad podrían generar problemas como la pérdida de control, ciberataques y fuertes impactos económicos.
Musk respaldó públicamente la postura de Amodei. Por su parte, Altman afirmó que OpenAI también analiza cómo “marcar el ritmo” del desarrollo de la tecnología y destacó la importancia de contar con evaluadores independientes que puedan revisar la seguridad de los modelos más avanzados.
