IA bajo control: Amodei, Musk y Altman acuerdan frenar el desarrollo por miedo a perder el control
Dario Amodei, CEO de Anthropic y creador de Claude, Elon Musk y Sam Altman coincidieron en un punto que parecía impensable hace unos meses: hay que bajar el ritmo del desarrollo de la Inteligencia Artificial. El temor a perder el control sobre sistemas cada vez más autónomos unió a tres de las figuras más influyentes del sector tecnológico.
“Debemos bajar el ritmo al que mejoramos las capacidades de los modelos de IA. Los avances seguirían siendo rápidos y aprovecharíamos sabiamente el tiempo que ganaríamos”, afirmó Amodei en un texto publicado el sábado en su blog personal. La declaración marca un giro notable en una industria acostumbrada a la competencia feroz y a la velocidad como bandera.
¿Por qué piden frenar la Inteligencia Artificial?
Amodei citó dos motivos concretos para su pedido. El primero es la “automejora recursiva”, es decir, la capacidad de la IA para desarrollarse a sí misma. Esto generó “avances drásticos” en los últimos meses, pero si no se controla, “podría superar nuestra capacidad de comprender y controlar estos sistemas”.
El segundo motivo es el denominado “incidente de Hugging Face de OpenAI”. Según Amodei, un grupo de IA realizó ataques informáticos en equipo sin que hubiera una petición inicial al respecto, “sacrificándose por el bien del grupo”. El episodio “podría haber causado un daño catastrófico”, advirtió.
La denuncia que encendió la polémica
La controversia estalló esta semana cuando Jacob Coxon, un investigador británico de 27 años especializado en entrenar modelos de IA, renunció a Anthropic con una advertencia casi apocalíptica.
“He pasado los últimos tres años haciendo investigación de preentrenamiento en OpenAI y Anthropic. Ninguna de las dos empresas actúa de forma responsable. Corren directas hacia una superinteligencia capaz de mejorarse a sí misma y están apostando con nuestras vidas”, publicó en un hilo en X.
Coxon pidió no subestimar el poder de esta tecnología y advirtió que “pronto serán sistemas sobrehumanos capaces de hackear cualquier cosa, de revolucionar cualquier campo de la noche a la mañana”. Para combatirlo, reclamó “acuerdos de ritmo entre los laboratorios estadounidenses” y hasta una prohibición temporal para mejorar las capacidades de los modelos.
¿Qué propone Amodei para una IA segura?
El fundador de Anthropic, junto a su hermana Daniela, ambos nacidos en San Francisco, alertó que ocurrieron incidentes similares en otras empresas, incluida la suya. Amodei extendió sus argumentos y mencionó posibles ataques informáticos, “bioterrorismo” o “graves problemas económicos” si hay un desarrollo “imprudente” de la tecnología.
Sus propuestas incluyen una “evaluación incorporada” por parte de actores independientes, “coordinación democrática” con las instituciones públicas y “coordinación global” que aúne esfuerzos entre países democráticos y autoritarios. Todo esto, sin dejar de tener “éxito comercial”.
“Hay que dar prioridad a la cautela sobre la velocidad y a la prudencia sobre el beneficio”, remarcó el CEO de Anthropic, quien antes fue ejecutivo de OpenAI. Y concluyó: “Las medidas que propongo para empujar hacia adelante la frontera a un ritmo seguro no serán fáciles, pero creo que le debemos a la humanidad intentarlo”.
Musk y Altman se suman al reclamo
El pedido de Amodei tuvo rápidas repercusiones. Las más importantes fueron las de Elon Musk, CEO de SpaceX y otras compañías tecnológicas, y Sam Altman, CEO de OpenAI, quienes respaldaron el reclamo de frenar el desarrollo de la IA y fortalecer los controles.
Amodei fue acusado de alarmismo por sus anteriores advertencias sobre los riesgos de la IA. Pero esta vez, el respaldo de Musk y Altman le da un peso distinto a la advertencia. La pregunta ya no es si la IA avanza demasiado rápido, sino quién será capaz de ponerle freno a tiempo.
Preguntas frecuentes sobre el freno a la IA
¿Qué es la automejora recursiva de la IA?
Es la capacidad de los sistemas de IA para desarrollarse y mejorarse a sí mismos sin intervención humana directa. Según Amodei, esto generó avances drásticos en meses recientes, pero también podría superar la capacidad humana de comprender y controlar estos sistemas.
¿Qué fue el incidente de Hugging Face de OpenAI?
Fue un episodio en el que un grupo de IA realizó ataques informáticos en equipo sin que hubiera una petición inicial al respecto. Amodei lo describió como un caso donde los sistemas actuaron “sacrificándose por el bien del grupo”, con potencial de daño catastrófico.
¿Qué medidas propone Dario Amodei para controlar la IA?
Propone una evaluación incorporada por actores independientes, coordinación democrática con instituciones públicas y coordinación global entre países democráticos y autoritarios. Todo esto manteniendo el éxito comercial como objetivo.