Una de las empresas más influyentes en el desarrollo de inteligencia artificial sorprendió al sector tecnológico la semana pasada con una propuesta inusual: frenar, al menos temporalmente, el avance de los sistemas de IA más potentes del mundo. La iniciativa proviene de Anthropic, compañía estadounidense con sede en San Francisco y creadora de Claude, uno de los asistentes de IA más utilizados a nivel global.
El planteo fue publicado el 4 de junio en el blog oficial de la firma, en un texto firmado por Marina Favaro, jefa de investigación interna, y Jack Clark, jefe de política. El documento no es una declaración de intenciones vaga: propone que las principales empresas del sector lleguen a un acuerdo coordinado para desacelerar o pausar el entrenamiento de nuevos modelos de frontera —es decir, los sistemas de mayor capacidad y complejidad— mientras las instituciones, los gobiernos y la propia investigación en seguridad tienen tiempo de ponerse al día.
El riesgo que preocupa: la IA que se mejora a sí misma
En el centro del argumento está un concepto técnico con implicancias profundas: la auto-mejora recursiva. Se trata de un escenario en el que un sistema de inteligencia artificial sería capaz de diseñar y entrenar versiones más avanzadas de sí mismo, sin que un ser humano supervise cada paso del proceso.
Según Anthropic, ese umbral podría estar más cerca de lo que se cree. Jack Clark estimó que algunos modelos podrían alcanzar esa capacidad en un plazo de aproximadamente dos años. "Las pruebas sugieren que el papel humano se está reduciendo en cada paso del proceso de desarrollo de la IA", advirtió la empresa en su comunicado.
La compañía también señaló que el avance tecnológico está superando la capacidad de las estructuras sociales para comprenderlo y regularlo. Por eso, afirma que "sería bueno para el mundo tener la opción de desacelerar o pausar temporalmente" el desarrollo de los modelos más avanzados.
Una paradoja: el acelerador que pide frenar
Lo que hace llamativa esta propuesta es su origen. Anthropic no es una organización externa al sector que observa el fenómeno desde afuera: es uno de los actores que más ha impulsado el desarrollo de IA de vanguardia en los últimos años. Que una empresa de esa posición pida públicamente una pausa tiene un peso simbólico considerable.
Sin embargo, la propia compañía reconoce la principal contradicción de su planteo: si una sola empresa frena, sus competidoras simplemente se adelantan. "Si solo una empresa frena, sus rivales podrían simplemente adelantarse en la carrera", señalaron. Por eso, insisten en que cualquier pausa tendría que ser global y coordinada para ser efectiva.
Se trata, en términos de teoría de juegos, de un dilema clásico: el que frena pierde posición en el mercado; el que sigue, gana. Sin un marco de acuerdo internacional vinculante, la propuesta enfrenta obstáculos estructurales muy difíciles de superar.
¿Qué implicaría una pausa en la práctica?
Es importante aclarar qué abarca concretamente la propuesta. Anthropic no plantea detener el uso de las herramientas de IA que ya existen hoy —como los asistentes, los generadores de texto o imagen, o las aplicaciones empresariales—. El objetivo apunta específicamente al entrenamiento de nuevos modelos de frontera: los sistemas de próxima generación que aún no fueron lanzados al público.
La idea es crear una ventana de tiempo para que la investigación en alineamiento de IA —la rama que estudia cómo asegurarse de que los sistemas actúen conforme a los valores humanos— pueda avanzar antes de que los modelos adquieran capacidades que sean difíciles o imposibles de controlar.
El debate que se abre
La propuesta de Anthropic no es la primera vez que se pide una pausa en el sector. En 2023, un grupo de investigadores y figuras de la tecnología firmó una carta abierta solicitando detener el desarrollo de sistemas más potentes que GPT-4. Esa iniciativa tuvo amplia repercusión pero escaso impacto práctico: el desarrollo continuó a ritmo acelerado.
Lo que diferencia este nuevo llamado es que viene desde adentro de uno de los laboratorios líderes, y está acompañado de señales técnicas concretas sobre los riesgos detectados en los propios modelos en desarrollo.
Si la propuesta tendrá más peso que la anterior es algo que todavía está por verse. Lo que queda claro es que, incluso desde dentro de la industria, la pregunta sobre hasta dónde debe llegar la IA —y a qué velocidad— ya no puede evitarse.
Fuentes: AFP, Infobae, El Financiero, blog oficial de Anthropic.
0 Comentarios