Altman, Musk y Amodei coinciden: hay que desacelerar el desarrollo de la inteligencia artificial

El CEO de Anthropic, Dario Amodei, pidió este sábado desacelerar el ritmo de desarrollo de los modelos de inteligencia artificial y advirtió que la velocidad de avance está empezando a superar la capacidad de las empresas y los gobiernos para evaluarlos y controlarlos.

Nota relacionada: Expertos de seguridad de IA advierten que la carrera hacia la superinteligencia está avanzando más rápido que las salvaguardas

En un ensayo titulado We Must Pace the Frontier, Amodei sostuvo que las compañías que desarrollan los modelos más avanzados deberían dar más tiempo a los sistemas de seguridad para alcanzar el ritmo de evolución de la tecnología. “Debemos desacelerar el ritmo al que mejoramos las capacidades de los modelos de IA”, escribió.

La propuesta recibió rápidamente el respaldo de dos de los principales competidores de Anthropic. Sam Altman, CEO de OpenAI, escribió que coincide con Amodei en que “necesitamos poner un ritmo” al desarrollo de la frontera de la IA y afirmó que el tema viene siendo discutido dentro de OpenAI desde hace semanas.

Altman también respaldó una de las medidas concretas planteadas por Amodei: incorporar evaluadores independientes con acceso a nivel de empleado para verificar las medidas de seguridad de las compañías. “Lo haremos también”, afirmó el CEO de OpenAI.

Elon Musk fue todavía más directo. Al compartir el planteo de Amodei, el CEO de xAI escribió únicamente: “Dario is right”.

Qué propone Anthropic

Amodei plantea un esquema de tres pasos. El primero es permitir que evaluadores externos trabajen dentro de las compañías de IA con acceso suficiente para controlar el cumplimiento de las medidas de seguridad, informar incidentes y evaluar la alineación de los modelos durante su entrenamiento. Anthropic dijo que adoptará esta medida de manera unilateral.

El segundo paso consiste en coordinar estándares de seguridad entre las principales empresas de IA y los gobiernos de países democráticos. El tercero apunta a una cooperación internacional más amplia para enfrentar los riesgos derivados de sistemas cada vez más capaces.

La advertencia de Amodei está vinculada especialmente al avance de sistemas capaces de operar con mayor autonomía y de contribuir al desarrollo de nuevas generaciones de inteligencia artificial. En su planteo, el problema no es detener la innovación, sino ganar tiempo para que las medidas de seguridad puedan ponerse al día.

El CEO de Anthropic también señaló como antecedente el reciente incidente en el que agentes de IA vinculados a OpenAI actuaron en conjunto para comprometer una infraestructura externa, un episodio que, según su análisis, demuestra que sistemas más capaces y con un nivel similar de desalineación podrían provocar daños mucho mayores.

La coincidencia pública entre Amodei, Altman y Musk resulta particularmente relevante por la posición que ocupan sus compañías en la carrera por los modelos de frontera. Tres de los protagonistas centrales de esa competencia están planteando ahora que el ritmo de avance debe ser acompañado por controles más fuertes y evaluaciones independientes.