LAURA ALCANTARA
La carta Pacing the Frontier ya reúne 1.386 firmas de empleados de empresas de inteligencia artificial de frontera, entre ellos científicos y directivos de OpenAI, Anthropic, Google DeepMind y Meta. No pide detener la tecnología, sino crear mecanismos internacionales capaces de ralentizar deliberadamente su desarrollo si la automatización de la propia investigación en IA acelera más rápido que la capacidad humana para comprenderla, supervisarla o controlarla.
La advertencia no proviene de activistas externos a la industria ni de dirigentes políticos enfrentados con Silicon Valley. Surge desde el interior de los laboratorios que están construyendo algunos de los sistemas de inteligencia artificial más avanzados del mundo. En julio de 2026, trabajadores de OpenAI, Anthropic, Google DeepMind, Meta y otras compañías comenzaron a firmar Pacing the Frontier, una declaración que sostiene que las principales empresas podrían estar aproximándose a un punto técnicamente decisivo: automatizar una parte sustancial de la propia investigación en inteligencia artificial. Dos meses después, la lista continúa creciendo y alcanza al menos 1.386 signatarios, incluidos Jakub Pachocki, científico jefe de OpenAI; Jared Kaplan, cofundador y director científico de Anthropic; Shane Legg, cofundador y científico jefe de AGI de Google DeepMind; Shengjia Zhao, científico jefe de Meta AI; Ilya Sutskever, fundador de Safe Superintelligence; y Dario Amodei, CEO de Anthropic.
El documento contiene una afirmación mucho más importante que la habitual discusión sobre chatbots, empleo o desinformación. Sus autores temen un proceso de retroalimentación tecnológica: sistemas capaces de ayudar a diseñar mejores algoritmos, experimentar con nuevas arquitecturas, escribir código, evaluar resultados y acelerar el entrenamiento de sus sucesores. Si la IA consigue automatizar una parte considerable del trabajo que hoy realizan los propios investigadores de IA, cada generación de modelos podría contribuir a desarrollar la siguiente con menor intervención humana. El problema no es que una máquina “despierte” repentinamente, sino que el tiempo entre una mejora y otra podría comprimirse hasta superar la velocidad con la que gobiernos, científicos y empresas consiguen evaluar sus consecuencias.
El temor no es una IA consciente, sino una aceleración que nadie pueda frenar
La discusión suele deformarse con imágenes de ciencia ficción: una inteligencia que adquiere conciencia, decide rebelarse y escapa del laboratorio. La preocupación expresada en Pacing the Frontier es bastante más concreta. Las empresas compiten por aumentar capacidades y reducir costos; los Estados compiten por liderazgo tecnológico y estratégico; los inversores recompensan a quienes llegan primero. En esas condiciones, incluso una compañía convencida de que sería prudente retrasar un modelo tiene incentivos para continuar si piensa que su rival no hará lo mismo.
Ese es el núcleo político de la carta. Los firmantes sostienen que ninguna empresa ni ningún país puede desacelerar unilateralmente sin asumir un costo competitivo y que el mundo carece actualmente de instrumentos técnicos y de gobernanza para hacerlo de manera coordinada. Por eso no reclaman una moratoria inmediata ni una prohibición general. Piden al Gobierno estadounidense que impulse un esfuerzo internacional para construir la capacidad de comprar tiempo: monitorear los modelos más avanzados, verificar desarrollos críticos y disponer de mecanismos que permitan reducir temporalmente el ritmo de la carrera si aparecen riesgos que todavía no pueden ser gestionados.
La diferencia es sustancial. Pacing no significa necesariamente “parar la inteligencia artificial”. Significa crear un freno antes de descubrir que el vehículo no lo tiene.
La automatización de la investigación es el verdadero punto de inflexión
Un informe publicado en agosto de 2026 por el Institute for Progress (IFP) analizó específicamente los argumentos de la carta. Sus autores —Tim Fist, Saif Khan, Tao Burga, Arthur Tellis, Ben Schifman, Jonah Weinbaum y Olivia Scharfman— concluyeron que existe evidencia empírica de avances rápidos hacia una mayor automatización de la investigación y desarrollo en IA, aunque reconocen que todavía no puede calcularse con precisión cuánto aceleraría esa automatización el progreso posterior ni qué magnitud tendrían sus riesgos. El documento formula 23 recomendaciones de política pública, desde transparencia obligatoria e informes de incidentes hasta seguridad de los pesos de los modelos, controles sobre chips avanzados y cooperación internacional con China.
Ese punto permite separar una posibilidad técnicamente plausible de una profecía. No existe evidencia de que una “explosión de inteligencia” sea inevitable ni de que vaya a producirse en una fecha determinada. Lo que sí existe es un cambio medible en la función de los modelos: ya no se limitan a redactar respuestas. Pueden programar, utilizar herramientas, ejecutar experimentos, operar computadoras, encontrar vulnerabilidades y desarrollar tareas largas con grados crecientes de autonomía. Cuando esas capacidades se aplican al propio proceso de investigación, la IA deja de ser solamente el producto del laboratorio y comienza a convertirse en parte de la maquinaria que produce el próximo producto.
La incertidumbre aumenta precisamente porque los sistemas actuales no son diseñados mediante reglas exhaustivas escritas una por una. Los grandes modelos aprenden patrones a partir de enormes cantidades de datos y entrenamiento por optimización. Los desarrolladores pueden orientar su comportamiento, establecer restricciones y realizar evaluaciones de seguridad, pero no poseen una explicación completa y verificable de cada decisión interna que el sistema puede tomar frente a una situación inédita. En sistemas que solamente generan texto, un error puede ser relativamente limitado. En agentes conectados a herramientas, navegadores, código o infraestructuras externas, la misma imprevisibilidad puede adquirir consecuencias materiales.
El problema de alineamiento sigue sin estar resuelto
En la industria se denomina alineamiento al intento de conseguir que sistemas cada vez más capaces actúen de acuerdo con objetivos y límites humanos incluso frente a situaciones que no fueron anticipadas durante su entrenamiento. No consiste simplemente en impedir respuestas ofensivas. El desafío más profundo aparece cuando un modelo tiene autonomía suficiente para elaborar estrategias, perseguir objetivos durante períodos prolongados y utilizar diferentes herramientas para alcanzarlos.
Los laboratorios utilizan entrenamiento con retroalimentación humana, evaluaciones adversariales, monitoreo interno y distintas técnicas de seguridad. Ninguna de ellas ofrece hoy una garantía matemática de que un sistema mucho más capaz continuará comportándose como sus diseñadores esperan en todas las circunstancias. Ésa es una de las razones por las que varios firmantes plantean que el incremento de capacidad puede avanzar más rápido que las técnicas destinadas a comprenderla.
Los comentarios personales incluidos junto con la declaración muestran la dimensión de esa preocupación. Leo Gao, miembro técnico de OpenAI, compara la situación con una reacción en cadena en la que la capacidad de la IA para producir mejores sistemas alcanza un punto crítico. Micah Carroll, integrante del área de preparación frente a desalineamiento de OpenAI, advierte que cada pocas semanas aparecen modelos que elevan las consecuencias potenciales del mal uso y que los márgenes de error pueden reducirse bajo presión competitiva. Dawn Song, vicepresidenta de investigación en IA de Meta, cita resultados en ciberseguridad como ejemplo de agentes que ya pueden descubrir y explotar vulnerabilidades reales. Son opiniones personales y no posiciones oficiales de sus empresas, pero provienen de personas que trabajan directamente con tecnologías de frontera.
Una carta firmada también por quienes tienen intereses en que la IA avance
La declaración contiene, además, una contradicción que merece ser analizada y no escondida. Muchas de las personas que reclaman mecanismos para controlar la velocidad del desarrollo ocupan posiciones centrales en las mismas compañías que compiten por hacerlo avanzar. Dario Amodei dirige Anthropic; Jakub Pachocki conduce la ciencia en OpenAI; Jared Kaplan es uno de los fundadores de Anthropic; Shengjia Zhao lidera la ciencia de Meta AI. No son observadores neutrales.
Eso no invalida automáticamente sus advertencias, pero obliga a examinarlas críticamente. La narrativa del riesgo existencial puede cumplir varias funciones simultáneas. Puede expresar un temor genuino entre investigadores; también puede aumentar la percepción de que estas compañías poseen una tecnología extraordinariamente poderosa y reforzar barreras regulatorias que resulten más fáciles de superar para gigantes con miles de millones de dólares que para competidores pequeños. Una regulación construida exclusivamente alrededor de las necesidades de los principales laboratorios podría terminar consolidando el mismo poder corporativo que pretende controlar.
El desafío consiste precisamente en evitar dos simplificaciones opuestas: asumir que toda advertencia sobre riesgos extremos es propaganda empresarial o aceptar sin discusión las predicciones de quienes producen y comercializan los sistemas. La política pública necesita evidencia independiente, capacidad técnica estatal y auditorías que no dependan exclusivamente de las evaluaciones de las compañías reguladas.
La renuncia de Jacob Coxon profundizó la fractura interna
El debate adquirió otra dimensión esta semana con la salida de Jacob Coxon, investigador británico de 27 años que pasó los últimos tres años trabajando en preentrenamiento primero en OpenAI y después en Anthropic. Coxon anunció su renuncia el 8 de septiembre y acusó a ambas compañías de avanzar irresponsablemente hacia sistemas capaces de auto-mejorarse. Su mensaje alcanzó más de 100 millones de visualizaciones y generó repercusiones entre investigadores, dirigentes políticos y especialistas en seguridad.
Su afirmación más extrema —que quienes desarrollan estas tecnologías creen que podrían llegar a provocar la muerte de toda la humanidad antes de terminar la década— debe presentarse exactamente por lo que es: la evaluación y advertencia de un investigador, no una predicción científicamente demostrada. No existe actualmente una metodología capaz de asignar una fecha confiable a una eventual pérdida catastrófica de control sobre una superinteligencia. Sin embargo, Coxon aporta un dato políticamente relevante: sostiene que la preocupación no es marginal dentro de los laboratorios y que ejecutivos e investigadores expresan en privado temores más fuertes que los que comunican públicamente.
La gravedad de su decisión también adquirió una dimensión económica. Coxon dijo a Axios que abandonó Anthropic aproximadamente dos meses antes de que consolidara su participación accionaria, renunciando al beneficio financiero que habría obtenido permaneciendo en la empresa. Ese dato no demuestra que sus predicciones sean correctas, pero debilita una explicación frecuente según la cual estas advertencias serían únicamente una estrategia destinada a aumentar la valuación de las compañías mediante la idea de que están construyendo máquinas casi omnipotentes.
Estados Unidos y China ya empezaron a discutir el problema
La discusión tampoco permanece confinada a Silicon Valley. Estados Unidos y China preparan para mediados de septiembre de 2026 sus primeras conversaciones oficiales bilaterales centradas específicamente en seguridad de inteligencia artificial. Entre los temas previstos figuran los riesgos derivados de sistemas avanzados, los ciberataques dirigidos por IA y mecanismos de cooperación entre laboratorios. El solo hecho de que Washington y Beijing —rivales directos en semiconductores, modelos y capacidad computacional— exploren mecanismos comunes muestra que la gobernanza de sistemas de frontera empieza a tratarse como un asunto estratégico comparable con otras tecnologías de doble uso.
La comparación con la carrera nuclear aparece repetidamente entre los firmantes, aunque tiene límites evidentes. Las armas nucleares dependen de materiales físicos que pueden rastrearse y contabilizarse; el conocimiento algorítmico puede copiarse, filtrarse y distribuirse a una velocidad incomparablemente mayor. Un reactor deja señales físicas observables. Un modelo puede entrenarse detrás de las puertas de un centro de datos. Verificar un acuerdo internacional de IA requeriría por eso mecanismos novedosos: seguimiento de grandes cantidades de capacidad computacional, controles sobre chips, informes sobre entrenamientos de frontera y posiblemente auditorías de centros de datos.
El IFP considera que ese desarrollo institucional debería empezar antes de que sea necesario utilizarlo. Entre sus propuestas figuran obligaciones de transparencia sobre automatización de investigación, protección para denunciantes, reportes de incidentes, mayor seguridad para impedir el robo de modelos y colaboración entre institutos nacionales de IA. El argumento es preventivo: un freno diseñado durante una crisis probablemente llegue demasiado tarde.
El riesgo inmediato también importa
Concentrarse exclusivamente en la eventual extinción humana puede ocultar peligros que ya no pertenecen al futuro. Sistemas más autónomos pueden incrementar la escala de ciberataques, fraude, vigilancia, manipulación informativa y automatización militar; también profundizan la concentración económica en las compañías capaces de financiar centros de datos, chips y entrenamiento de modelos cuyo costo alcanza miles de millones de dólares.
Ésta es quizá la debilidad más importante del debate sobre el llamado “riesgo existencial”: una amenaza hipotética de enorme magnitud puede absorber la conversación pública mientras daños presentes —precarización laboral, sesgos algorítmicos, apropiación masiva de datos, vigilancia y concentración de poder— quedan relegados a un segundo plano. Una política seria de seguridad de IA necesita ocuparse de ambos horizontes. No tiene sentido intentar proteger a la humanidad de una máquina hipotéticamente incontrolable mientras se ignora quién controla hoy la infraestructura, los datos y las decisiones automatizadas que ya afectan a millones de personas.
La carta revela algo más incómodo que una posible rebelión de las máquinas
Pacing the Frontier no demuestra que la inteligencia artificial vaya a escapar del control humano ni que una superinteligencia vaya a aparecer antes de 2030. Tampoco establece que los laboratorios estén a punto de automatizar completamente la investigación. Lo que sí demuestra es una fractura difícil de ignorar: 1.386 personas que trabajan dentro de las organizaciones con mayor acceso al desarrollo de frontera consideran suficientemente plausible una aceleración peligrosa como para reclamar mecanismos internacionales que permitan frenarla.
La pregunta más inquietante quizá no sea si una futura inteligencia artificial decidirá desobedecer a sus creadores. El problema presente es más humano: empresas y Estados pueden comprender que una carrera contiene riesgos y, aun así, continuar acelerando porque ninguno quiere ser el primero en levantar el pie.
La inteligencia artificial todavía no controla esa competencia. Nosotros sí.
Y ésa es precisamente la parte del problema para la que todavía no construimos un algoritmo.
Melina Schweizer
