Por Ismael Zamora Tovar
Doctor en Educación UAG
De la promesa de una inteligencia sobrehumana a la necesidad de gobernar su velocidad
La inteligencia artificial plantea una pregunta que va más allá de sus futuras capacidades: ¿podrán nuestras instituciones comprenderla y gobernarla si avanza más rápido que ellas? Dario Amodei, cofundador y CEO de Anthropic, examina esta tensión desde una posición singular: dirige una empresa que desarrolla modelos avanzados y, al mismo tiempo, advierte sobre sus riesgos. Sus escritos entre 2024 y 2026 trazan una evolución: de la promesa de un progreso científico extraordinario a la posibilidad de que sea necesario moderar el ritmo de desarrollo de la IA.
Un siglo de progreso comprimido
En Machines of Loving Grace (2024), Amodei imagina lo que podría lograrse si una inteligencia artificial poderosa multiplicara la capacidad de investigación humana. Millones de sistemas capaces de contribuir a la ciencia podrían acelerar el descubrimiento de medicamentos, mejorar tratamientos y ayudar a resolver problemas hoy difíciles de abordar.
Amodei llama a esta posibilidad el «siglo XXI comprimido»: avances que antes requerían décadas podrían ocurrir en periodos mucho menores. La IA sería una infraestructura capaz de acelerar muchas otras innovaciones. Sin embargo, el mismo poder que permitiría obtener esos beneficios también podría ampliar nuestra capacidad de causar daño. La promesa y el riesgo nacen de la misma velocidad.
La adolescencia tecnológica
En The Adolescence of Technology (2026), Amodei propone una metáfora para describir nuestra situación: la humanidad adquiere capacidades extraordinarias antes de haber desarrollado plenamente la prudencia y las instituciones necesarias para utilizarlas. Como en la adolescencia, el crecimiento del poder precede a la madurez para gobernarlo.
Los riesgos incluyen sistemas difíciles de controlar, usos maliciosos en ciberseguridad o biología, desplazamiento laboral, concentración económica y nuevas herramientas de vigilancia autoritaria. La cuestión deja de ser exclusivamente técnica. Una sociedad puede disponer de una tecnología muy poderosa sin contar todavía con acuerdos, conocimientos y mecanismos de supervisión suficientes para decidir cómo emplearla. El problema de la inteligencia artificial deja de ser exclusivamente tecnológico. Se convierte en un problema institucional y, eventualmente civilizatorio.
Instituciones incrementales ante una tecnología exponencial
En Policy on the AI Exponential (2026), Amodei sitúa el problema político en el tiempo. Los modelos pueden mejorar con rapidez, mientras que parlamentos, reguladores y tribunales necesitan deliberar, reunir evidencia y establecer procedimientos. Así surge una asimetría: las instituciones podrían estar respondiendo a una generación de sistemas cuando las empresas ya desarrollan la siguiente.
El desafío no se resuelve únicamente con nuevas leyes. Exige instituciones capaces de aprender, evaluar y corregir sus decisiones con mayor rapidez. Esa capacidad será necesaria para atender efectos que abarcan la seguridad pública, la economía, la ciencia, la relación entre Estado y sociedad, y la competencia internacional. El desafío, por tanto, consiste en desarrollar instituciones capaces de aprender y adaptarse casi tan rápidamente como la tecnología que pretender gobernar.
No podemos gobernar lo que no comprendemos
La rapidez se combina con otra dificultad: todavía no comprendemos plenamente el funcionamiento interno de los sistemas más avanzados. En The Urgency of Interpretability (2025), Amodei sostiene que podemos entrenarlos, observar sus resultados y medir su desempeño sin saber suficientemente cómo llegan a ciertas respuestas.
Por ello, la interpretabilidad es una condición de la gobernanza. Si desconocemos los mecanismos que producen un comportamiento, nuestra evaluación puede limitarse a lo que el sistema muestra en determinadas pruebas. Comprender mejor los modelos ayudaría a detectar riesgos, verificar las medidas de seguridad y decidir qué tareas podemos confiarles.
La secuencia parece sencilla: comprender → evaluar → verificar → confiar → gobernar. Si no comprendemos suficientemente los sistemas, nuestra capacidad de evaluar sus riesgos será limitada. Y si no podemos evaluar sus riesgos, la regulación puede terminar controlando solamente los comportamientos visibles mientras desconoce los mecanismos internos que los producen.
La gobernanza de la IA implica, por tanto, una pregunta epistemológica: ¿cuánto sabemos sobre las máquinas a las que estamos otorgando capacidades crecientes?
La IA también es poder
La inteligencia artificial depende de semiconductores, centros de datos, energía, capital y talento. Su desarrollo está ligado, por tanto, a la distribución del poder económico y geopolítico. En On DeepSeek and Export Controls (2025), Amodei considera estratégicos los chips avanzados porque facilitan el entrenamiento de modelos con posibles aplicaciones científicas, económicas y militares.
La cadena es relativamente sencilla: semiconductores → cómputo → modelos avanzados → capacidad económica y militar → poder geopolítico.
Desde esta perspectiva, los controles estadounidenses sobre determinadas exportaciones de semiconductores hacia China no son simplemente política comercial. Forman parte de una estrategia más amplia para conservar ventajas en tecnologías consideradas estratégicas
Aquí aparece una tensión en su pensamiento.
La seguridad de la IA requiere cooperación internacional, pero Amodei también defiende que Estados Unidos y otras democracias conserven ventajas frente a regímenes autoritarios. La gobernanza deberá encontrar formas de cooperación entre países que, al mismo tiempo, compiten por desarrollar y controlar esta tecnología.
Hay, además, un interés que no debe quedar fuera del análisis: las empresas que advierten sobre el futuro de la IA también compiten por financiarlo y construirlo. Krugman (2026) recuerda que una tecnología extraordinaria no garantiza grandes rendimientos para quienes invierten en ella: éstos dependen tanto del valor que produzca como de la capacidad de cada empresa para capturarlo. Por ello, las afirmaciones empresariales sobre capacidades futuras, riesgos y necesidad de infraestructura deben examinarse también a la luz de sus incentivos económicos. Escuchar a quienes desarrollan la IA es indispensable; contrastar sus diagnósticos con evaluaciones independientes también lo es.
¿Quién recibirá el valor creado por la IA?
El aumento de productividad no garantiza que sus beneficios se distribuyan ampliamente. Amodei reconoce que otras revoluciones tecnológicas eliminaron tareas y crearon nuevas ocupaciones, pero subraya una diferencia posible: la IA podría transformar muchas profesiones cognitivas a la vez y hacerlo más rápido de lo que trabajadores, empresas y sistemas educativos pueden adaptarse.
La pregunta económica no es sólo cuánto valor producirá la IA. También importa quién lo recibirá, quién asumirá los costos de la transición y qué instituciones ayudarán a las personas afectadas. El Anthropic Economic Index aporta un indicio de esa tensión: entre los usuarios de Claude encuestados, quienes comienzan su carrera expresaron mayor preocupación por perder su empleo, mientras que muchos participantes esperaban que la IA eliminara tareas tediosas y preservara el trabajo significativo (Anthropic, 2026). La encuesta corresponde a usuarios de Claude y no representa a la población trabajadora en general.
Cuando gobernar los riesgos ya no es suficiente
En We Must Pace the Frontier (2026), Amodei plantea su argumento más exigente. Si la IA contribuye cada vez más a programar, investigar y desarrollar nuevos modelos, podría acelerar su propio progreso. En ese escenario, las capacidades aumentarían antes de que la interpretabilidad, las evaluaciones de seguridad y la regulación lograran ponerse al día.
Por eso propone considerar, bajo determinadas circunstancias, una moderación deliberada del avance de la frontera tecnológica. Evaluadores externos, supervisión permanente, coordinación entre empresas y gobiernos democráticos, y acuerdos internacionales formarían parte de esa respuesta. Gobernar la IA implicaría entonces decidir también a qué velocidad puede aumentar su poder.
Del gobierno de los usos al gobierno de la velocidad
Leídos en conjunto, los escritos de Amodei describen un desplazamiento: primero muestran lo que la IA podría hacer; después examinan sus riesgos, la dificultad de comprenderla y sus efectos sobre el poder; finalmente preguntan si nuestras instituciones podrán seguir el ritmo de su desarrollo.
La secuencia puede resumirse así: gobernar los usos, los riesgos, las capacidades y, en ciertas circunstancias, la velocidad. Moderar el avance no aparece como una regla general, sino como una posibilidad cuando el crecimiento de las capacidades supera nuestra capacidad de evaluarlas y controlarlas.
¿Gobernar la IA para qué?
El pensamiento de Amodei deja abierta una pregunta que ninguna medida de seguridad responde por sí sola: ¿para qué queremos conservar el control humano? Podemos construir sistemas más comprensibles, someterlos a evaluaciones independientes y acordar límites a su desarrollo. Pero esas decisiones necesitan una idea de los fines que deben orientar la tecnología.
Gobernar la inteligencia artificial exige que el Estado democrático no solo garantice sistemas seguros, sino que proteja las condiciones sociales para aprender, trabajar, convivir y florecer. La pregunta clave es si su integración fortalece o debilita nuestros vínculos y capacidades humanas.
Una IA segura puede emplearse para propósitos que empobrezcan la vida humana; una sociedad más productiva no necesariamente será más justa o más libre. Por ello, junto a la gobernanza de las capacidades hace falta una conversación sobre la gobernanza de los fines. Su tarea consiste en decidir qué beneficios perseguimos, cómo los compartiremos y qué responsabilidades humanas no deseamos delegar. La dificultad decisiva quizá no sea construir máquinas cada vez más inteligentes, sino ejercer con claridad el juicio sobre aquello para lo que queremos utilizarlas.
