Por Simón Madrigal Caro
Internacionalista y Analista Político
Del barro al silicio: cuatro siglos creando creaturas antes de aprender a controlarlas
En algún momento de la vieja Praga nació una historia inquietante. El rabino Judah Loew ben Bezalel, el Maharal, habría moldeado con barro una figura de apariencia humana destinada a proteger a la comunidad judía. No nació de una mujer. Fue construida. No tenía alma en el sentido humano ni voluntad moral propia. Su razón de existir era obedecer. Era el Gólem.
La precisión histórica importa. El Maharal fue un personaje real del siglo XVI; el Gólem que hoy asociamos con él pertenece a una tradición legendaria cuya forma escrita se consolidó mucho después. No estamos ante el antecedente secreto de una computadora inventada cuatro siglos antes de tiempo. Estamos frente a algo más interesante: una vieja imaginación humana sobre los riesgos de crear poder sin haber resuelto primero cómo gobernarlo.
Las versiones de la leyenda difieren sobre el mecanismo para darle vida. Una habla de un pequeño pergamino colocado en la boca de la creatura con el Shem, el Nombre sagrado de Dios. Otra coloca sobre su frente la palabra hebrea אמת — emet, “verdad”. Al retirar la primera letra quedaba מת — met, “muerto”, y el Gólem se detenía. Vistas desde nuestro siglo, ambas tradiciones permiten una analogía perturbadora. El barro era el hardware. El pergamino contenía una instrucción capaz de activar la materia. Si nos permitimos una licencia contemporánea: 1, la creatura opera; 0, la creatura se detiene. Lo sorprendente es que el Gólem poseía ambas posibilidades. Nuestra época parece mucho más fascinada con la primera.
Del Shem al prompt
Esta imagen me había perseguido antes de pensar en este artículo. En mi novela: La Geniza del Cairo; los textos prohibidos que nunca debieron ser leídos, aparece un pequeño documento con una fórmula, uno de los nombres de Dios, cuya importancia no reside tanto en el pedazo de papel como en aquello que puede activar. Cuando escribí aquella escena me interesaban su misterio y su dimensión religiosa. Vista desde 2026, resulta difícil no encontrar otra lectura. Cada día, millones de personas escriben palabras dentro de una máquina y esperan que algo ocurra.
Ya no colocamos un pergamino dentro de la boca del Gólem. Escribimos un prompt.
La comparación sería solo un recurso literario si uno de los padres de la cibernética no hubiera llegado, hace más de sesenta años, a una intuición semejante. En 1964, Norbert Wiener publicó God & Golem, Inc., un breve ensayo sobre máquinas capaces de aprender y sobre la relación ética entre el ser humano y aquello que crea. Wiener entendió que el problema de una máquina poderosa no termina en su diseño; comienza en los propósitos de quien la pone a trabajar. Un poder tecnológico mayor, sostenía, exigiría también mayor responsabilidad humana. No nos regalaría un futuro donde pudiéramos dejar de pensar.
Wiener murió ese mismo año. No conoció internet. No conversó con una máquina capaz de imitar la voz humana con fidelidad perturbadora ni de producir imágenes de personas que nunca existieron. Sin embargo, había comprendido el dilema central: una herramienta no necesita tener malas intenciones para causar un daño enorme. Basta con que ejecute con eficacia una orden mal planteada.
Lo que Frankenstein no supo a tiempo, y estos sí saben
Mary Shelley colocó a su creador frente a su creatura en 1818. Frankenstein suele recordarse como una novela de horror, pero su pregunta más incómoda es moral: ¿qué responsabilidad adquiere el creador después de haber conseguido crear? Victor Frankenstein concentró su talento en resolver el problema de dar vida y descubrió demasiado tarde que esa capacidad no equivalía a la de hacerse responsable de lo creado. El aviso llegó cuando ya no había forma de retroceder. Dos siglos después, esa pregunta abandonó la literatura.
Y aquí es donde la historia se vuelve más inquietante que cualquier novela: los creadores modernos del Gólem saben lo que Frankenstein no supo a tiempo. Lo saben antes. Lo dicen en voz alta. Y el mundo, de todas formas, no parece escucharlos con la urgencia que el momento exige.
Geoffrey Hinton, considerado uno de los padres de las redes neuronales y durante años figura central en los laboratorios de Google, renunció en 2023 con una declaración sin ambigüedad posible: salía para poder hablar libremente sobre los riesgos existenciales de la inteligencia artificial.
No se iba a descansar. Se iba a advertir. Un año después, Jan Leike, quien dirigía el equipo de alineación de seguridad en OpenAI —el equipo cuya función específica es garantizar que los modelos se comporten dentro de parámetros seguros para la humanidad— presentó su renuncia señalando que en esa empresa la cultura de seguridad había quedado subordinada al producto. No era una queja laboral. Era un diagnóstico institucional firmado desde adentro.
En septiembre de 2026, Jacob Coxon dejó Anthropic —la empresa detrás del asistente de inteligencia artificial Claude— y acusó públicamente tanto a esa compañía como a OpenAI de estar apostando con nuestras vidas al competir por desarrollar modelos cada vez más avanzados. Advirtió que la IA podría volverse suficientemente inteligente como para representar una amenaza real para la humanidad, y que el problema central no es la tecnología en sí misma sino la carrera: la lógica de que ninguna empresa puede permitirse desacelerar porque si lo hace, la competencia avanza. Llamó a una regulación gubernamental con auditoría transparente de terceros. En esa misma semana, la propia Anthropic confirmó en un informe público que había bloqueado a científicos que intentaron utilizar sus modelos para apoyar el desarrollo de armas biológicas. No era una empresa rival señalando el peligro. Era la propia empresa.
Lo que distingue a estos tres hombres de Victor Frankenstein no es el talento ni la posición: es el momento. Frankenstein entendió cuando ya no había remedio. Hinton, Leike y Coxon entienden ahora, desde adentro, mientras la creatura todavía puede ser contenida. Y sin embargo el sistema político global avanza con una lentitud que, en cualquier otra industria con este nivel de riesgo declarado por sus propios constructores, sería considerada negligencia institucional.
El Maharal de Praga, al menos en la leyenda, tenía la palabra para detener a su Gólem. Los constructores modernos del Gólem también la tienen. Lo que falta es quien los escuche a la velocidad que el problema exige.
El problema ya está en los parlamentos. En algunos.
La discusión dejó de pertenecer a los laboratorios. Otros la recogieron. Estados Unidos debate mecanismos de responsabilidad para desarrolladores, supervisión federal de sistemas avanzados y protocolos de seguridad obligatorios. La Unión Europea clasificó los sistemas de inteligencia artificial según su nivel de riesgo y estableció obligaciones progresivas, con sanciones que pueden alcanzar el siete por ciento del volumen de negocio global anual de la empresa infractora. China construyó su propio esquema regulatorio para algoritmos y contenido sintético. Ninguno de estos modelos resuelve el problema completo. Todos enfrentan la misma tensión: proteger sin estrangular una tecnología que puede transformar la economía, la ciencia y la productividad. Hay además una carrera geopolítica evidente que complica cualquier marco global: ninguna potencia quiere regular tanto su propia inteligencia artificial que termine entregando la ventaja al competidor.
México también ha entrado en la conversación tecnológica. O eso parece desde afuera. Porque una de las discusiones legislativas más visibles del país sobre tecnología terminó bautizada en el debate público como la «Ley Antimemes». El nombre simplifica una reforma que, según sus defensores, busca combatir usos fraudulentos de identidades e imágenes oficiales. Sus críticos advierten efectos posibles sobre la sátira política y la libertad de expresión. El asunto merece precisión jurídica, no caricatura. Lo que no merece es convertirse en el eje de la conversación mexicana sobre regulación digital mientras el mundo discute responsabilidad algorítmica, deepfakes criminales, manipulación electoral automatizada y sistemas que ya toman decisiones sobre derechos ciudadanos sin que nadie pueda apelarlas ni comprender cómo fueron tomadas.
Afuera, los creadores del Gólem advierten sobre los límites de lo que están construyendo. Adentro, el Congreso discute quién puede usar la cara de un funcionario en una imagen graciosa. La desproporción no necesita adjetivos.
El segundo código
El Gólem de Praga no nació malvado. Fue creado para proteger. Esa es la parte de la leyenda que mejor resiste el viaje hasta nuestro siglo: una tecnología no necesita odiar al ser humano para producir consecuencias graves. Puede bastar una instrucción equivocada, un objetivo mal definido o un poder que exceda la capacidad de supervisión de quien lo puso en movimiento.
Hans Jonas formuló el principio que define este momento: cuando el poder para transformar el mundo aumenta, debe aumentar también la responsabilidad por las consecuencias de lo que podemos provocar. No estaba escribiendo sobre modelos de lenguaje. Estaba describiendo exactamente el tipo de poder que ahora tenemos en las manos y la dimensión moral que ese poder impone.
Las preguntas difíciles no son las del cine. Son estas: quién determina los objetivos de un sistema de inteligencia artificial, quién audita su comportamiento, quién responde cuando falla, qué ocurre cuando una voz clonada vacía la cuenta de un adulto mayor, cuando un deepfake altera el resultado de una elección o cuando una decisión automatizada afecta derechos sin que nadie pueda explicar cómo fue tomada. La energía nuclear obligó a construir instituciones internacionales que no existían cuando comenzó la carrera atómica; el poder llegó primero y la gobernanza intentó alcanzarlo después. Con la inteligencia artificial el problema cambia de escala: el Gólem de barro necesitaba las manos de su creador para existir. El de silicio puede copiarse millones de veces antes de que alguien haya decidido si debería existir.
El Maharal sabía cómo detener a su Gólem. Borraba una sola letra de אמת, emet, «verdad», y la convertía en מת, met, «muerto». La misma imaginación que concibió el mecanismo para dar vida concibió también el mecanismo para retirársela. El primer código y el segundo nacieron juntos, de la misma mente, en el mismo acto de creación responsable.
Cuatro siglos después, la humanidad domina el primero con una eficacia sin precedentes. Ha construido máquinas que aprenden, que generan, que persuaden y que, según quienes las construyen desde adentro, podrían eventualmente superar la capacidad humana para contenerlas. El segundo código —el del límite, el de la responsabilidad, el del apagado— sigue esperando a alguien que se tome en serio escribirlo. El Gólem ya despertó. Los creadores advierten. El Congreso mexicano, de momento, discute memes.
Fuentes: CBS News (Jacob Coxon, septiembre 2026) · MIT Press (Norbert Wiener, 1964) · The Guardian (Geoffrey Hinton, 2023) · The New York Times (Jan Leike, 2024)
