Por María Georgina Peña Delgadillo
Abogada, Maestra y Doctorante en Derecho
La inteligencia artificial dejó de ser una tecnología reservada a laboratorios y especialistas. Hoy interviene en la forma en que recibimos información, consumimos propaganda política y valoramos a quienes aspiran a ejercer el poder. Por ello, la discusión ya no consiste en preguntarnos si la IA transformará la democracia, sino bajo qué reglas permitiremos que lo haga. El problema central no es la tecnología en sí misma, sino la opacidad y la falta de responsabilidad con las que puede utilizarse.
Uno de los conceptos más útiles para comprender este desafío es el de la llamada “caja negra”. La opacidad algorítmica puede provenir del secreto institucional, de la complejidad técnica o de la propia forma en que ciertos modelos de aprendizaje automático producen resultados difíciles de reconstruir en términos comprensibles para una persona (Burrell, 2016). Por eso, la inteligencia artificial explicable exige que los sistemas ofrezcan razones significativas sobre sus resultados (Phillips et al., 2021). En una aplicación comercial esa opacidad puede ser un inconveniente; en una decisión pública puede convertirse en un problema jurídico. Si un algoritmo participa en la selección de beneficiarios de un programa social, clasifica riesgos o auxilia una decisión administrativa, la autoridad no puede limitarse a responder que “eso decidió el algoritmo”. La UNESCO (2021) sostiene que los sistemas de IA deben ser auditables y trazables y que la responsabilidad final debe seguir siendo atribuible a personas físicas o jurídicas. La tecnología puede auxiliar una decisión; nunca debe hacerla inexplicable.
En materia política y electoral el riesgo adopta una forma especialmente visible: los deepfakes. La inteligencia artificial permite generar o manipular imagen, audio o video para hacer parecer que una persona dijo o hizo algo que nunca ocurrió. La literatura jurídica ha advertido que esta capacidad puede distorsionar el debate público, manipular elecciones y erosionar la confianza en las instituciones (Chesney & Citron, 2019). Un video falso difundido durante una campaña puede instalar una percepción política antes de que exista tiempo suficiente para verificarlo o desmentirlo.
Existe además un efecto más delicado, identificado por Chesney y Citron (2019) como el “dividendo del mentiroso”: cuando sabemos que una voz o una imagen pueden falsificarse, una grabación auténtica también puede desacreditarse alegando que fue creada con IA. La misma tecnología que permite fabricar lo falso puede sembrar dudas sobre lo verdadero. Para una democracia esto es grave, porque la libertad del voto presupone que la ciudadanía pueda formar sus opiniones a partir de información mínimamente confiable.
México ya se encuentra frente a esta discusión. En marzo de 2026, el Instituto Nacional Electoral convirtió el proyecto Certeza en una iniciativa permanente contra la desinformación e incorporó expresamente la prevención frente a técnicas de manipulación digital como los deepfakes (Instituto Nacional Electoral [INE], 2026a). En julio del mismo año, el Consejo General discutió la necesidad de identificar el uso de IA en precampañas y campañas, generar insumos para su futura regulación y atender riesgos como la desinformación, la violencia política y los contenidos manipulados; en esa sesión se advirtió que los deepfakes amenazan la integridad democrática (INE, 2026b). El problema, por tanto, ya llegó al terreno electoral mientras las reglas todavía se encuentran en construcción.
El contraste internacional resulta relevante. El Reglamento de Inteligencia Artificial de la Unión Europea define expresamente los deepfakes y, en su artículo 50, impone obligaciones de transparencia para determinados contenidos generados o manipulados mediante IA; estas disposiciones son aplicables desde el 2 de agosto de 2026 (Regulation (EU) 2024/1689, 2024). México no necesita copiar mecánicamente ese modelo, pero sí construir reglas propias sobre transparencia, explicabilidad, auditoría y responsabilidad. Regular no significa prohibir la innovación. Significa impedir que la tecnología se convierta en una zona de poder sin controles democráticos. La pregunta no es si debemos aceptar o rechazar la inteligencia artificial, sino bajo qué límites constitucionales, legales y éticos queremos utilizarla. La inteligencia artificial puede asistir al poder, pero nunca debe volverlo inexplicable. Porque una democracia que no puede saber quién decide, cómo decide y quién responde corre el riesgo de convertirse, ella misma, en una caja negra.
