Analizar cómo la inteligencia artificial (IA), la desinformación y los discursos de odio inciden en los procesos políticos y representan riesgos para la democracia en América Latina, fue el objetivo de un estudio interuniversitario en el participó la académica investigadora de la Facultad de Derecho de Universidad de Las Américas (UDLA) Sede Viña del Mar, Dra. María Lorena Rossel.
La iniciativa indagó el uso de recursos digitales, especialmente la IA generativa, los bots (programas automatizados que difunden masivamente mensajes y pueden simular actividad humana en redes sociales), astroturfing (estrategia de manipulación digital que crea una falsa apariencia de apoyo ciudadano espontáneo mediante cuentas y mensajes coordinados) y deepfakes (imágenes, audios o videos manipulados o generados mediante inteligencia artificial que representan situaciones o declaraciones que nunca ocurrieron), para difundir contenidos falsos o agresivos y distorsionar el debate público en procesos políticos latinoamericanos recientes, a partir del análisis comparado de casos en Brasil, Colombia, Ecuador y Chile.
“Nos interesó investigar este fenómeno porque advertimos que la inteligencia artificial, especialmente la generativa, no solo está transformando la comunicación política, sino que también está aumentando la capacidad de producir, segmentar y difundir masivamente contenidos falsos o manipulados”, explicó la Dra. Rossel, quien desarrolló este trabajo junto a Jorge Astudillo, académico de la Facultad de Derecho de la Universidad Andrés Bello.
Agregó que “en América Latina esto resulta especialmente relevante porque las campañas electorales recientes se han desarrollado en contextos de alta polarización, donde la desinformación y los discursos de odio han dejado de ser fenómenos marginales para convertirse, en algunos casos, en verdaderas estrategias de comunicación política”.
Para el estudio, detalló, analizaron conjuntamente tres fenómenos que habitualmente se estudian por separado: inteligencia artificial, desinformación y discursos de odio. “Nuestra hipótesis fue que la IA puede potenciar los dos últimos, profundizando la polarización política y afectiva, debilitando la deliberación democrática e influyendo en los procesos políticos”, dijo.
Riesgos para la democracia
Uno de los aspectos centrales del estudio fue la forma en que estas prácticas pueden incidir en las decisiones de los votantes. Al respecto, la académica advirtió que “el principal riesgo es que alteran las condiciones en que los ciudadanos forman su opinión y ejercen su derecho a voto. La IA permite producir textos, imágenes y videos falsos cada vez más realistas y difíciles de distinguir de contenidos auténticos. A esto se suman bots y campañas de astroturfing, capaces de multiplicar artificialmente determinados mensajes y hacer aparecer una posición política como si tuviera un apoyo ciudadano que no existe”.
Sobre las consecuencias, señaló que se identificaron aspectos concretos, como el aumento de la polarización política y afectiva, el deterioro de la confianza en las instituciones, el debilitamiento de la deliberación pública y afectación de la igualdad de la competencia electoral. “La desinformación puede servir de vehículo para discursos de odio contra grupos vulnerables, contribuyendo a su estigmatización y discriminación. El problema, por tanto, no consiste solamente en que circule información falsa. Estas estrategias pueden condicionar la agenda pública, manipular la percepción de los electores y afectar la calidad del voto y la legitimidad de los procesos electorales”, mencionó.
Particularidades del caso chileno
La investigadora, dijo que “en Chile identificamos tres manifestaciones concretas. En la elección presidencial de 2021, WhatsApp fue utilizado para difundir rumores, desinformación y tácticas de ‘campaña sucia’, particularmente contra uno de los candidatos. Durante el proceso constituyente de 2020-2022, Twitter/X se convirtió en un espacio relevante para difundir desinformación y discursos de odio contra la Convención Constitucional y sus integrantes, afectando particularmente a mujeres y representantes vinculados a pueblos originarios”.
A esto se suma la campaña presidencial de 2025. “En esta se denunció la utilización de bots y astroturfing mediante cuentas falsas o automatizadas que viralizaban determinados mensajes, generando la apariencia de un respaldo ciudadano genuino. Las afectadas eran candidatas mujeres y estas estrategias buscaban afectar su reputación, intervenir en la agenda pública y construir consensos ficticios”, explica Rossel, quien sostiene que “Chile no está frente a un fenómeno aislado, sino ante una estrategia de carácter transnacional”.
Desafíos jurídicos, institucionales y regulatorios
La académica explica que “nuestro estudio propone una respuesta articulada en tres ámbitos, normativo, tecnológico y educativo. Jurídicamente, uno de los principales desafíos consiste en definir la responsabilidad de las plataformas e intermediarios digitales. El artículo contrasta el modelo europeo de la Digital Services Act, que establece deberes diferenciados de diligencia y auditoría, con el modelo estadounidense, que privilegia la autorregulación. Para América Latina el desafío consiste en encontrar un modelo que evite los dos extremos, ni impunidad digital ni censura arbitraria”.
Otro aspecto relevante es establecer criterios compartidos para abordar la desinformación y determinar responsabilidades. Al respecto, sostiene que “un segundo desafío es avanzar hacia un marco conceptual común sobre desinformación, discriminación y violencia digital e incorporar la transparencia algorítmica como principio rector, incluyendo auditorías independientes de las plataformas. En materia sancionatoria proponemos un sistema gradual y proporcional: medidas administrativas y civiles -multas y reparación de daños- y reservar el Derecho Penal para las conductas de mayor gravedad, como la desinformación intencional y maliciosa con fines electorales o la propagación automatizada de discursos de odio. Incluso planteamos evaluar la responsabilidad de personas jurídicas cuando se beneficien de estas formas de manipulación”.
La propuesta también considera herramientas para detectar y limitar la circulación de contenidos manipulados, junto con acciones formativas dirigidas a la ciudadanía y a quienes trabajan en comunicaciones. “Ninguna regulación será suficiente por sí sola. Debe complementarse con detección de bots, etiquetado de contenidos generados mediante IA, fact-checking automatizado y alfabetización digital, fortaleciendo el pensamiento crítico de la ciudadanía y la formación de periodistas y comunicadores. La respuesta no puede ser exclusivamente represiva, debe integrar prevención, reparación y sanción, combinando regulación jurídica, herramientas tecnológicas y educación crítica”, dijo la académica.
El artículo sobre esta investigación “Democracia en riesgo: IA, desinformación y discursos de odio en los procesos políticos latinoamericanos”, fue publicado en la revista Novum Jus.
El Museo Fonck de Viña del Mar ofrecerá un cuentacuentos gratuito sobre la leyenda rapanui…
El Hotel Casa Higueras cumple 20 años en Valparaíso y su fundador destaca la urgencia…
Más de 180 estudiantes de la Región de Valparaíso participaron en la Tercera Feria Interuniversitaria…
La Universidad de Las Américas realizará el Summit IA 2026 para analizar el impacto de…
El Museo Fonck de Viña del Mar celebrará su aniversario con un taller online gratuito…
La SMA ordenó medidas urgentes y preventivas a empresas de cinco regiones del país para…