Durante las campañas electorales de 2024, la entonces candidata a la jefatura de gobierno de la Ciudad de México, Clara Brugada Molina, fue blanco de una intensa campaña de violencia digital en redes sociales.
De acuerdo con datos del Observatorio de Violencia Política contra las Mujeres en México (OVPMM), Brugada recibió más de 15,000 mensajes con contenido misógino, sexualizado o difamatorio en menos de un mes. Los ataques incluyeron comentarios relacionados con su apariencia y acusaciones de corrupción sin fundamento, lo cual representa una forma sistemática de agresión destinada a minar su credibilidad, reputación y seguridad personal. Este caso ejemplifica la manera en que la violencia digital se usa como herramienta de intimidación sobre las mujeres que ejercen liderazgo o visibilidad pública.
En México, la violencia digital dirigida contra mujeres —especialmente aquellas que participan en espacios políticos, mediáticos y de activismo— se ha normalizado al grado de ser considerada una extensión de las violencias estructurales de género.
Este tipo de agresión suele manifestarse como amenazas, acoso, difamación, robo de identidad, difusión de información privada y campañas organizadas de desprestigio en entornos digitales. En este contexto, la inteligencia artificial (IA) emerge como una herramienta con alto potencial para identificar, monitorear y prevenir discursos violentos de manera automatizada y en tiempo real.
Potencial de la IA para detectar violencia digital
El uso de la IA para combatir la violencia de género en espacios digitales se basa principalmente en el procesamiento del lenguaje natural (PLN), una subdisciplina de la inteligencia artificial que permite analizar grandes volúmenes de texto para detectar patrones de comunicación aplicada al monitoreo de redes sociales y plataformas, permitiendo identificar en tiempo real lenguaje sexista, amenazante o difamatorio dirigido a mujeres, detectar campañas de acoso coordinado o en enjambre, monitorear hashtags o frases clave utilizadas de forma reiterada para atacar a usuarias de redes sociales, influencers, candidatas, periodistas o defensoras de los derechos de las mujeres, así como la generación de reportes automatizados y alertas tempranas que adviertan sobre picos de violencia digital por temporalidad y durante debates o elecciones.
Para que estos sistemas sean efectivos en el contexto nacional, es fundamental entrenarlos en español mexicano, considerando los usos coloquiales, chistes de corte sexista o misógino, expresiones regionales, contextos culturales y dinámicas políticas propias del país, con el fin de mejorar la precisión del análisis y reducir el riesgo de falsos positivos o invisibilización de formas sutiles de violencia hacia las mujeres en Internet.
El desarrollo e implementación de una herramienta de esta naturaleza, beneficiaría a:
- Candidatas, legisladoras y funcionarias, particularmente durante periodos electorales.
- Periodistas y comunicadoras, especialmente aquellas que cubren temas sensibles, como violencia hacia grupos vulnerables o corrupción.
- Defensoras de derechos humanos y activistas, pues muchas de ellas operan en condiciones de vulnerabilidad.
- Creadoras de contenido y usuarias de redes sociales que enfrentan cotidianamente violencia verbal, simbólica y sexualizada en plataformas digitales.
Además de su impacto preventivo, un sistema de este tipo tendría importantes beneficios en el ámbito académico y jurídico. Entre ellos:
- La generación de una base de datos nacional sobre violencia digital con perspectiva de género y contexto, que sirva como insumo para investigaciones en filosofía del lenguaje, sociología, psicología social, ciencia política, derecho, comunicación, lingüística y estudios de género.
- La producción de pruebas digitales estructuradas con metadatos, análisis de red, fechas y patrones, útiles para soportar denuncias o quejas ante instancias civiles y penales.
- La posibilidad de evaluar la efectividad de políticas públicas, identificando tendencias territoriales, partidarias o temáticas en el discurso violento de corte misógino.
- El fortalecimiento de marcos normativos y reformas en materia de violencia digital y política.
A largo plazo, este sistema contribuiría a la práctica de una cultura digital con equidad de género; pues hoy, la violencia digital contra las mujeres es otra de las manifestaciones estructurales que históricamente han limitado la participación de las mujeres en el espacio público.
No obstante, la tecnología —cuando se diseña desde una perspectiva ética, de derechos humanos y de la niñez— puede ser una aliada en la transformación de duras realidades. La inteligencia artificial, aplicada de forma crítica y contextual, tiene el potencial de convertirse en una herramienta de prevención, documentación e impartición de justicia ante una de las formas de violencia más normalizadas del presente.