%2013_34_19.png)
Mientras la inteligencia artificial fortalece la seguridad digital, también ha facilitado la proliferación de nuevas formas de violencia en línea contra las mujeres. El uso de deepfakes, la suplantación de identidad y los ataques automatizados se ha convertido en un desafío mundial.
Ante este panorama, Layla Delgadillo, fundadora y CEO de Silent4Business, enfatizó la necesidad de fortalecer la regulación y aplicar soluciones basadas en IA para combatir estas amenazas.
El uso de inteligencia artificial en la generación de contenido digital manipulador ha crecido exponencialmente en los últimos años. Los deepfakes, videos y audios generados con IA, han sido utilizados para desinformar y acosar a mujeres en entornos digitales. Según datos de Deeptrace Labs, la cantidad de deepfakes en internet aumentó un 330% entre 2019 y 2021, con el 96% de ellos dirigidos a la creación de contenido explícito sin consentimiento.
Para Delgadillo, el acceso a software de código abierto y la reducción de costos computacionales han facilitado el uso de estas herramientas por parte de agresores. “El problema no es solo la sofisticación de estos ataques, sino la facilidad con la que cualquier persona con conocimientos básicos puede manipular imágenes y videos para acosar o extorsionar”, advirtió Delgadillo.
Agregó que frente a este panorama, los esfuerzos por frenar la violencia digital han avanzado en dos frentes clave: el tecnológico y el legal. En el primero, se han desarrollado algoritmos avanzados de detección de deepfakes y análisis forense digital, que permiten autenticar contenido audiovisual mediante el estudio de metadatos, marcas de agua digitales y patrones de manipulación.
Estas soluciones, según la experta, han permitido detectar con mayor rapidez la alteración de contenido, pero aún enfrentan desafíos en la precisión y contextualización de las imágenes y videos intervenidos.
En el ámbito legal, algunos países han comenzado a tomar medidas para responsabilizar a las plataformas digitales por la difusión de contenido manipulado. “Estados Unidos y la Unión Europea han implementado normativas más estrictas, mientras que en México la Ley Olimpia ha representado un avance en la tipificación del acoso digital. No obstante, las regulaciones aún son insuficientes ante la velocidad con la que evolucionan las amenazas digitales”, comentó la CEO de Silent4Business.
Sin embargo, la inteligencia artificial no solo es una amenaza, sino también una herramienta clave para combatir el acoso en redes sociales. “La IA se ha convertido en una herramienta clave para analizar el gran volumen de datos que se generan en redes sociales. Mediante técnicas de procesamiento de lenguaje natural y análisis de imágenes, se pueden identificar patrones de acoso, lenguaje ofensivo y comportamientos abusivos en tiempo real”, explicó la experta.
Las soluciones actuales pueden detectar contenido ofensivo y generar alertas automáticas para los moderadores de plataformas digitales. Sin embargo, aún enfrentan limitaciones, como la interpretación del contexto y la alta tasa de falsos positivos, por lo que la supervisión humana sigue siendo indispensable.
Ante el aumento de la violencia digital, Delgadillo recomienda fortalecer la ciberseguridad personal mediante la educación digital, el uso de configuraciones avanzadas de privacidad y herramientas de monitoreo que alerten sobre intentos de suplantación de identidad o actividades sospechosas.
Desde Silent4Business han desarrollado 4YOU, un sistema que detecta en tiempo real anomalías en la red y emplea IA para neutralizar intentos de acoso. Además, ofrecen asesoría personalizada y protocolos de respuesta rápida para gestionar incidentes.
“Nuestro sistema de monitoreo en tiempo real detecta actividades inusuales en la red y utiliza algoritmos avanzados para identificar y neutralizar intentos de acoso digital. Además, ofrecemos asesoría personalizada y protocolos de respuesta rápida para gestionar incidentes, ayudando a nuestras clientas a proteger su imagen y su privacidad en entornos digitales”, detalló Delgadillo.
Además de impulsar soluciones tecnológicas, Silent4Business ha apostado por el liderazgo femenino dentro del sector, integrando a ejecutivas en puestos clave, como Lourdes del Pilar Abadía Velasco, directora de Finanzas y Administración, y María del Rosario Palomero, subdirectora de Operaciones.
Finalmente, Delgadillo destacó que un entorno digital más seguro no solo se construye con tecnología, sino con equipos diversos que comprendan las amenazas desde una perspectiva integral. “La lucha contra la violencia digital es una tarea urgente que requiere la colaboración de empresas, gobiernos y usuarios.”, concluyó.
Comments