Desarrollan un innovador sistema para identificar noticias falsas y contenido dañino generado por IA en la UA

La catedrática de la Universidad de Alicante, Estela Saquete, está al frente de un innovador proyecto que busca desarrollar un sistema para detectar noticias falsas, lenguaje nocivo y contenido generado por inteligencia artificial. Este estudio se enmarca dentro de la estrategia del Centro de Inteligencia Digital de la provincia de Alicante (CENID), que es una colaboración entre la Universidad de Alicante, la Diputación de Alicante y la Universidad Miguel Hernández de Elche.

El objetivo principal de esta investigación es abordar desafíos contemporáneos como la desinformación, el discurso de odio y el contenido automatizado. Para ello, se están analizando diversas tecnologías y herramientas digitales, incluyendo el procesamiento del lenguaje natural y técnicas de deep learning, con la finalidad de proporcionar a las instituciones públicas los medios necesarios para fomentar un entorno digital seguro.

Desarrollo de un modelo tecnológico

El proyecto propone la creación de un dataset estructurado que permitirá desarrollar modelos de lenguaje avanzados, optimizados para la detección de información confiable, así como de contenido violento y generado por inteligencia artificial. Esta herramienta se entrenará con modelos de lenguaje que se ajustarán de manera progresiva para mejorar su precisión en cada área de análisis.

Además, se diseñará e implementará una interfaz que integrará los algoritmos y modelos del sistema, facilitando su aplicación en el entorno digital, comenzando por la provincia de Alicante. Posteriormente, se llevará a cabo una evaluación interna de cada módulo y se realizarán pruebas experimentales en una administración pública local para validar su eficacia.

Fases del proyecto

La ejecución del proyecto contempla diversas actividades que se llevarán a cabo en varias fases. Inicialmente, se comenzará con un análisis para identificar las amenazas que pueden afectar a diferentes colectivos de la sociedad. A continuación, se elaborará un informe que documente los tipos de violencia que enfrentan tanto la ciudadanía como los trabajadores de las administraciones.

Simultáneamente, se realizará un estudio sobre la aplicación y mejora de la tecnología de procesamiento del lenguaje natural para detectar y mitigar estas amenazas. Como resultado de estos estudios, se diseñará un modelo que permita aplicar tecnologías de procesamiento del lenguaje para identificar riesgos en el consumo de información, especialmente en el ámbito de la administración pública local. Finalmente, se presentará el proyecto en diversas convocatorias nacionales e internacionales para aumentar su visibilidad y impacto.

Esta iniciativa representa un avance significativo en la seguridad digital y la protección de la ciudadanía en un entorno cada vez más interconectado, desarrollando soluciones innovadoras para combatir la desinformación y fortalecer la ciberseguridad.