La Policía Nacional ha decidido renunciar a Veripol, una herramienta de inteligencia artificial que prometía detectar denuncias falsas de robos con violencia. Este anuncio ha sido confirmado por la Dirección General de la Policía en octubre de 2024, tras varios años de críticas y falta de transparencia en su funcionamiento. Según diversas fuentes, Civio, una organización dedicada a la transparencia, había estado solicitando información sobre el uso y la eficacia de la herramienta, pero nunca recibió respuestas satisfactorias. Este desenlace pone de manifiesto las limitaciones y dudas en torno a la utilización de algoritmos en el ámbito judicial.
Veripol fue introducido en 2018 como un ambicioso proyecto tecnológico, con la afirmación de que podía identificar denuncias fraudulentas con una precisión superior al 90%. Sin embargo, su sistema se basó en datos limitados, específicamente en apenas 1.122 denuncias de un solo año, lo que plantea serias preguntas sobre la validez de sus resultados. En su funcionamiento, la herramienta clasificaba ciertas palabras como indicadores de denuncias potencialmente falsas, ignorando el contexto y la naturaleza real de los relatos de las víctimas, lo que suma a la larga lista de desventajas que finalmente llevaron a su desconexión.
La decisión de desactivar Veripol se ha visto impulsada no solo por su baja fiabilidad, sino también por el impacto del nuevo Reglamento Europeo de Inteligencia Artificial, que exige que las tecnologías utilizadas en contextos de alto riesgo se implementen con una mayor transparencia y garantías. La incapacidad de Veripol para cumplir con estos estándares ha contribuido a su desaparición, ilustrando la exigencia actual de responsabilidad en el uso de herramientas de AI en el sector público. El enfoque inicial del sistema, considerado futurista, se ha mostrado insuficiente ante las complejidades y las implicaciones legales que giran en torno a la implementación de tales tecnologías.
La falta de apertura por parte del Ministerio del Interior y de la Policía ha dejado sin respuesta preguntas fundamentales sobre la capacidad de Veripol. ¿Cuántas comisarías han utilizado realmente este sistema? ¿Qué resultados se obtuvieron en casos específicos? Estas interrogantes resaltan la frustrante ausencia de información que hoy en día debería estar garantizada por un departamento de transparencia que, irónicamente, parece haber estado inoperante. La incapacidad de ofrecer datos claros solo alimenta la desconfianza ciudadana hacia las instituciones encargadas de la seguridad y la justicia.
Finalmente, Veripol representa un caso emblemático de la brecha que puede existir entre la innovación tecnológica y sus aplicaciones en la vida real, especialmente en el contexto de la justicia. Mientras que la inteligencia artificial tiene el potencial de mejorar el sistema judicial, su implementación requiere de criterios rigurosos y bien fundamentados. Lo ocurrido con Veripol subraya la importancia de no dejarse llevar por las promesas de la tecnología, sino de garantizar que cada herramienta utilizada en la protección de los derechos civiles esté debidamente evaluada y respaldada por datos confiables y prácticas éticas.
