La Policía abandona su proyecto de IA 1t326f

Hola esto es Cuéntame Tecnología, un podcast en el que hablamos de tecnología de forma amena y sencilla. Yo soy Javier Hernández y vamos con lo que te quiero contar hoy. Hoy es jueves 20 de marzo de 2025 y vamos a hablar de cómo la Policía Nacional va a abandonar, de hecho ya lo ha hecho, su proyecto estrella de inteligencia artificial. Y es que resulta que desde 2018 la Policía Nacional tenía un proyecto de inteligencia artificial para detectar denuncias falsas en robos con violencia. Sí, yo también me he quedado sorprendido. Llego sin enterarme.

Bueno, que eso tampoco es muy complicado, ¿no? Bueno, pues esta inteligencia artificial que fue en su momento anunciada como pionera y la primera de su tipo a nivel mundial, prometía con su implementación optimizar el uso de los recursos policiales y combatir el fraude de los seguros, ¿vale? Como digo, detectando denuncias falsas en robos con violencia.

Pues bien, seis años después del lanzamiento y puesta en funcionamiento, parece, yo de lo que he leído, parece ser que en modo beta se le ha dado carpetazo definitivo a esta inteligencia artificial. Se la ha metido en un cajón alegando falta de validez en los procedimientos judiciales, ya veréis por qué, iremos desarrollando, y problemas internos de sesgo de tamaño de las muestras de entrenamiento, de desfase temporal de aquellas muestras de entrenamiento y por la entrada en vigor de un nuevo reglamento europeo sobre la inteligencia artificial.

Vamos primero con un poco de historia acerca de esta inteligencia artificial.

Beripol, que así se llama el invento, nació con el desarrollo por parte de la Universidad Complutense de Madrid, la Universidad Carlos III y un ex agente de policía doctorado en matemáticas. Fue entrenada con un conjunto de 1.122 denuncias por robo cometidas en España en 2015, de las cuales 534 fueron clasificadas como verdaderas, es decir, 47% del total y 588 fueron clasificadas como falsas, que suponen el 53% del total.

No me queda claro si esta clasificación como verdaderas o falsas estaban ya a posteriori y venían ya a posteriori clasificadas así por los propios policías o era la inteligencia artificial la que había determinado que eran verdaderas o falsas, pero en cualquier caso llama la atención que hubiese más denuncias falsas que verdaderas. Como digo, pues un 53% venían a ser clasificadas como falsas y un 47 como verdaderas.

Lo primero que llama la atención de este tema es que evidentemente tenemos un problema grave en este sentido. Si son tantas o si son mayoría las denuncias falsas que se denuncian, valga la redundancia por robo con violencia frente a las que no lo son y que justificaba en su momento el desarrollo de esta inteligencia artificial bajo mi punto bajo mi punto de vista.

La herramienta utilizaba lenguaje natural para identificar patrones lingüísticos asociados a operaciones fraudulentas con una precisión según sus creadores de el 90% e incluso más, que superaba en ocasiones el 90% con resultados parecidos en pruebas piloto realizadas en las que tras identificar la inteligencia artificial la denuncia como falsa, los denunciantes acabaron confirmando, pobres ellos, que habían mentido a la hora de interponer la denuncia. Con estos datos, Veripol fue oficialmente adoptada en comisarías de toda España, llegando a procesar cerca de 84.000 denuncias hasta 2020.

Bien, tratándose de la cuestión de algo tan importante, un estudio de la Universidad de Valencia sacó a la luz varios problemas que le valieron no pocas críticas en el estudio. En primer lugar, existía, según la Universidad de Valencia, un problema de base que la herramienta no trabajaba con el testimonio directo de los denunciantes, sino que las transcripciones realizadas por el agente de policía eran las que servían de base para que la inteligencia artificial determinase si esta denuncia era verdadera o falsa.

A mí esto me parece muy inteligente, es decir, una conclusión muy inteligente y me parece un elemento lo suficientemente importante como para ya haber detenido y haber metido en un cajón esta inteligencia artificial, o por lo menos haberla reescrito desde cero, haberla interpretado desde un punto de vista porque es verdad, es cierto, es algo de bulto. Realmente la inteligencia artificial Beripol no analiza la historia que el eventual mentiroso está contando a la luz.