Pathfinder, el software israelí contratado por Hacienda: así se usa la IA para investigar y estos son sus límites
- Expertos en ciberseguridad y derecho digital explican en qué consiste este programa y cómo ayuda a detectar el fraude fiscal
- Envíanos consultas al 659 800 555 o a verificartve@rtve.es
La dirección de esta página ha sido copiada en su portapapeles
Nos habéis consultado en el WhatsApp de VerificaRTVE por un vídeo que habla de Pathfinder, un programa de inteligencia artificial desarrollado por la empresa israelí Cellebrite, y el uso que hace de esta herramienta el Ministerio de Hacienda. Te explicamos con la ayuda de tres expertos en qué consiste y cuáles son los límites sobre el uso de la IA para investigar fraude.
En el vídeo de Instagram por el que nos habéis consultado, su autor dice: "¿Sabías que Hacienda acaba de comprar una IA que analiza tus fotos en redes sociales píxel a píxel buscando símbolos de riqueza? Se llama Pathfinder, es un software israelí y acaban de adquirir 500 licencias por más de un cuarto de millón de euros". Posteriormente, asegura que "la IA ve qué coche usas, qué móvil tienes, qué ropa llevas y cruza todo eso con tus ingresos buscando descuadres".
La Agencia Tributaria niega que investigue las redes sociales
El Ministerio de Hacienda asegura a VerificaRTVE que el programa contratado por la Agencia Tributaria no accede a las imágenes, vídeos y mensajes publicados en redes por las personas investigadas. Asegura que la Agencia Tributaria "utiliza esta herramienta de análisis forense para discriminar información recogida en entradas y registros realizados en la sede de sociedades que están siendo objeto de una inspección". Se centra, por tanto, en la información obtenida en registros "con la autorización preceptiva". "Por ejemplo, este tipo de herramientas facilitan la discriminación entre facturas, albaranes y contratos", afirma el departamento que dirige Arcadi España.
El Ministerio de Hacienda rechaza que el programa israelí pueda acceder a publicaciones de redes sociales. Argumenta que "no es una herramienta conectada a internet", sino que "funciona offline [sin conexión a internet] sobre la información recogida en el registro".
La empresa Cellebrite responde a la consulta de VerificaRTVE que "Pathfinder es una plataforma de análisis de datos en investigación que ayuda a organizar y comprender "los datos recopilados en casos autorizados legalmente". "Está diseñada para casos con múltiples dispositivos y utiliza el aprendizaje automático para establecer conexiones y patrones que el ojo humano no puede detectar". Aclara que siempre hay un humano que supervisa y toma decisiones en base a la información proporcionada. Esta compañía nos asegura por email que "solo vende a clientes gubernamentales, policiales y empresariales" en "países democráticos".
Hemos consultado en el Portal de Transparencia y en la Plataforma de Contratación del Sector Público los contratos entre el Gobierno y la empresa Cellebrite, desarrolladora de Pathfinder. Se trata de un software que utiliza Hacienda desde 2023, cuando la Agencia Tributaria adquirió un contrato de suscripción de licencias de un "producto para el análisis forense y revisión de la información capturada". En la justificación del contrato indica que pretendía mejorar la ‘Plataforma de Análisis Forense’, concretamente para la información procedente de teléfonos móviles.
Es un programa que cruza grandes volúmenes de datos
"Pathfinder es una plataforma de análisis e inteligencia diseñada para fuerzas y cuerpos de seguridad, agencias de inteligencia y analistas forenses", explica el experto en ciberseguridad Vicente Aguilera. Es un tipo de herramienta que "permite reducir enormemente el esfuerzo de los analistas a través del procesamiento automatizado de la información disponible". Por ejemplo, ante grandes volúmenes de información textual, imágenes o vídeos. "Aquí es donde entra en juego la IA", dice Aguilera.
El experto en desinformación y redes sociales Marcelino Madrigal también indica que este software de la firma israelí Cellebrite sirve para hacer "análisis forense en dispositivos móviles" y considera que es una "de las herramientas más potentes" para relacionar datos ya extraídos. "Hacienda lo estará utilizando para investigar crímenes económicos", indica este experto, porque Pathfinder puede elaborar una serie de informes y trazar relaciones a través de llamadas de teléfono o mensajes de WhatsApp. En cambio, cree que la herramienta "no está centrada en investigar perfiles de redes sociales para extraer información económica de la gente". "Lo que hace es establecer relaciones basadas en identidades. Analiza que dos personas aparecen en un correo o se refieren a un domicilio", indica.
Vicente Aguilera subraya también la capacidad de este programa para visualizar los datos. Una vez que la información ha sido procesada, "son capaces de generar distintas representaciones visuales" como gráficos o mapas de calor para "identificar conexiones y facilitar su interpretación por parte de los analistas". "Se puede identificar fácilmente con quién se relaciona una persona, de qué temas habla con cada una de ellas, las ubicaciones en las que se ha desplazado, etc.", subraya.
¿Cuáles son los usos de la IA para la Agencia Tributaria?
Aguilera sostiene que "al igual que las redes criminales organizadas, el fraude fiscal también tiene la forma de un mapa de conexiones" y, por ello, "ser capaz de automatizar la identificación de estas conexiones resulta vital". De esta forma, "si Pathfinder permite identificar los distintos alias que tiene una persona en las redes sociales y los asocia a una única persona, Hacienda puede utilizar la IA para correlacionar distintas bases de datos", como pueden ser los registros notariales, el registro mercantil o datos financieros con otras fuentes para "detectar testaferros y redes de sociedades o detectar cuando una sociedad mercantil puede estar siendo utilizada con fines ilícitos (pagos de viviendas, vehículos de lujo, viajes personales, etc.)".
"Dado que Hacienda dispone de grandes volúmenes de datos de cada contribuyente", explica Vicente Aguilera, "es lógico pensar que se utilice la IA no sólo con fines de perseguir el fraude fiscal, sino también con fines de prevención, analizando toda la información disponible y generando alertas de situaciones sospechosas". Según este experto, "Hacienda tiene la capacidad de asignar a cada contribuyente una puntuación de riesgo fiscal, de forma que le permita focalizar sus esfuerzos de investigación en aquellos con un mayor nivel de riesgo".
El secretario general del Sindicato de Técnicos de Hacienda (GESTHA), José María Mollinedo, nos explica que este programa se puede usar para analizar grandes volúmenes de datos en macrooperaciones "contra el fraude que abarcan un sector amplio de actividad", en las que están involucradas diferentes empresas. Además, apunta que no está disponible en todas las oficinas de la Agencia Tributaria, sino en la Oficina Nacional de Investigación del Fraude.
Los límites legales del uso de la IA por administraciones públicas
Borja Adsuara, abogado experto en derecho digital, afirma que "una cosa es utilizar la IA cuando estás realizando una inspección" por la dificultad de revisar grandes cantidades de información "a mano", pero recalca que no se debe utilizar nunca "para una investigación prospectiva". "Los únicos que saben para qué la utilizan son los de la Agencia Tributaria", añade. Adsuara cree que "hay una obligación de transparencia, de saber con qué finalidad se utilizan" este tipo de herramientas.
"Para hacer un tratamiento de datos, tienes que tener una base de datos o una ley que te ampare, qué finalidad se autoriza. La norma general es que solo pueden tratar datos personales con tu consentimiento, pero hay una excepción y es que la administración puede tratar datos tuyos sin tu consentimiento", argumenta este abogado. Para ello, indica, la Agencia Española de Protección de Datos (AEPD) "debe velar por el tratamiento que hacen las administraciones públicas" y también existe "un reglamento de IA donde dice cuáles son los usos prohibidos de las administraciones públicas".
Vicente Aguilera nos explica que el uso de Pathfinder en investigaciones requiere "el mandato de un juez" porque utiliza como fuente de información "datos extraídos de dispositivos móviles, de la nube, de ordenadores y servidores, de registros de llamadas, etc.". Hacienda sostiene que Pathfinder se utiliza "en el seno de procedimientos de comprobación" y que, por ello, "cuenta con todas las garantías de protección de datos aplicables al acceso, obtención, custodia, análisis y utilización de la información". En la misma línea, desde GESTHA aclaran que no se puede incautar y analizar la información de teléfonos móviles "sin orden judicial". Sin embargo, la Agencia Tributaria sí puede, mediante orden administrativa, personarse en la oficina de una empresa e investigar su información contable.
"Creo que existen marcos legales sobre el uso de los algoritmos que se utilizan para analizar a los contribuyentes, donde la idea es únicamente recopilar datos con trascendencia tributaria", asegura el experto en ciberseguridad Vicente Aguilera. La Ley de Inteligencia Artificial de la UE regula esta cuestión e impide, según Aguilera, que se utilice "la IA para clasificar a los ciudadanos por etnia, religión u orientación política".
"Lo que sí se puede analizar", según este experto, "es cualquier información que un usuario publique en Internet sin restricciones de privacidad". Por tanto, "Hacienda podría analizar anuncios en plataformas como Airbnb o Wallapop y utilizar la IA para cruzar las fotos públicas de los alquileres vacacionales con el Catastro para identificar al dueño y realizar las gestiones oportunas en caso de no declarar esos ingresos". En cambio, "no podría acceder a cuentas privadas de redes sociales ni solicitar a las plataformas que les dieran acceso" como tampoco podrían "crear perfiles falsos para infiltrarse entre nuestros seguidores".
