El Gobierno activa el primer entorno de pruebas de la UE para garantizar la responsabilidad de sistemas de Inteligencia Artificial

A través de su Secretaría de Estado de Digitalización e Inteligencia Artificial (IA), el Ministerio para la Transformación Digital y de la Función Pública ha publicado la resolución provisional de la primera convocatoria del Sandbox de Inteligencia Artificial.

Con el plazo de solicitudes cerrado el 30 de enero de 2025 y con 44 solicitudes de diferentes proveedores de sistemas de IA, se han seleccionado provisionalmente 12 sistemas de IA de alto riesgo para participar en el proyecto. Estos 12 se pueden dividir en distintas categorías:

1) Acceso a servicios esencial públicos o privados:

• Dedomena Artificial Intelligence, SL: sistema de IA para la calificación crediticia, análisis de solvencia y riesgo de impago de individuos a partir de sus datos transaccionales bancarios.
• Fundación Centro de Investigación en Tecnoloxías da Información e as Comunicacións de Galicia: sistema de procesado de la transcripción inteligente de las comunicaciones de emergencias del centro de operaciones del 112 de Galicia.

2) Biometría:

• Veridas Digital Authentication Solutions, SL: Veridas Age Verification. Sistema para verificar la edad de usuarios en máquinas de vending, asegurando el cumplimiento normativo en la venta de productos regulados como tabaco o también normativa pendiente de regular para vapeadores.
• Herta Security, SL: BioSurveillance. Solución 100% española de videovigilancia de alto rendimiento, que funciona por reconocimiento facial (mediante biometría). Está especialmente diseñada para la identificación simultánea de sujetos en entornos multitudinarios y muy cambiantes.

3) Empleo:

• Adevinta Jobs SLU: Ranking de inscritos vía HyM (How you Match). Adecuación a la vacante mediante el cálculo de compatibilidad entre los currículos de los candidatos y los requisitos de las ofertas de empleo en InfoJobs.
• Shakers Global Solutions: Shakers AI Matchmaker. Sistema de emparejamiento impulsado por IA que utiliza recomendaciones personalizadas para conectar talento freelance con proyectos empresariales.

4) Infraestructuras críticas:

• Imotion Analytics, SL: GuardianMobility AI. Supervisión avanzada en tiempo real diseñado para la seguridad y optimización de infraestructuras críticas de transporte. Detección temprana de incidentes y anomalías en vehículos, multitudes y espacios estratégicos.
• Loradix RED, SL: Ciberseguridad reforzada con IA en el control del flujo de datos ajenos al sistema eléctrico desde y hasta el sistema de telegestión de distribución de electricidad (IoT Loradix).

5) Maquinaria:

• Airbus Operations, SL: Asistente de operadores para el uso de SOIs. Aplicación web que utiliza Google Cloud Platform (GCP) y el modelo de contexto largo multimodal Gemini de Google para responder a preguntas a partir de un documento de instrucciones operativas estándar (SOI) seleccionado.

6) Productos sanitarios:

• Bit&Brain Technologies, SL: CL@UDIA. Plataforma para la ayuda, tratamiento y prevención de los problemas del sueño. Recogiendo datos multimodales obtenidos mediante sistemas de adquisición vestibles utilizados por los usuarios en su propia casa.
• Tucuvi Care, SL: Tucuvi Health Manager. Software médico que automatiza la monitorización clínica de pacientes a través de llamadas telefónicas gestionadas por LOLA, un asistente virtual basado en IA conversacional.

7) Productos sanitarios para diagnostico in vitro:

• Made of Genes, SLU: MoGIA-MetCare. IA para la Prevención de Enfermedades Metabólicas. Integra datos clínicos junto con marcadores analíticos y genéticos para evaluar de manera personalizada el riesgo de enfermedades metabólicas como la diabetes o la obesidad.

La primera reunión del Sandbox tendrá lugar este mes de abril, formada por:

• La Secretaría de Estado de Digitalización e IA.
• La Oficina europea de IA.
• 18 pymes.
• 6 startups.
• 1 entidad francesa.

Los sistemas seleccionados para el Sandbox contarán con servicios de formación y consultoría pública para analizar las obligaciones marcadas en el Reglamento, junto con un proceso de análisis para adaptar sus sistemas a dichas obligaciones y cumplirlas eficientemente. También contarán con el apoyo de la Oficina para la España Digital 2030 e Internacionalización en materias de asesoría durante el proceso de adaptación de los algoritmos.

El objetivo final es que estos 12 sistemas sirvan de ejemplo y experiencia para más tarde poder publicar una guía técnica de implementación de los requisitos que servirán para todos los desarrolladores de IA en España. Una vez asimilado en España, se espera que su influencia recorra el ecosistema europeo de IA.

Este entorno de pruebas busca potenciar la tecnología responsable, respetuosa con los derechos del ciudadano y construir una sociedad consciente de los riesgos de la tecnología, pero que pueda aprovechar todas sus ventajas para superar retos sociales y económicos actuales y futuros.