ACUERDO GOV/45/2024, de 27 de febrero, por el que se crea la Comisión de Inteligencia Artificial y se establecen medidas en materia de inteligencia artificial.

En los últimos años, la inteligencia artificial (en adelante, la IA) ha tenido una presencia disruptiva y exponencial en los diferentes sectores productivos y, por extensión, en la prestación de los servicios públicos. La inteligencia artificial es una de las tecnologías protagonistas del desarrollo de la cuarta revolución industrial. Son muchos los proyectos basados en esta tecnología que se aplican en sectores de desarrollo socioeconómico, social y productivo, y que impactan en la prestación de servicios públicos.

Las aplicaciones prácticas de la IA actuales y, sobre todo, futuras han comportado que la Unión Europea se haya centrado en su regulación. Así, en el marco europeo nos encontramos con la Propuesta de reglamento del Parlamento y del Consejo por el que se establecen normas armonizadas en materia de inteligencia artificial (Ley de inteligencia artificial). Esta Propuesta de reglamento sigue un enfoque basado en los riesgos que presenta la IA y, a la vez, establece un marco jurídico horizontal y uniforme para la IA encaminado a garantizar la seguridad jurídica y el respeto a los derechos fundamentales y facilitar el desarrollo de un mercado único para las aplicaciones de IA.

En este contexto social y jurídico es necesario hacer frente a los retos que presenta el uso de la IA en la prestación de los servicios públicos. La Administración de la Generalitat tiene que abordar la IA desde una perspectiva no solo tecnológica sino también multicompetencial, que abarque otras vertientes como proveedor de soluciones, usuario y consumidor de tecnologías de IA, como impulsor de buenas prácticas en el uso de la IA o como garante de los derechos fundamentales de la ciudadanía.

El uso de la IA, específicamente en los servicios públicos, implica también tener en cuenta la vertiente ética respecto del impacto significativo que tiene su aplicación en la sociedad. Asimismo, los sistemas de IA tienen que garantizar la calidad de los conjuntos de datos usados, para funcionar correctamente y ofrecer un resultado lícito y fiable, y prevenir sesgos de información, tanto en la recopilación como en el uso de los datos y en el entrenamiento de algoritmos, incluyendo medidas de seguridad y ciberseguridad.

Con el fin de adoptar y usar adecuadamente sistemas de IA, las administraciones públicas tienen que invertir en la capacitación técnica y acciones formativas en IA de los empleados públicos y los ciudadanos, que se basen en el aprendizaje, uso y aplicación de herramientas de IA.

Por el Acuerdo del Gobierno de 18 de febrero de 2020 se aprobó la Estrategia de inteligencia artificial de Cataluña, que desplegaba, bajo el nombre CATALONIA.AI, una estrategia multisectorial, transversal y centrada en las personas que prioriza el sector agroalimentario, la salud y el bienestar, la educación, el medio ambiente, la movilidad, el turismo, la cultura, la industria y los servicios públicos.

Ahora, con este nuevo Acuerdo del Gobierno se quiere dotar a la Administración de la Generalitat de un marco organizativo transversal que coordine los diferentes ámbitos de actuación que requiere la aplicación de las tecnologías basadas en IA en la prestación de los servicios públicos y, asimismo, fomente el uso de una IA ética, confiable y respetuosa con los derechos fundamentales, que garantice los derechos de la ciudadanía, como a la información, transparencia y protección de los datos de carácter personal y al uso ético de los datos. Y, al mismo tiempo, hay que poner especial énfasis en la aplicación de soluciones basadas en IA que permitan reducir las brechas digitales existentes y prevenir a la generación de nuevos ejes de desigualdad.

Las medidas que dispone este Acuerdo del Gobierno deben incluirse en el modelo catalán de administración electrónica, que establece la Ley 29/2010, del 3 de agosto, del uso de los medios electrónicos en el sector público de Cataluña. Este modelo fomenta la cooperación y la colaboración institucionales en la creación y la puesta a disposición del sector público de Cataluña de infraestructuras y de servicios comunes de administración electrónica que garanticen la interoperabilidad de los sistemas de información y que hagan posible que las entidades que integran el sector público los utilicen para hacer más eficaz y económico el ofrecimiento de servicios a los ciudadanos y a las empresas.

Por ello, se crea la Comisión de Inteligencia Artificial, que tiene que encargarse de velar por el cumplimiento normativo, sin perjuicio de las competencias de otras unidades, y por el estudio, impulso, promoción y desarrollo de sistemas de inteligencia artificial en los servicios públicos de la Administración de la Generalitat, y también por control y supervisión.

Otro instrumento esencial para la finalidad de este Acuerdo es el Registro de sistemas de inteligencia artificial. El Registro se proyecta como un instrumento organizativo y de gestión que permitirá documentar, de manera estandarizada e indexable, las decisiones y los supuestos que ha tomado la Administración sobre un sistema de IA durante todo su ciclo de vida, es decir, en el desarrollo, la aplicación, la gestión y, en última instancia, el desmantelamiento. Asimismo, garantiza el cumplimiento de las obligaciones de transparencia en el uso de los sistemas, lo que permite a la ciudadanía conocer qué algoritmos utiliza la Administración y otra información relevante relativa a la actuación administrativa mediante el uso de estas tecnologías.

Respecto a su impulso, hay que disponer de una solución tecnológica corporativa para la catalogación de los sistemas de inteligencia artificial y otros algoritmos utilizados para prestar servicios públicos, con la finalidad de recoger y catalogar la información técnica, de calidad y riesgos y organizativa relativa a los sistemas y la cual ha de servir para crear el Registro de sistemas de IA. Esta solución es el servicio tecnológico que tiene que tener en cuenta el desarrollo del Registro de sistemas de IA que se prevé impulsar.

A propuesta de la vicepresidenta del Gobierno y consejera de la Presidencia, el Gobierno

Acuerda:

—1 Crear la Comisión de Inteligencia Artificial (en adelante, la Comisión de IA), integrada al Departamento de la Presidencia, como órgano que coordina la acción del Gobierno en esta materia.

1.1. La Comisión de IA, en el marco del uso de la IA y otros algoritmos utilizados para prestar los servicios en que son competentes los entes de la Administración de la Generalitat y su sector público, tiene las funciones siguientes:

   a) Impulsar y proponer al Gobierno mediante el departamento en el que se integra, si procede, los instrumentos o actuaciones normativos y organizativos necesarios para impulsar y supervisar la inteligencia artificial en los servicios públicos de la Administración de la Generalitat de Catalunya.

   b) Evaluar el impacto de la inteligencia artificial en los servicios públicos de la Administración de la Generalitat de Catalunya y, en especial, proponer y hacer el seguimiento de las metodologías para la evaluación de los derechos y libertades de los ciudadanos en la prestación de servicios públicos.

   c) Identificar los principales organismos implicados y sus competencias respecto a la inteligencia artificial.

   d) Proponer los mecanismos de cooperación y coordinación entre los organismos y agentes implicados.

   e) Impulsar, supervisar y controlar las actuaciones que deben ejecutar los diferentes grupos de trabajo que se creen para aplicar, controlar y hacer cumplir las normas en materia de inteligencia artificial.

   f) Supervisar el cumplimiento y la adecuación de la aplicación de los sistemas de IA al Modelo de gobierno de los datos de la Administración de la Generalitat, especialmente con respecto a las metodologías y políticas del Modelo.

   g) Elevar al Comité de Ética de los Datos las cuestiones éticas propias del uso de la inteligencia en el ámbito de la actuación de la Administración de la Generalitat.

   h) Impulsar mecanismos de buenas prácticas para aplicar la inteligencia artificial que tengan en cuenta los principios y valores éticos.

   i) Proponer medidas de vigilancia o supervisión humana, para prevenir o reducir al mínimo los riesgos derivados de la aplicación de la inteligencia artificial, en especial en relación con los riesgos derivados de la protección de datos personales.

1.2. La Comisión de IA está formada por el Pleno y la Comisión Permanente. En el seno de la Comisión de IA se pueden crear grupos de trabajo para estudiar y analizar temas específicos, en los que pueden participar, además de los departamentos y organismos de la Administración de la Generalitat implicados, otras administraciones públicas de Cataluña y agentes que la Comisión de IA determine y que tengan competencias o intereses afectados.

1.3. El Pleno de la Comisión de IA tiene la composición siguiente:

   a) La presidencia, que la ejerce la persona titular de la secretaría sectorial en el ámbito de la tecnología y administración digital o de la secretaría general del departamento competente en esta materia si no hay secretaría sectorial, o la persona que delegue, con un rango orgánico mínimo de dirección general.

   b) La vicepresidencia, que la ejerce la persona titular de la dirección general competente en materia de administración digital, o la persona que delegue, con un rango orgánico mínimo de dirección general.

   c) Las vocalías siguientes, designadas por la persona titular del departamento o unidad directiva de cada órgano, con un rango orgánico mínimo de dirección general:

   - Una persona en representación de la Secretaría del Gobierno.

   - Una persona en representación de la Dirección General de Servicios Consultivos y Coordinación Jurídica del Gabinete Jurídico de la Generalitat de Catalunya.

   - Una persona en representación de la dirección general competente en materia de transparencia.

   - Una persona en representación de la dirección general competente en coordinación interdepartamental.

   - Una persona en representación de la dirección general competente en materia de atención ciudadana.

   - Una persona en representación de la secretaría sectorial o, si no hay, de la secretaría general del departamento competente en materia de políticas digitales.

   - Una persona en representación de cada departamento de la Administración de la Generalitat que tenga encomendadas competencias o funciones en la implementación de la IA.

   - El delegado de protección de datos del departamento competente en administración digital.

   - Una persona en representación de la Entidad Autónoma del Diario Oficial de Publicaciones.

   - Una persona en representación del Centro Telecomunicaciones y Tecnologías de la Información (CTTI).

   - Una persona en representación de la Agencia de Ciberseguridad de Cataluña.

   - Una persona en representación del Consorcio de Administración Abierta de Cataluña.

   - Una persona en representación del Instituto de Estadística de Cataluña.

   d) La secretaría la ocupa una persona designada por la persona titular de la dirección general competente en materia de administración digital. El ejercicio de estas funciones no comporta la creación ni la ocupación de ningún puesto de trabajo específico u órgano activo.

1.4. A la Comisión Permanente le corresponden las funciones siguientes:

   a) El seguimiento de la ejecución de los acuerdos adoptados por el Pleno de la Comisión de IA.

   b) La elevación al Pleno de la propuesta de medidas y otras mejoras en relación con las funciones encomendadas al Pleno.

   c) Otras funciones que le pueda encomendar el Pleno de naturaleza análoga.

La Comisión Permanente está compuesta por miembros con un rango orgánico mínimo de subdirección general:

— Una persona en representación de la Dirección General de Servicios Consultivos y Coordinación Jurídica del Gabinete Jurídico de la Generalitat de Catalunya.

— Una persona en representación de la dirección general competente en materia de transparencia.

— Una persona en representación de la dirección general competente en materia de administración digital.

— Una persona en representación de la dirección general competente en materia de atención ciudadana.

— Una persona en representación de la secretaría sectorial o, si no hay, de la secretaría general del departamento competente en materia de políticas digitales.

— Una persona en representación del Centro Telecomunicaciones y Tecnologías de la Información (CTTI).

— Una persona en representación de la Agencia de Ciberseguridad de Cataluña.

— Una persona en representación del Consorcio de Administración Abierta de Cataluña.

1.5. Los miembros del Pleno y de la Comisión Permanente de la Comisión de IA son designados por el presidente de la Comisión de IA a propuesta de la persona titular del departamento competente. Los miembros del Pleno y de la Comisión Permanente pueden delegar su representación en una sesión a uno de los otros miembros, previa comunicación al presidente de la Comisión de IA.

1.6. A propuesta de la presidencia de la Comisión o de los miembros de la Comisión de IA, de acuerdo con los asuntos a tratar, puede invitarse a participar en las sesiones, con voz, pero sin voto, representantes de otros departamentos de la Administración de la Generalitat y personas externas que, a título individual o como representantes de un grupo, entidad u organización, son relevantes por sus conocimientos, especialidad o funciones y a otras personas de organizaciones representativas de las entidades locales del sector público de Cataluña en razón de los temas a tratar.

1.7. La Comisión se tiene que constituir en el plazo máximo de dos meses a contar de la publicación de este Acuerdo en el Diari Oficial de la Generalitat de Catalunya.

1.8. La Comisión se tiene que convocar como mínimo con carácter trimestral. También se puede convocar una sesión extraordinaria a instancia de la presidencia, a iniciativa propia o a propuesta de la mayoría de los miembros.

1.9. La asistencia a las sesiones de la Comisión IA y a los grupos de trabajo vinculados que se puedan crear en este ámbito no genera ningún derecho económico en concepto de indemnizaciones o de dietas por derechos de asistencia a ninguno de los miembros.

1.10. En todo lo que no establece este Acuerdo para el funcionamiento de la Comisión de IA, es aplicable supletoriamente la normativa general reguladora de los órganos colegiados de la Administración de la Generalitat de Catalunya.

1.11. Esta Comisión tiene un carácter temporal y debe disolverse cuando se apruebe la creación del Registro de IA.

—2 Impulsar la creación del Registro de sistemas de inteligencia artificial de la Administración de la Generalitat (en adelante, el Registro de sistemas de IA), con el contenido siguiente:

2.1. El Registro de sistemas de IA tiene por objeto integrar la información relativa a los sistemas de inteligencia artificial y otros algoritmos utilizados en los servicios públicos de la Administración de la Generalitat, y se convierte en el sistema corporativo para todos los departamentos de la Administración de la Generalitat y su sector público.

2.2. El Registro de sistemas de IA tiene que incluir, como mínimo, la documentación técnica y los algoritmos utilizados en los servicios de la Administración de la Generalitat.

2.3. Se encargan a la Dirección General de Administración Digital el impulso y la coordinación de la creación y el despliegue del Registro de sistemas de IA, y al Centro de Telecomunicaciones y Tecnologías de la Información (CTTI) el desarrollo tecnológico necesario para poner en funcionamiento el Registro y una solución tecnológica corporativa para catalogar los sistemas de IA y otros algoritmos utilizados para prestar servicios públicos en el ámbito de la Administración de la Generalitat (en adelante, la solución corporativa de IA).

2.4. La Comisión de IA propone a las unidades impulsoras las actuaciones necesarias para dotar el Registro de sistemas de IA de las funcionalidades que requiera para cumplir la normativa, los criterios y las recomendaciones en este ámbito, especialmente con respecto a las obligaciones específicas en el uso de los sistemas y las obligaciones de transparencia.

2.5. El Registro de sistemas de IA y la solución tecnológica corporativa de sistemas de IA y otros algoritmos utilizados para prestar servicios públicos se ponen a disposición de otras administraciones públicas de Cataluña mediante la suscripción de los instrumentos jurídicos que se establezcan que regulen las condiciones y las garantías de uso del servicio.

—3. Crear la solución tecnológica corporativa de sistemas de inteligencia artificial y otros algoritmos utilizados para prestar servicios públicos (solución tecnológica corporativa de IA), que tiene como objetivo la recogida y catalogación de la información técnica, de calidad y riesgos y organizativa y, si procede, la información de las pruebas de concepto y su resultado relativa a los sistemas y que tiene que servir para crear el Registro de sistemas de IA.

Los departamentos de la Administración de la Generalitat y su sector público deben incluir la información relativa a los sistemas de IA en el plazo de seis meses desde que la solución tecnológica corporativa de IA esté disponible, de acuerdo con la información que determine el órgano competente en su impulso y despliegue. La Comisión de IA puede acordar la ampliación de estos plazos en función de la disponibilidad y complejidad de la información que se determine incorporar.

—4 La Comisión de IA debe constituirse en el plazo máximo de dos meses a contar de la publicación de este Acuerdo en el Diari Oficial de la Generalitat de Catalunya.

—5 Publicar este Acuerdo en el Diari Oficial de la Generalitat de Catalunya.

Barcelona, 27 de febrero de 2024

Xavier Bernadí Gil

Secretario del Gobierno