L'APDCAT recomana que no s'incorpori ChatGPT en la prestació de serveis públics quan es tractin dades personals
Estas imágenes pertenecen a govern.cat
L'Autoritat Catalana de Protecció de Dades (APDCAT) ha publicat la Recomanació 1/2023, per advertir les entitats i organismes del seu àmbit d'actuació sobre els riscos d'utilitzar l'eina d'intel·ligència artificial ChatGPT, pel que fa al compliment dels requeriments en matèria de protecció de dades. El document s'adreça a la Generalitat, els ajuntaments, les escoles i universitats públiques i privades de Catalunya i els col·legis professionals, entre d'altres, i recomana que no s'incorpori l'eina ChatGPT en l'exercici de funcions públiques i la prestació de serveis públics, quan es tractin dades personals, fins que el Comitè Europeu de Protecció de Dades es pronunciï al respecte.
La recomanació recull la preocupació manifesta i creixent en les darreres setmanes per l'impacte que l'ús de la intel·ligència artificial, i més singularment el servei ChatGPT, pot tenir en els drets i llibertats de les persones físiques afectades.
Entre altres coses, fa referència a l'anunci del Comitè Europeu de Protecció de Dades de crear un grup de treball per cooperar i intercanviar informació sobre accions que les autoritats de protecció de dades poden emprendre en relació amb aquesta qüestió, d'acord amb el principi de coherència recollit al Reglament general de protecció de dades. Això, arran del bloqueig de l'eina acordat pel Garante per la Protezione dei Dati Personali, l'autoritat de control en matèria de protecció de dades a Itàlia.
L'APDCAT adverteix que a dia d'avui l'ús de ChatGPT genera importants dubtes sobre la informació de caràcter personal que tracta, tant la de les persones que l'utilitzen directament com la de tercers que s'hi pot estar bolcant. Això pot incloure el tractament d'informació sensible o relativa a col·lectius vulnerables, com ara menors d'edat, sense control i sense una base jurídica adequada.
L'APDCAT també alerta dels dubtes per la manca de control que tenen les persones afectades sobre aquest tractament, així com sobre la impossibilitat pràctica d'exercir els drets d'autodeterminació informativa (accés, rectificació, supressió, etc.). També adverteix del desconeixement clar de les condicions de seguretat, els terminis de conservació de les dades o la comunicació de dades a tercers, entre d'altres qüestions.
IA respectuosa amb la privacitat
En la recomanació, l'APDCAT reconeix la intel·ligència artificial com una eina de suport a la presa de decisions en qualsevol àmbit, però alhora reclama que el seu desenvolupament respecti el marc normatiu en matèria de protecció de dades i no suposi un greuge per als drets i llibertats de la ciutadania.
En aquest sentit, recorda que actualment la tecnologia permet dibuixar perfils i patrons a partir de dades personals, que poden servir per influir directament en les persones, i alerta que davant l'ús massiu i intensiu de dades cal trobar les eines adequades per protegir els drets i llibertats.
