el Govern posa el focus en l'hipertrucatge
Estas imágenes pertenecen a govern.cat
Tres de cada quatre ciutadans desconeix què és una deepfake, una tècnica que fa servir la intel·ligència artificial per generar continguts falsos que semblen reals.
L'Agència de Ciberseguretat de Catalunya, de la Secretaria de Telecomunicacions i Transformació Digital, s'adhereix un any més a la commemoració del Dia de la Internet Segura (DIS2024) del pròxim 6 de febrer, una iniciativa que es fa a diferents països de la Unió Europea.
Enguany, l'Agència llença una campanya dedicada a la conscienciació sobre la tecnologia d'hipertrucatge o deepfake, una tècnica de manipulació audiovisual realitzada mitjançant la intel·ligència artificial que crea continguts falsos que poden semblar reals. Sota el lema 'Troba el fake. Vídeos, imatges i àudios no sempre són el que sembla', la campanya pretén donar a conèixer la tècnica de l'hipertrucatge a la ciutadania en general i, específicament, a les escoles i instituts de Catalunya.
Els experts de l'Agència de Ciberseguretat de Catalunya argumenten que, si bé no tots els deepfakes són fraudulents, la gran majoria sí que es creen amb males intencions. Concretament, més del 95% són hipertrucatges relacionats amb la pornografia no consentida. En altres casos, es fan servir per fabricar vídeos falsos que poden ajudar a generar notícies falses o confondre la població. Els ciberdelinqüents també usen aquesta tecnologia per generar estafes i fraus més realistes i ampliar la capacitat d'enganyar les víctimes.
A l'hora de detectar hipertrucatges, els experts recomanen fixar-se en els ulls, la pell i el moviment dels llavis. En el cas dels deepfakes de veu, solen tenir un so poc natural, amb pronunciacions incorrectes i fins i tot sons metàl·lics. També cal tenir en compte que en algunes ocasions no és senzill desemmascarar-los.
És un fenomen emergent a tot el món
En els pròxims mesos, la previsió és que hi hagi un gran creixement de fraus generats amb intel·ligència artificial, ja sigui amb hipertrucatge de vídeo, d'imatge o d'àudio. De fet, el Fòrum Econòmic Mundial preveu un creixement del 900% d'aquest tipus de contingut. Aquesta realitat contrasta amb el coneixement que té la ciutadania d'aquesta nova tecnologia: el 75% dels ciutadans de l'estat espanyol no sap què és un deepfake.
L'Agència de Ciberseguretat de Catalunya dona resposta a aquesta situació en el marc del Dia de la Internet Segura per tal que la població conegui l'existència de l'hipertructage, quines conseqüències pot tenir, els principals usos fraudulents i com podem detectar-los. La campanya, que es difon a través de la plataforma Internet Segura de l'Agència, ofereix un conjunt de materials per conscienciar la ciutadania sobre aquesta tecnologia, com ara una enquesta de detecció de deepfakes o consells per aprendre a detectar-los.
A més, s'ha dissenyat contingut específicament per a la comunitat educativa, que cada any participa activament del Dia de la Internet Segura. En aquest cas, s'ha elaborat una guia docent amb activitats per treballar l'hipertrucatge a l'aula i dues activitats interactives per als alumnes, una per a Primària i l'altra per a Secundària.
Webs d'interès:
- La campanya Dia de la Internet Segura
- El programa Internet Segura
