Gradiant pon a proba a súa tecnoloxía de detección de suplantacións co vídeo publicitario de Lola Flores

O Centro Tecnolóxico Gradiant, ao fío do balbordo causado nas redes sociais polo recente anuncio publicitario no que unha coñecida marca de cervexa resucita virtualmente a Lola Flores (un balbordo que reavivou o debate sobre se é ético, ou non, empregar a imaxe de alguén que xa non está entre nós para dar o seu consentimento), vén de facer balance dos detalles dunha tecnoloxía de seu que, segundo indican, poría contra as cordas a práctica do deepfake. Segundo lembra o centro,e esta é unha técnica de Intelixencia Artificial que se emprega para enganar aos espectadores e que, se sae dunha contorna controlada (como o proxecto de traer de novo entre nós a Lola Flores), pode ser fonte de importantes riscos.
“De feito”, explica Gradiant, “moitas persoas famosas xa sufriron nas súas carnes as consecuencias dun uso malintencionado desta tecnoloxía”. Unha tecnoloxía que nos pon diante dos ollos algo que se asemella moito á realidade, pero sen selo. E canto máis se parece, máis difícil é de identificar como falso. Este proceso está a ser moi desenvolvido na industria dos vídeos para adultos, onde é común suplantar identidades de xente coñecida mediante Intelixencia Artificial. “Con todo”, explica o centro tecnolóxico vigués, “este perigo non afecta só aos superfamosos, calquera pode converterse nunha vítima da práctica do deepfake”.
Gradiant, chegado este punto, recorda que ao mesmo tempo que existen ferramentas para recrear fielmente a realidade, existen tecnoloxías que detecta fraudes en arquivos multimedia, e no amplo catálogo de ferramentas desenvolvidas polo centro vigués atópanse recursos, como por exemplo os que pon en xogo o sistema Valida, para facer análise en tempo real de cada frame do vídeo ofrecendo unha resposta fiábel sobre a súa veracidade, sen necesidade de contar co vídeo orixinal. A dita tecnoloxía de Gradiant examina cada fotograma e devolve un valor que representa a fiabilidade do resultado. “Desta maneira o usuario coñece a seguridade coa que o sistema toma a súa decisión”, engaden fontes do centro vigués.
No caso do xa famoso vídeo de Lola Flores, o resultado foi claro, indica Gradiant, xa que a a tecnoloxía de seu foi quen de detectar o fraude e a manipulación das imaxes.
Pode a tecnoloxía enganar á tecnoloxía?
Ao fío da análise do devandito vídeo, Gradiant lanzou a seguinte pregunta: pode a tecnoloxía enganar á tecnoloxía? Ou sexa, ten capacidade a técnica do deepfake para ser o suficientemente críbel como para enganar a un sistema de detección da fraude?
Para dar resposta a estas preguntas, os investigadores do centro galego pasaron o vídeo polo seu sistema, un audiovisual que requiriu meses de traballo e un equipo técnico e creativo de primeiro nivel, cuns recursos ao alcance de moi poucos delincuentes e cun resultado que Gradiant cualifica de “realmente asombroso”. Con todo, o produto desenvolvido non foi quen de enganar ao detector do centro tecnolóxico galego.