serviços digitais da FCT
Atividade Financiada
Bloqueio de Deepfakes em vídeos e certificação de conteúdos visuais para a Administração Pública
Deepfake detection in videos and visual media content certification for the Public Administration
Detalhes
Referência
2024.07681.IACDC
2024.07681.IACDC
Data de Início do Projeto
2025-02-01
2025-02-01
Data de Fim do Projeto
2026-01-31
2026-01-31
2F1D-5A54-69DE 
0000-0003-3927-0852
Área Científica
Ciências da engenharia e tecnologias
Ciências da engenharia e tecnologias
Programa de Financiamento
Inteligência Artificial, Ciência dos Dados e Cibersegurança de relevância na Administração Pública
Inteligência Artificial, Ciência dos Dados e Cibersegurança de relevância na Administração Pública
Resumo
A atual proliferação das tecnologias de AI generativo, particularmente de imagem, e em concreto a tecnologia de manipulação de vídeos designada por deepfake generation, permitem atualmente produzir vídeos (também permite aplicar a imagens) com conteúdo falso, reproduzindo pessoas em contextos falsos e proferindo declarações que não ocorreram ou foram gravadas. O potencial de utilização desta tecnologia para fins maliciosos, ilegais ou de controlo sistémico não é sequer recente, tendo já criado situações reais em contexto de eleições ou de batalha política ou social (recorde-se o caso recente em Portugal de um adolescente que utilizou estas tecnologias para expor vídeos falsos com conteúdo erótico de colegas de escola, também adolescentes). Tal tecnologia, que pode ser utilizada para fins lúdicos, de marketing e comercial, sem risco e com claros benefícios até, coloca sérios riscos à sociedade, quando usada para fins ilícitos.
O que este projeto pretende ajudar a resolver é a mitigação dos riscos de utilização de deepfakes ilícitos, criando não só mecanismos de deteção de conteúdo de vídeo manipulado, mas também, e abordando a questão pelo outro lado, complementando esta proteção do conteúdo real e genuíno com uma assinatura digital. A ideia principal é a de criar algoritmos que permitam complementar as duas abordagens (a montante e a jusante da criação do deepfake), que pudesse ser utilizada para proteger os conteúdos de vídeo do universo da Administração Pública.
Efetivamente, o problema da manipulação da imagem pode ser abordado de dois lados. Do lado da deteção de manipulação, existe a possibilidade de criar algoritmos de deteção de conteúdo não real, tal como fazemos para a deteção de ataques de apresentação ou ataques de morphings para imagens únicas. Neste caso, alguns algoritmos podem ser adaptados para o formato de vídeo, embora na literatura existam evidências de que esta metodologia não é suficiente para deepfakes de elevada qualidade (como hoje em dia já são quase todos). A nossa ideia é a utilização de representações neuronais implícitas. A vantagem desta abordagem é que não procura a manipulação diretamente nos pixeis das imagens, uma vez que estas são já visualmente muito convincentes para o ser humano.
Do outro lado, o problema pode ser abordado a montante, assinando as imagens utilizando técnicas de esteganografia resistentes à transmissão por ecrãs e que permitam que o vídeo possa ser validado usando um telemóvel. Neste caso, a abordagem seria baseada no expertise do ISR-Coimbra em esteganografia que, em todo o caso, será adaptado para vídeo.
O plano de trabalho tem uma linha mais orientada aos algoritmos, nas duas abordagens explicadas acima e, além disso, tem uma segunda linha de trabalho para identificação de uma arquitetura global de um sistema/serviço de validação e proteção de vídeos, armazenando as assinaturas digitais do conteúdo, ou disponibilizando os algoritmos de proteção como um SaaS (software as a service).
O objetivo desta definição de uma arquitetura é principalmente o de preparar o caminho para um futuro sistema global de validação de conteúdos visuais na Administração Pública que, por um lado, permitiria às instituições públicas autenticar e certificar qualquer conteúdo de imagem ou vídeo e, por outro lado, permitiria o cumprimento das regras de conformidade do AI Act, ao dar aos criadores de conteúdos visuais ferramentas para classificar o conteúdo como real (não gerado) ou gerado por sistemas de IA.
Os objetivos a atingir no fim dos 12 meses para cada linha de trabalho são:
- definição de um algoritmo de proteção de vídeos contra deepfakes – prova de conceito laboratorial, através da assinatura das imagens
- definição de um algoritmo de proteção de vídeos contra deepfakes – prova de conceito laboratorial, através da definição de algoritmos de deteção de manipulação de imagens
- definição de uma arquitetura global do sistema de assinatura digital de vídeos e do sistema de deteção de deepfakes em vídeos, enquadrada no âmbito da Regulação da Inteligência Artificial.
Instituições
Instituições Principais
- Instituto de Sistemas e Robótica (ISR)
Financiamento 124.979,95 €
Fundação para a Ciência e a Tecnologia (FCT) - Portugal
0,00 €
União Europeia - Estrutura de Missão Recuperar Portugal (UE - EMRP)
124.979,95 €