Os Deep Fakes são uma das tecnologias mais fascinantes e controversas que surgiram no domínio da inteligência artificial. Mas o que são exatamente Deep Fakes? São vídeos ou áudios manipulados por algoritmos de IA, capazes de criar conteúdos que parecem reais, mas que foram alterados ou gerados artificialmente. A palavra “Deep” vem de “deep learning”, um tipo de inteligência artificial, e “Fake” refere-se à sua natureza falsa ou fictícia.
A tecnologia subjacente às Deep Fakes registou uma evolução impressionante nos últimos anos. Inicialmente, a sua criação exigia conhecimentos técnicos consideráveis e recursos computacionais avançados. No entanto, com o avanço das técnicas de aprendizagem automática, é agora possível gerar Deep Fakes com maior facilidade e realismo (em alguns cliques e sem ter qualquer ideia do que se está a fazer). Esta evolução tornou a tecnologia acessível a um público mais vasto, abrindo um leque de possibilidades, tanto positivas como negativas.
É interessante perguntar: como é que estes avanços afectaram a nossa perceção da realidade?
Com a capacidade de alterar de forma convincente o vídeo ou o áudio, os Deep Fakes criaram uma nova era em que a linha entre o real e o artificial é cada vez mais ténue.
Desde a sua utilização em filmes para rejuvenescer actores ou trazer de volta os falecidos, até à sua utilização em campanhas de desinformação, os Deep Fakes têm mostrado uma vasta gama de aplicações. No entanto, é o seu potencial para serem utilizadas para fins enganadores que tem gerado muita controvérsia e preocupação. A capacidade de criar vídeos falsos mas realistas de figuras públicas a dizer ou a fazer coisas que nunca aconteceram levanta sérias questões éticas e legais.
O Processo de Criação de um Deep Fake: da Teoria à Prática
Criar uma Deep Fake é um processo que envolve criatividade e tecnologia. Mas como é que se transforma uma ideia numa Deep Fake convincente? O processo começa com a recolha de uma grande quantidade de dados, normalmente sob a forma de vídeos ou imagens do objeto a ser replicado. Estes dados são utilizados para treinar um modelo de inteligência artificial, especificamente uma rede neural, para reconhecer e reproduzir as características e os movimentos do sujeito.
No centro desta tecnologia está a aprendizagem automática e as redes neurais adversariais generativas (GAN). As GAN são um tipo de modelo de IA que consiste em duas redes neuronais concorrentes: uma gera imagens (gerador) e a outra tenta detetar se são reais ou falsas (discriminador). Através deste processo de competição, o gerador aprende a criar imagens cada vez mais realistas. É isto que permite ao Deep Fakes imitar uma pessoa real de forma tão convincente.
A fase seguinte do processo é o aperfeiçoamento e o ajustamento. É aqui que entram em ação as competências mais artísticas e técnicas. Detalhes como a sincronização labial, se o Deep Fake incluir fala, bem como a iluminação e as sombras, são ajustados para se misturarem naturalmente com o ambiente. Este passo é crucial para garantir que o Deep Fake é credível e não choca com o ambiente que o rodeia.
Um aspeto importante a considerar é a ética e a legalidade da criação de Deep Fakes. Embora essa tecnologia tenha aplicações legítimas e criativas, como em filmes ou arte, seu potencial para criar conteúdo enganoso e prejudicial é uma preocupação constante.
Entre a criatividade e a controvérsia
Os Deep Fakes abriram um novo mundo de possibilidades em vários domínios, mas também trouxeram consigo desafios e preocupações. Vejamos primeiro o lado positivo. No domínio do entretenimento, os Deep Fakes revolucionaram a indústria cinematográfica. Tornaram possível trazer de volta actores falecidos para participações especiais, rejuvenescer actores para papéis mais jovens e até ajudar na produção de filmes e séries televisivas quando um ator não pode estar presente. Também encontraram um lugar no mundo da arte e da criatividade, permitindo aos artistas explorar novas formas de expressão.
Por exemplo, a Disney desenvolveu o seu próprio modelo para criar Deep Fakes de diferentes actores para utilizar nas suas produções cinematográficas. Um exemplo disso é a utilização desta tecnologia no filme de 2016 “Star Wars: Rogue One”, em que um Deep Fake foi utilizado para recriar Carrie Fisher como Princesa Leia, não a versão de 2016, mas a sua aparência mais jovem de 1977. Esta utilização inovadora demonstra como os Deep Fakes podem ser uma ferramenta valiosa para preservar a continuidade e o legado de personagens icónicas do cinema. Além disso, na série “The Mandalorian”, a técnica de Deep Fake foi utilizada para rejuvenescer o ator Mark Hamill, permitindo-lhe repetir o seu papel de Luke Skywalker. Outro exemplo interessante é “Sassy Justice”, uma série criada pelos produtores de “South Park”, que utiliza Deep Fakes para retratar figuras públicas como Donald Trump e Mark Zuckerberg. Até a Netflix experimentou esta tecnologia, lançando um reality show onde os Deep Fakes são usados como parte do conteúdo, desafiando os concorrentes a discernir entre situações reais e criadas.
No entanto, nem tudo são rosas. O impacto mais controverso dos Deep Fakes reside no seu potencial para criar desinformação e notícias falsas. A capacidade de gerar vídeos que parecem reais, mas são completamente falsos, levantou preocupações sobre a sua utilização na manipulação política e na criação de campanhas de desinformação.
Por exemplo, foi noticiado um vídeo falso do popular youtuber Mr. Beast a fazer uma promoção, que na realidade era um Deep Fake. Este caso ilustra a forma como a tecnologia pode ser utilizada para criar conteúdos enganadores que parecem autênticos. Noutro incidente notável, a jornalista norte-americana Gily King foi vítima de uma Deep Fake que a mostrava a promover um produto de perda de peso, um conteúdo tão convincente que ela própria teve de esclarecer publicamente que era falso e criado com inteligência artificial. O famoso ator Tom Hanks também foi alvo de uma Deep Fake numa promoção falsa, o que mostra como as figuras públicas podem ser envolvidas em embustes sem o seu consentimento. Um caso ainda mais alarmante foi o de uma fraude bancária, em que os burlões utilizaram uma Deep Fake áudio para se fazerem passar por um cliente de um grande banco, conseguindo uma transferência fraudulenta de 35 milhões de dólares. Até o empresário Elon Musk foi retratado em vários Deep Fakes a promover falsos conselhos financeiros, demonstrando o potencial dos Deep Fakes para manipular e enganar audiências. Estes exemplos realçam a capacidade dos Deep Fakes para criar não só conteúdos falsos, mas também situações potencialmente prejudiciais e confusas.
Isto coloca um grande desafio à sociedade, pois é necessário encontrar uma forma de discernir o que é real e o que não é, num mundo em que ver já não é sinónimo de acreditar.
Duas das plataformas em linha que permitem criar deepfakes com apenas alguns cliques e sem quaisquer conhecimentos técnicos.Por outro lado, os Deep Fakes também geraram um debate ético sobre privacidade e consentimento. A utilização da imagem e da voz de uma pessoa sem a sua autorização para criar conteúdos, especialmente se forem de natureza comprometedora ou prejudicial, é uma questão sensível. Isto levou a discussões sobre a necessidade de regulamentos mais rigorosos e ferramentas tecnológicas para detetar e prevenir a utilização indevida de Deep Fakes.
As falsificações profundas são um exemplo claro de como tudo está a correr mal, uma tecnologia pode ser uma faca de dois gumes. Por um lado, oferecem oportunidades interessantes de criatividade e inovação, mas, por outro lado, é muito assustador pensar no que esta tecnologia pode fazer nas mãos erradas.
1 comentário