A lei acompanhará as mudanças nas relações comunitárias advindas dos avanços da tecnologia moderna, como o mau uso de IA’s para Deepfakes pornográficas?
O governo dinamarquês anunciou planos para expandir a lei de direitos autorais. Numa medida pioneira que permitiria às pessoas exigir que as plataformas de mídia social removam falsificações digitais”, e as ‘deepfakes’. Mas como parte de uma emenda à atual Lei de Direitos Autorais dinamarquesa, pois a mudança proposta não se enquadra em sua própria legislação. Portanto, nãohá um nome específico como a “Lei de Segurança Online” do Reino Unido ou “Lei de Remoção” dos EUA. Em vez disso, propuseram alteração à legislação pré-existente.
Conforme o governo dinamarquês, a legislação revisada concederá aos indivíduos controle legal sobre suas imagens digitais, vozes e características faciais. Sendo asism, mitigará os riscos associados ao conteúdo não autorizado gerado por IA e às ‘deepfakes’. Aliás, se você já assistiu a um vídeo comparando vídeos gerados por IA de só dois anos atrás com os de hoje. Gostará do salto no progresso e da sensação de efeito chicote que isso causa.
Avanços no uso de IA
Os vídeos gerados em 2023 eram, francamente, abominações: desajeitados, parecendo desenhados por uma criança do jardim de infância, e movimentos que desafiavam a física. Porém, em 2025, parecem assustadoramente reais. Seu próprio rosto olhando para você, dizendo palavras que jamais disseste, com sua voz e cadência tão convincentes, que acredita assistir a um vídeo seu.
A IA oferece um mundo de oportunidades. Da mesma forma que pessoas nascidas na minha geração jamais imaginaram um computador de bolso potente. Ou seja, capaz de conectar pessoas por videochamadas do mundo todo, responder perguntas em poucos segundos ou transmitir pensamentos instantaneamente. Imaginar que a IA pudesse se tornar poderosa o suficiente para produzir um vídeo totalmente falso sobre pessoas que nunca existiram era coisa de ficção científica. No entanto, aqui estamos.
Assim como a internet ultrarrápida mudou a maneira como interagimos e até percebemos o mundo ao nosso redor, a IA parece o próximo salto quântico na mudança da relação da humanidade com a tecnologia. Muitas pessoas usam IA em suas vidas diárias, desde usos inócuos, como parecerem-se com personagens do Studio Ghibli. Mss também até para pedir ao ChatGPT ou ao Grok para escrever um e-mail por preguiça ou ocupação demais. Mas, assim como as pessoas já reclamaram da proliferação do celular, sempre haverá céticos em relação à tecnologia e seus efeitos na sociedade.
Pornografia ‘Deepfake’
Isso não é infundado. No meu país, prenderam alguém por usar IA para “criar pornografia deepfake”, manipulando imagens compartilhadas por uma mulher que conhecia para imitar conteúdo pornográfico. O juiz responsável pela sentença comentou: “Essas pessoas tinham o direito de postar suas imagens em plataformas de mídia social sem medo de que alguém as distorça para fins sexuais”. E, claro, está certo.
Mas — e não estou defendendo esse homem perverso de forma alguma, nem minimizando seus crimes — não é realmente um “deepfake”. Pois esse termo confere um nível de sofisticação que não existia. Esse homem criou edições grosseiras no Photoshop, atitude que existe desde os primódrios da internet. As pessoas editam imagens umas das outras há muito tempo, falsificam mensagens, atribuem citações e todo tipo de coisa — lembra-se de “Let Me Tweet That”? Lembro-me d’um aluno do meu ensino médio que colaram o no corpo nu de uma atriz pornô, o que é grosseiro, e sempre esteve lá. Mas claramente não tratava-se d’uma imagem crível .
Todavia, o crescente realismo nas imagens significa que falsificações plausíveis de pessoas reais existem. A sofisticação que a IA alcançou agora vai muito além de colocar o rosto de alguém no corpo de outra pessoa. Pos constrói, do zero, imagem ou vídeo convincentemente realista e quase indetectavelmente falso d’uma pessoa, sem consentimento ou conhecimento. Ademais, é a principal distinção entre os deepfakes modernos da IA e os Photoshops primitivos do passado.
Grã-Bretanha e Dinamarca contra ‘Deepfakes’
A Grã-Bretanha tentou tornar ilegal a criação de ‘deepfakes’ sexualmente explícitos como parte do Projeto de Lei sobre Crime e Policiamento (2025). Mas a legislação proposta continua muito generosa em relação ao que realmente envolve, lançando rede ampla para “criar deepfake sexualmente explícito de alguém sem consentimento”.
Porém, há um risco: a legislação dinamarquesa e a britânica tentam alcançar uma tecnologia que muda tão rapidamente que o uso da lei desaparece antes mesmo da tinta secar. Entretanto, a Dinamarca parece ciente disso — o Ministro da Cultura dinamarquês, Jakob Engel-Schmidt, enfatizou que “a tecnologia ultrapassou nossa legislação atual”.
É por isso que a Dinamarca tentou definir o que é “deepfake” em sua lei: “representação digital muito realista d’uma pessoa, incluindo sua aparência e voz”. Ao incorporar o aspecto “digital” da imitação na lei, a Dinamarca explicitamente foca em conteúdo gerado por IA. Contudo, o que é muito importante, incluiu uma exceção para paródias e sátiras.
Perigos à Liberdade de Expressão
Com tais leis, há preocupações quanto às limitações que impõem à liberdade de pensamento e de expressão. Pois vagas e imprecisas e, por esse motivo, devemos vê-las com cautela. Embora a lei dinamarquesa tente definir “deepfakes”, a definição ampla de ‘deepfakes’ como “representações digitais muito realistas” abre margem à interpretação perigosa. Por exemplo, abrangendo conteúdo não prejudicial nem enganoso, o que significa que a comédia ou mesmo a simples expressão artística são consideradas ilegais. Mesmo que isso seja considerado uma compensação aceitável, abre a porta para que a definição de sátira seja definida pelo governo , e não pelo povo.
Da mesma forma, “paródia” permanece mal definida. Um vídeo de zombaria de um político importante, feito para dizer coisas em que ele ou ela claramente não acredita ou concorda, é considerado paródia, sátira ou abuso? Deepfakes pornográficos são claramente inaceitáveis, mas as leis precisam ser mais precisas tanto para identificar danos quanto para traçar a linha entre a liberdade de expressão e a proteção daqueles em risco.
Publicado originalmente na FEE, sob o título “Deepfakes and the Digital Wild West“. Traduzido por Roberto Lacerda Barricelli.
One thought on “As Deepfakes e um Velho Oeste Digital”