O corpo que nunca esteve ali
Deepfakes sexuais e a nova face da violência contra a mulher: o caso Taylor Swift
Em janeiro de 2024, Taylor Swift ocupou as redes sociais, mas, dessa vez, não era por causa de um novo álbum, de sua vida amorosa ou de alguma premiação. Imagens sexualmente explícitas da cantora começaram a circular na internet e rapidamente alcançaram milhões de visualizações.
Havia apenas um problema essencial para compreender a história: aquelas imagens nunca tinham existido no mundo real. Taylor Swift não havia participado das cenas. O conteúdo havia sido produzido artificialmente com auxílio de inteligência artificial.
A história poderia ter permanecido no campo das fofocas envolvendo uma das mulheres mais famosas do mundo, não fosse por uma questão que vai muito além da vida de uma celebridade. As imagens eram falsas, mas utilizavam o rosto e a identidade de uma pessoa verdadeira.
Segundo a Associated Press, dezenas de imagens artificiais foram identificadas, algumas chegaram a milhões de usuários e fãs da cantora organizaram uma reação nas próprias redes sociais para denunciar publicações e reduzir a circulação do material.
É justamente isso que caracteriza uma das utilizações mais problemáticas dos chamados deepfakes. Com técnicas de inteligência artificial, é possível produzir imagens, vídeos e áudios em que alguém parece fazer ou dizer algo que nunca ocorreu.
No caso de Taylor Swift, não se tratava de modificar uma fotografia íntima verdadeira ou divulgar um vídeo privado da cantora. A própria situação sexual havia sido criada.
Essa diferença parece pequena até imaginarmos o mesmo caso fora do universo das celebridades. Uma pessoa não precisa mais ter tirado uma fotografia nua ou gravado um vídeo íntimo para aparecer em um conteúdo desse tipo. Fotografias comuns disponíveis em redes sociais podem ser utilizadas como matéria-prima para produzir uma representação sexual falsa.
É aqui que uma fofoca sobre Taylor Swift começa a se transformar em um problema bastante interessante para o Direito.
E se o caso Taylor Swift acontecesse no Brasil?
Se imagens semelhantes às de Taylor Swift fossem produzidas e divulgadas no Brasil, uma das primeiras leis que poderiam entrar nessa discussão seria o artigo 218-C do Código Penal, dispositivo criado em 2018 para combater a divulgação não consentida de conteúdos sexuais.
O artigo pune quem oferece, disponibiliza, transmite, distribui, publica ou divulga, por qualquer meio, fotografia, vídeo ou outro registro audiovisual contendo determinadas cenas de natureza sexual, incluindo sexo, nudez ou pornografia sem o consentimento da vítima. Atualmente, a pena prevista é de quatro a dez anos de reclusão e multa, se o fato não constituir crime mais grave.
A lógica dessa norma é relativamente fácil de visualizar quando pensamos no chamado “pornô de vingança”. Imagine um casal que, durante o relacionamento, troca fotos íntimas de forma consensual. Depois do término, uma das pessoas decide publicar essas imagens ou enviá-las para amigos, familiares ou colegas de trabalho do ex-parceiro.
O fato de a fotografia ter sido produzida ou enviada voluntariamente não significa que exista autorização para sua divulgação. O consentimento foi dado dentro daquela relação privada, e não para que o conteúdo se tornasse público.
O próprio art. 218-C leva essa situação em consideração ao prever aumento de pena quando o autor mantém ou manteve relação íntima de afeto com a vítima ou age com finalidade de vingança ou humilhação.
Taylor Swift, porém, apresenta uma situação diferente. Não houve uma fotografia íntima verdadeira que depois foi divulgada sem autorização. As imagens sexuais foram artificialmente produzidas. Não houve apenas ausência de consentimento para a divulgação: a cantora jamais consentiu com a própria criação daquela representação.
É justamente nesse ponto que a questão se complica. O art. 218-C entrou no Código Penal em 2018, em um contexto no qual a preocupação principal era a circulação não autorizada de fotografias e vídeos de conteúdo sexual. Os deepfakes já existiam, mas a inteligência artificial generativa ainda não possuía a facilidade de acesso e a qualidade que apresenta atualmente.
O “pornô de vingança” talvez seja a forma mais simples de entender por que o caso de Taylor Swift trouxe uma novidade importante. Antes, havia uma intimidade verdadeira. A fotografia foi realmente tirada, o vídeo realmente foi gravado e a vítima efetivamente participou daquela situação.
O problema aparece quando alguém quebra a confiança existente e divulga o conteúdo sem autorização, muitas vezes depois do término de um relacionamento.
No caso dos deepfakes, nem mesmo essa primeira etapa precisa acontecer. Taylor Swift não teve um vídeo íntimo roubado nem uma fotografia privada vazada. A situação sexual atribuída a ela foi criada artificialmente.
Isso modifica a discussão sobre consentimento. No pornô de vingança tradicional, pode ter existido consentimento para tirar a fotografia ou produzir o vídeo, embora nunca tenha existido autorização para sua divulgação. Em um deepfake sexual, pode não ter existido consentimento em nenhuma dessas etapas, ou seja, a pessoa não autorizou a criação da cena e também não autorizou sua circulação.
Imagine que, em vez de Taylor Swift, a vítima fosse uma mulher desconhecida do grande público. Alguém poderia retirar uma fotografia comum de seu Instagram, produzir artificialmente uma imagem sexual e depois encaminhá-la a amigos, colegas de faculdade, familiares ou pessoas do trabalho.
Quando essa mulher dissesse que a fotografia era falsa, ainda teria de enfrentar uma situação curiosa: provar que nunca esteve em uma cena que, na realidade, jamais aconteceu.
Porém, provar que uma imagem é falsa não necessariamente encerra o problema. O arquivo pode continuar circulando, e quem recebeu a fotografia antes da explicação pode ter acreditado que ela era verdadeira. A inteligência artificial permite que uma situação inexistente produza consequências bastante concretas.
É nesse ponto que os artigos 218-C e 147-B se aproximam do caso sem oferecer exatamente a mesma resposta. O primeiro protege contra a divulgação sexual sem consentimento e traz consigo a discussão sobre uma cena que pode ter sido totalmente fabricada. O segundo já passou a reconhecer expressamente a inteligência artificial como possível instrumento de violência psicológica contra a mulher, mas exige que estejam presentes os requisitos próprios desse crime.
Os direitos envolvidos, por outro lado, são bastante conhecidos. Intimidade, imagem, dignidade sexual e integridade psicológica já são protegidas pelo Direito há muito tempo. O que a inteligência artificial mudou foi a maneira pela qual esses direitos podem ser atingidos.
Autor: Vinicius Franco Conte, graduando em direito pela Fadi (Faculdade de Direito) de Sorocaba