Publicado originalmente em Instituto Palavra Aberta. Para acessar, clique aqui.
Mariana Ochs*
????: Reprodução Twitter
Se você andou pela internet no último fim de semana, é possível que tenha visto uma imagem do Papa Francisco usando uma enorme jaqueta branca e um tênis com detalhes em dourado. O estilo e o gestual, mais característicos de um rapper na noite do Grammy do que do Sumo Pontífice em seu passeio matinal, chamaram tanto a atenção que até um grande veículo de moda reproduziu a foto, citando o estilista que teria montado o look. Era, de fato, uma visão improvável – tão improvável que nunca existiu. A cena imaginária foi criada no aplicativo Midjourney, que gera imagens a partir de comandos de texto, e divulgada por seu criador na rede social Reddit. E logo viralizou.
É o que até aqui vínhamos chamando de deep fake – uma simulação em foto ou vídeo, gerada com ajuda de inteligência artificial, tão realista que pode levar muita gente a achar que aquilo de fato aconteceu. Mas a popularização das ferramentas de IA generativas, adotadas por criadores talentosos e por curiosos em geral, e a proliferação desse tipo de imagem nas redes vem tornando essa classificação mais complexa. Não se trata apenas de apontar o que é falso e o que é verdadeiro – o que já seria suficientemente difícil em alguns casos. Algumas outras indagações procedem: pode ser chamado de fake aquilo que não alega ser real? A imagem passou a ser falsa ao ser publicada na mídia como sendo verdadeira? “Artificial” é sempre o mesmo que “falso”? E se estivesse em uma galeria, e não na internet, teríamos uma indicação mais precisa da sua natureza criativa? A mesma imagem do Papa, se executada em tinta e não em mídia digital e estilo hiper realista, passaria de deep fake a arte? Afinal, ao que parece, o limite entre a ilustração e a mentira depende tanto do contexto e das intenções do autor quanto das habilidades de leitura crítica de quem vê a imagem. Ou do jornalista que a publica.
????: Eliot Higgins. Cenas fictícias criadas no MidJourney. Reprodução Twitter
Dilemas conceituais à parte, a possibilidade de gerar “realidades” que nunca existiram, quando utilizada com más intenções, muda o panorama da desinformação e pode inflamar situações de conflito. As imagens transmitem um grau maior de confiabilidade, pois tendemos a acreditar no que os olhos vêem. As recentes imagens fictícias que mostram o ex-presidente Donald Trump sendo preso pela polícia, por exemplo, indicam o potencial que essa tecnologia tem para disseminar desinformação e incitar polarização e violência. No momento ainda é possível examinar as imagens geradas por IAs e notar algumas aberrações que elas criam – geralmente mãos mal acabadas, deformações, perspectivas distorcidas e outros ruídos que no jargão técnico se chamam “alucinações”. Mas as ferramentas tendem a evoluir rapidamente, e em breve não será mais possível identificar essas imagens artificiais pelos seus erros.
O novo desafio nos leva a reafirmar a necessidade de promover velhas habilidades: o letramento visual é, há muito, uma necessidade imperativa em uma sociedade bastante imagética. As imagens que estão em toda parte influenciam nossa percepção sobre os fatos, refletem ou denunciam estruturas de poder e podem até mudar o curso da história. Para lê-las adequadamente, precisamos entender o contexto em que foram produzidas, a intenção do autor, as escolhas estéticas e editoriais feitas ou mesmo que grupos ou realidades estão destacados ou omitidos. Para investigar sua confiabilidade, é preciso acionar não só ferramentas de checagem, mas também, e sobretudo, nosso próprio senso crítico, percebendo quando nos causam estranheza ou ativam nossas emoções. O leitor comum, mesmo o mais jovem, precisa saber que nosso contexto social e tecnológico permite a criação e circulação de “realidades artificiais”; desenvolvendo o discernimento para identificá-las e reconhecer as que são e as que não são nocivas. Precisamos, enfim, nos acostumar a perguntar sempre: “o que essa imagem quer de mim?”
Em suma, frente aos desafios sempre crescentes do ambiente de informação, temos que lembrar que a maior linha de defesa é nosso próprio bom senso e capacidade de reflexão.
Mariana Ochs é coordenadora do EducaMídia, o programa de educação midiática do Instituto Palavra Aberta