Um policial abraça um manifestante. Um bombeiro segurando uma criança em seus braços em meio ao caos. Se olharmos atentamente para suas duas imagens em movimento, vários detalhes estão incorretos: o policial e o bombeiro têm seis dedos em uma mão, seus polegares são anormalmente longos, a mão direita do bombeiro está deformada, a viseira do capacete do policial tem uma aparência incomum forma, um pedaço de fita adesiva na jaqueta do manifestante não está terminado…

O fato é que essas duas poderosas imagens não foram criadas durante as manifestações contra reforma da previdência ou depois dos terremotos que destruíram Peru e a Síria em 6 de fevereiro, ao contrário de vários relatos que os compartilham. A imagem do policial e do manifestante foi criada por um inteligência artificial (IA), como observou um jornalista da AFP. Isso também se aplica à imagem do bombeiro.

À medida que os artistas pegam essas novas ferramentas e criam imagens inovadoras, alguns atores podem agarrá-las para passar golpes por lanternas. Como reconhecer tais imagens quando circulam nas redes sociais sem mencionar que são criações e não imagens de notícias? 20 minutos colocou a questão a especialistas. Todos insistem em um ponto: essa tecnologia está evoluindo rapidamente e os defeitos visíveis a olho nu hoje às vezes já são corrigidos por certos usuários ou serão corrigidos muito em breve. Esses sinais, que atualmente são válidos em certos casos, certamente não serão mais.

Então, no que você deve prestar atenção? À construção das mãos, mas também à dos olhos. “Se houver várias pessoas no quadro, os olhos geralmente serão os mesmos”, explica Antoine Bertier, moderador do Stable Diffusion, um site de criação de imagens de IA. Também é preciso prestar atenção aos detalhes, como o formato das joias, dos óculos, etc. Os textos às vezes também apresentam imperfeições. As imagens também contêm marcas d’água, mas elas podem ser facilmente removidas. Emmanuel Adam, porta-voz da Associação Francesa de Inteligência Artificial, adverte contra “retoques muito extensos da imagem: muitas vezes as imagens geradas são muito claras porque as redes são alimentadas com imagens de qualidade feitas por profissionais. É assim que encontramos uma luz bonita, uma bela névoa ao fundo, que a priori seria difícil de obter no meio de um motim. »

Falhas que podem ser apagadas com um pouco de graxa de cotovelo

Os criadores de imagens estão bem cientes dessas deficiências e às vezes as corrigem. “O texto do capacete de bombeiros é perfeito, que foi adicionado ao Photoshop”, analisa Antoine Bertier. E não é só esse famoso software para apagar as falhas. A inteligência artificial também pode regenerar parte da imagem. “Você desenha uma parte da imagem e diz ‘regenerar esta parte’. E assim você pode tentar algumas vezes até, digamos, que as mãos estejam em ordem”, diz Leonardo Impett, professor assistente de humanidades digitais da Universidade de Cambridge.

Por isso é quase inútil fazer essa lista de erros, enfatiza. Acrescente a isso o rápido avanço da inteligência artificial e o jogo quase parece torto. “Torna-se um jogo de gato e rato, como um vírus e um programa antivírus, mas a tecnologia avança muito rápido”, resume Antoine Bertier.

Um banco de dados de 300 tera!

Se os humanos não conseguem fazer isso sozinhos, existem ferramentas que podem nos ajudar a separar fotos de pessoas reais de criações geradas por código? Por exemplo, é sempre possível procurar uma imagem ao contrário num motor de busca. Dependendo dos resultados, desconfie!

O site de atribuição estável promete usar inteligência artificial para encontrar as imagens usadas para gerar uma imagem. Para fazer isso, ele vasculha bancos de dados usados ​​para treinar inteligência artificial. O da Difusão Estável é de 300 tera! Com tal corpus é difícil ter sempre resultados exatos, enfatiza Antoine Bertier. “Se você tem o formato de uma sobrancelha, é difícil dizer de qual sobrancelha é. »

No futuro, inventar tais ferramentas “poderia ser mais fácil, treinar uma rede baseada em imagens falso e realmente, Emmanuel Adam imagina. Isso funciona muito bem com textos: existe uma base séria de exemplos disponíveis com os quais uma rede pode ser treinada nessa direção. Para imagens, isso requer muitos recursos para aproveitar a memória e os recursos computacionais. »

Estamos então condenados a duvidar da veracidade de cada imagem? “Torna-se uma posição perigosa ser cético sobre tudo”, responde Leonardo Impett. É difícil conseguir o falsificações profundas, porque quando há pistas, elas são muito sutis. E, claro, quando nos tornamos tão céticos sobre essas coisas sutis, corremos o risco de rotular imagens que são fotografias perfeitamente normais como falsas. A pesquisadora está acostumada a apresentar fotografias de paisagem em uma formação. Dois são produto de uma IA, o terceiro é uma foto do mar.As pessoas costumam dizer a ele que a foto do mar é falsa, porque o movimento das ondas seria suspeito. Querer procurar falhas pode levar a esquecer que o mundo também as contém, adverte.

Quais seriam as outras estradas? Uma delas seria que os governos financiassem programas de pesquisa ambiciosos sobre esses assuntos, lança Antoine Bertier. Outra é a boa fé dos usuários, que devem indicar que a criação que compartilham vem de inteligência artificial. O usuário que compartilhou a foto do policial e do manifestante acabou deletando seu tweet e observado que a foto foi realmente gerada por uma IA.

Mathilde Neef