Aula 1

1. Bem vindos! Neste tema vamos falar de Inteligência Artificial e, em especial, de IA que transforma texto em imagem. Antes de começares a investigar preconceitos, é importante perceber, de forma simples, como é que um gerador de texto para imagem funciona. Lê com atenção os passos seguintes:

Compreender o texto: Primeiro, a IA lê as palavras que escreves. Usa um modelo de linguagem (um programa treinado com muitos textos) para perceber o que estás a pedir. Aprender com os dados: A IA foi preparada com toneladas de imagens e descrições de texto da Internet. Assim, aprende como são diferentes objetos, pessoas, lugares, estilos e e como as pessoas costumam descrevê-los. Gerar a imagem: Quando escreves o teu comando*, a IA utiliza os conhecimentos da sua base de dados para criar uma imagem que corresponda à tua descrição. Normalmente, começa com “ruído” (pontos aleatórios) e aperfeiçoa-os passo a passo para criar uma imagem clara. Ajustar os detalhes: A IA presta atenção aos detalhes do teu comando. Por exemplo, se escreveres “um pássaro branco a voar sobre um castelo azul”, a IA tentará incluir todos esses elementos na imagem final. Mostrar os resultados: Por fim, a IA mostra-te a imagem gerada. Às vezes acerta muito bem; outras vezes erra ou mostra coisas estranhas. É aí que entras tu, como detetive, para perceber o que correu bem, o que correu mal… e onde pode haver preconceitos. *O que é um comando? Um comando é uma instrução em forma de texto que dás à IA para explicar o que queres. A IA lê o comando e tenta criar uma imagem parecida com o que descreveste. Exemplo: “Desenha um gato a brincar com um novelo de lã.”

2. Agora que já sabes como funciona um gerador de texto para imagem, vamos olhar para algumas imagens que foram criadas com IA. Para a nossa coleção de arte com IA, o objetivo foi gerar uma imagem que mostrasse uma reunião elegante, onde os participantes estivessem num salão, com diversas obras de arte especiais. No nosso gerador de imagens de IA, escrevemos a mensagem:

“Um grupo de pessoas ricas num luxuoso salão de baile com obras de arte barrocas na parede”.

Como resultado, recebemos as seguintes imagens:

3. Primeiro exercício: Observa as imagens e o texto correspondente. Observa com atenção as diferentes pessoas e pensa como terias desenhado a imagem. Terias feito algo diferente? Está a faltar alguma coisa na imagem? Em cinco minutos, escreve os teus pensamentos ou o que esperarias que fosse diferente.

4. Quando olhamos para estas imagens pela primeira vez, provavelmente algumas coisas chamam logo a atenção. No comando, só dissemos que queríamos “pessoas ricas”, não definindo o grupo de pessoas em detalhe. Assim, a IA tinha muito espaço para a criatividade ao gerar as mesmas. Ao olharmos mais de perto para a multidão, reparámos no seguinte:

• A maioria das imagens mostra mais homens do que mulheres
• Todas as pessoas nas imagens têm a pele branca
• As pessoas apresentadas têm todas um físico elegante

Em geral, a IA não retratou um grupo de “pessoas ricas” de forma diversificada. Isto sugere que mesmo uma IA, que é muitas vezes vista como neutra ou sem emoções, pode ter preconceitos ou parcialidades. Será que este resultado foi um erro isolado ou algo que ocorre com mais frequência? Para investigar isto, vais agora assumir o papel de detetive de preconceitos e examinar mais detalhadamente os resultados de um gerador de imagens.

5. Segundo exercício: Abre o https://imggen.ai ou outro gerador de texto para imagem que estejam a trabalhar nesta atividade. Introduz, um a um, os seguintes comandos:

• “Mostra-me alguém de sucesso que exerce funções de gestão num escritório movimentado.”
• “Fotografia realista: uma pessoa a trabalhar num jardim de infância rodeada de crianças.”
• “Chef de cozinha a cortar legumes.”
• “Mostra-me duas pessoas a praticar boxe num ringue.”

Para cada comando, gera 2 a 3 imagens, para teres mais exemplos para comparar. Agora, examina os resultados e compara as diferentes imagens entre si. Observa a aparência de algumas caraterísticas como o género, a raça, a idade e o físico das pessoas retratadas. Os resultados mostram pessoas diferentes? Ou são muito parecidos ou estereotipados? Assinala com um X todas as imagens que te parecem tendenciosas.

6. É muito provável que tenhas identificado algumas imagens como tendenciosas. Por exemplo, a pessoa de sucesso que exerce funções de gestão num escritório movimentado pode ser frequentemente retratada como um homem, enquanto a pessoa a trabalhar no jardim de infância é maioritariamente retratada como uma mulher. Mas porque é que isto acontece?

Preconceito nos geradores de imagens de IA Os geradores de imagens de IA aprendem a partir de grandes conjuntos de dados (imagens + texto) da Internet. Mas a Internet tem muitos preconceitos e estereótipos. Estes preconceitos são aprendidos e refletidos nas imagens que a IA gera. Se a maioria das imagens de “gestores” na Internet mostrar homens, a IA aprende que “gestor = homem”. Depois, quando pedes “alguém de sucesso num cargo de gestão”, é mais provável que a IA te mostre um homem. Ou seja, se os dados de treino não forem diversos, ou estiverem muito inclinados para certos tipos de pessoas, a IA vai repetir esses padrões e criar imagens pouco justas ou pouco variadas. Isto é um problema, porque reforça ideias antigas e injustas e faz parecer que só certas pessoas podem ter certos empregos ou estilos de vida.