Aula 1
SUMÁRIO DA AULA
Introdução à análise de conjunto de dados e sistemas de aprendizagem automática.
MATERIAIS
• Computadores ou tablets;
• Quadro Digital (opcional).
Ligações e Materiais externos:
Quadro branco digital: https://classroomscreen.com
https://www.survivalofthebestfit.com/game/
https://ai-bias.sustainablelivinglab.org/index.html
PREPARAÇÃO
• Fazer o passo-a-passo para os alunos;
• Garantir computadores ou tablets com acesso à Internet.
PLANO DA AULA
1. Ligar os computadores ou tablets;
2. Aplicar a atividade conforme as orientações feitas na versão dos alunos;
3. Auxiliar os alunos a partilharem suas ideias;
4. Promover debate sobre os tópicos apresentandos.
Orientações
| 1. Método da lanterna O professor dá informações sobre um tópico específico ou faz uma pergunta. Em seguida, todos os alunos podem exprimir as suas associações, ideias e pensamentos espontâneos numa ou duas frases. As frases dos alunos não são comentadas nem avaliadas nesta fase. Opcionalmente, o professor pode escrever cada pensamento, por exemplo, num quadro digital. |
| Se os alunos precisarem de ajuda para decifrar o desenho, pode utilizar as seguintes perguntas para apoiar o processo de raciocínio: O que podem ver nos currículos dos candidatos? Quem acham que vai ficar com o emprego? Porque é que acham que a pessoa selecionada pela IA conseguiu o emprego? Sabem como é que uma IA toma decisões? Consideram a decisão justa? |
2. Enquadramento teórico
Depois de os alunos partilharem as suas impressões, deve resumir os resultados e explicar o desenho em mais pormenor ao grupo: ilustra uma IA que seleciona o melhor candidato para um emprego com base em dados previamente recolhidos. Neste cenário, tanto o candidato do sexo masculino como a do sexo feminino têm níveis comparáveis de experiência em diferentes competências nos seus currículos. No entanto, apesar de as qualificações da candidata serem tão fortes como as do candidato, a IA não a escolheu para o lugar. Isto pode dever-se a vários fatores. Se, no passado, os homens eram mais frequentemente contratados para cargos técnicos, a IA pode ter interiorizado este padrão e continuar a favorecer os homens para estas funções. Além disso, os dados utilizados podem refletir um preconceito que sugere que as mulheres são mais adequadas para empregos noutras áreas, levando a que lhes sejam oferecidos cargos que exigem menos competências técnicas.
3. Para ajudar os alunos a compreender melhor o tema do preconceito na IA, dê-lhes alguma informação teórica de base:
| O que significa preconceito na IA? A palavra preconceito significa essencialmente que alguém ou alguma coisa é injusta e favorece certas pessoas ou coisas. É um tipo de discriminação que resulta no facto de nem todos serem tratados da mesma forma. A inteligência artificial aprende com os dados fornecidos pelos seres humanos. Infelizmente, os seres humanos desenvolveram vários preconceitos no passado histórico. Quando se prepara um sistema de inteligência artificial com dados, é possível que os humanos transmitam informações tendenciosas ou incompletas. É assim, e por isso, que a IA pode desenvolver esses mesmos preconceitos. Além disso, tradicionalmente, as pessoas que desenvolvem e preparam os sistemas de IA são predominantemente homens, muitas vezes brancos, e normalmente provenientes de meios socioeconómicos com elevados recursos. Isto deve-se ao facto de terem frequentemente um maior acesso à educação e às oportunidades necessárias para trabalhar na área. Tudo isto pode fazer com que a IA tome decisões injustas ou incorretas que reflitam os preconceitos presentes nos dados originais. O preconceito da IA não é causado apenas por dados incompletos ou tendenciosos. Os algoritmos defeituosos e as interpretações erradas dos resultados da IA também podem levar a discriminação sistemática e injusta contra determinadas pessoas ou grupos com base em caraterísticas como a raça, o género, a idade, o estatuto socioeconómico, etc. Para evitar circunstâncias injustas, é importante garantir que os nossos sistemas de IA aprendem com dados diversificados, assegurar a equidade algorítmica e verificar regularmente a existência de preconceitos para os evitar. |
4. Implementação
No passo seguinte, os alunos aprenderão mais sobre exemplos reais de preconceitos na IA. Dependendo da idade dos alunos e da sua literacia em meios de comunicação, pode escolher uma das duas opções seguintes para aprofundar o tema.
Opção 1: Apresente os exemplos preparados aos alunos. Leia as passagens de texto em voz alta ou distribua cópias para os alunos lerem sozinhos. Deixe os alunos refletirem sobre a informação. Em seguida, observe os três perfis e debata qual das pessoas é afetada por cada tipo de preconceito.
Opção 2: Os alunos vão pesquisar na Internet exemplos de preconceitos na IA. Para este exercício, serão divididos em pares. A cada par será atribuído um de três tipos de preconceitos: preconceito racial, preconceito de género ou preconceito geográfico. Devem familiarizar-se com o tema e encontrar um ou dois exemplos em que esse tipo de preconceito tenha ocorrido na vida real. Também pode utilizar os exemplos preparados como pontos de referência durante a pesquisa. Os alunos reúnem os resultados, por exemplo, num quadro digital. Depois, a turma reúne-se para uma discussão em grupo para analisar os resultados e considerar os três perfis. Os alunos devem depois debater qual a pessoa afetada por cada tipo de preconceito.
| Quando pesquisam online, os alunos devem certificar-se de que citam as fontes da informação recolhida, de modo a poderem identificar a origem da informação. Se necessário, mostre aos alunos como citar corretamente. |
5. Apresentar aos alunos os exemplos de preconceitos.
6. Conclusão
Para concluir a atividade, peça aos alunos que partilhem as suas ideias sobre o preconceito na IA. Debata as seguintes perguntas relacionadas com os diferentes exemplos de preconceito:
- Tinham conhecimento de que isto poderia acontecer?
- Como é que se sentem ao saber que estes preconceitos existem na IA?
- Qual poderia ser a solução para o problema?
Isto ajudará os alunos a reconhecer os vários problemas relacionados com o preconceito na IA e a compreender como este pode afetar diretamente as pessoas. Além disso, reúna algumas ideias sobre soluções para os preconceitos na IA para verificar se os alunos compreenderam o que causa os preconceitos e como podem ser evitados. Compreender os preconceitos faz parte da garantia de que a IA é utilizada de uma forma que está em conformidade com os nossos valores sociais e princípios éticos.