Aula 1
1. Bem vindos! Neste tema vamos falar de Inteligência Artificial. Nesta atividade, aprendemos que a IA, embora seja muitas vezes vista como neutra ou sem emoções, pode ter preconceitos. Analisamos a forma como os conjuntos de dados e os sistemas de aprendizagem automática podem reproduzir preconceitos na IA e como isso pode causar problemas em diferentes cenários do mundo real.
Vamos a isso?
Primeiro exercício: Olhem para o desenho e descrevam o que veem. Considerem o contexto ou cenário que o desenho pode estar a representar. Há alguma caraterística notável ou distintiva que se destaque para vocês?
2. Partilhem as suas impressões com os colegas.
Neste cenário, tanto o candidato do sexo masculino como a do sexo feminino têm níveis comparáveis de experiência em diferentes competências nos seus currículos. No entanto, apesar de as qualificações da candidata serem tão fortes como as do candidato, a IA não a escolheu para o lugar. Isto pode dever-se a vários fatores. Se, no passado, os homens eram mais frequentemente contratados para cargos técnicos, a IA pode ter interiorizado este padrão e continuar a favorecer os homens para estas funções. Além disso, os dados utilizados podem refletir um preconceito que sugere que as mulheres são mais adequadas para empregos noutras áreas, levando a que lhes sejam oferecidos cargos que exigem menos competências técnicas.
3. Para ajudar-vos a compreender melhor o tema do preconceito na IA, leiam o texto abaixo:
| O que significa preconceito na IA? A palavra preconceito significa essencialmente que alguém ou alguma coisa é injusta e favorece certas pessoas ou coisas. É um tipo de discriminação que resulta no facto de nem todos serem tratados da mesma forma. A inteligência artificial aprende com os dados fornecidos pelos seres humanos. Infelizmente, os seres humanos desenvolveram vários preconceitos no passado histórico. Quando se prepara um sistema de inteligência artificial com dados, é possível que os humanos transmitam informações tendenciosas ou incompletas. É assim, e por isso, que a IA pode desenvolver esses mesmos preconceitos. Além disso, tradicionalmente, as pessoas que desenvolvem e preparam os sistemas de IA são predominantemente homens, muitas vezes brancos, e normalmente provenientes de meios socioeconómicos com elevados recursos. Isto deve-se ao facto de terem frequentemente um maior acesso à educação e às oportunidades necessárias para trabalhar na área. Tudo isto pode fazer com que a IA tome decisões injustas ou incorretas que reflitam os preconceitos presentes nos dados originais. O preconceito da IA não é causado apenas por dados incompletos ou tendenciosos. Os algoritmos defeituosos e as interpretações erradas dos resultados da IA também podem levar a discriminação sistemática e injusta contra determinadas pessoas ou grupos com base em caraterísticas como a raça, o género, a idade, o estatuto socioeconómico, etc. Para evitar circunstâncias injustas, é importante garantir que os nossos sistemas de IA aprendem com dados diversificados, assegurar a equidade algorítmica e verificar regularmente a existência de preconceitos para os evitar. |
4. Neste passo, vais aprender mais sobre exemplos reais de preconceitos na IA.
Perfil 1
Nome: Sofia
Idade: 35
Profissão: Diretora de Vendas, Indústria Automóvel
Local de residência: Munique
Situação atual: Nas últimas semanas, tenho andado à procura de um novo emprego na indústria automóvel. Tenho muita experiência prática dos meus estágios nos principais fabricantes de automóveis e trabalhei no setor nos últimos 10 anos. Apesar de ter excelentes referências, muitas vezes, nem sequer recebo um convite para uma entrevista de emprego.
Perfil 2
Nome: Jeremia
Idade: 19
Profissão: Formação para ser enfermeiro
Local de residência: St. Louis, Missouri
Situação atual: Terminei a escola no ano passado e comecei a minha formação de enfermeiro há quatro meses num hospital em St. Louis. Embora goste do meu trabalho e dos meus colegas, talvez tenha de mudar de hospital porque a minha família está a planear mudar-se devido à elevada taxa de criminalidade na nossa zona. Na semana passada, o meu irmão Steven foi falsamente acusado de um assalto, o que foi muito assustador.
Perfil 3
Nome: Daniela
Idade: 16
Profissão: Estudante
Local de residência: Barcelona
Situação atual: Na semana passada, comprei um smartphone novo e incrível! Configurei-o e correu tudo bem até tentar desbloqueá-lo. Por algum motivo, o telemóvel não conseguia reconhecer o meu rosto e estava sempre a pedir o código PIN, o que é irritante. Vou levá-lo de volta à loja para que o verifiquem.
5. Exemplos para sublinhar os diferentes tipos de preconceitos na IA
Estes exemplos do mundo real podem ajudar-vos a compreender melhor como os preconceitos na IA podem afetar a vida pessoal das pessoas.
Preconceito de género
Uma área comum em que os preconceitos aparecem frequentemente é o emprego. Um problema no setor da tecnologia é que, mesmo com as melhorias registadas ao longo dos anos, as mulheres continuam a estar subrepresentadas nos domínios STEM (ciência, tecnologia, engenharia e matemática). Quando um grande retalhista online criou um sistema de recrutamento automático, rapidamente descobriu que o resultado não era justo. O sistema deveria avaliar os candidatos a emprego com base na sua adequação à função, analisando os currículos de candidatos anteriores. Infelizmente, tornou-se preconceituoso em relação às mulheres. Uma vez que as mulheres estavam subrepresentadas em funções técnicas, o sistema de IA pensou erradamente que os candidatos do sexo masculino se adequariam melhor. Consequentemente, atribuiu uma classificação mais baixa aos currículos das mulheres candidatas. Apesar dos esforços para corrigir o preconceito, o retalhista online deixou de trabalhar com o sistema de recrutamento com IA.
Preconceito racial
Um exemplo real de preconceito racial na IA está presente na tecnologia de reconhecimento facial. Em 2018, um estudo do MIT Media Lab concluiu que os sistemas de reconhecimento facial das principais empresas de tecnologia apresentavam taxas de erro muito mais elevadas na identificação de pessoas de pele mais escura do que de pessoas de pele mais clara. O estudo mostrou que a taxa de erro na identificação de mulheres de pele mais escura era de 34,7%, ao passo que era inferior a 1% nos homens de pele mais clara. Isto deveu-se ao facto de os dados de preparação incluírem maioritariamente imagens de pessoas de pele mais clara. Como resultado, a IA não era tão boa a reconhecer pessoas de pele mais escura, levando a resultados tendenciosos.
Preconceito geográfico
Nos EUA, os tribunais utilizam algoritmos para prever a probabilidade de os arguidos voltarem a cometer crimes. Os juízes integram então estas avaliações nas suas decisões de condenação. Para estas previsões, são utilizados dados históricos, como as estatísticas de criminalidade. Alguns grupos, que foram injustamente visados ou condenados com mais frequência no passado, obtêm previsões piores. Esta discriminação afeta frequentemente pessoas de áreas geográficas específicas nos Estados Unidos, que ainda sofrem de segregação, como os BIPoC (Black, Indigenous, and People of Color, negros, indígenas e pessoas de cor), ou cidadãos financeiramente desfavorecidos, embora isso não deva desempenhar um papel em casos individuais. Consequentemente, os preconceitos e a discriminação existentes são ainda mais reforçados.
6. Para concluir a atividade, partilhem as suas ideias sobre o preconceito na IA. Debatam as seguintes perguntas relacionadas com os diferentes exemplos de preconceito:
- Tinham conhecimento de que isto poderia acontecer?
- Como é que se sentem ao saber que estes preconceitos existem na IA?
- Qual poderia ser a solução para o problema?
Isto vai ajudar-vos a reconhecer os vários problemas relacionados com o preconceito na IA e a compreender como este pode afetar diretamente as pessoas. Compreender os preconceitos faz parte da garantia de que a IA é utilizada de uma forma que está em conformidade com os nossos valores sociais e princípios éticos.