Pedimos a uma IA que gerasse uma imagem sobre “inteligência artificial e ética”, e o resultado foi a capa desse post. Podemos notar alguns detalhes: o ambiente da biblioteca, a personificação da IA na forma de um corpo robótico feminino, a presença majoritária de homens brancos. Poderíamos dizer que essa é a visão da IA sobre o tema? O correto seria dizer que essa é, na verdade, uma representação dos conteúdos gerados por pessoas sobre o assunto.
O tema da ética na IA é complexo e envolve a reflexão sobre as pessoas em torno dela, sejam os desenvolvedores, os usuários ou as pessoas que sofrem algum impacto com ela. Focados na análise de dados e identificação de padrões, os modelos de IA aprendem e treinam com bases de dados gerados que, muitas vezes, reproduzem preconceitos e refletem desigualdades da nossa sociedade.
Aurea Soriano-Vargas, pesquisadora do Viva Bem / Recod.ai, aponta ser fundamental garantir que os algoritmos sejam treinados com dados diversos, reduzindo a chance de perpetuar discriminações. Outros dois pontos cruciais são a transparência e a privacidade dos dados.
Para Aurea, a presença crescente da IA requer responsabilidade ética de todos. “É fundamental pensar em como a implementação da IA pode afetar diferentes grupos sociais. Mesmo com a legislação ainda em desenvolvimento, as ações com IA sempre implicam responsabilidade, não da máquina, mas das pessoas que a usam e desenvolvem”.
Ética e IA foi o tema da palestra ministrada por Aurea aos alunos da Pós-Graduação do Instituto de Química da Unicamp.