A inteligência artificial também aprende os nossos preconceitos

Peça a uma inteligência artificial uma imagem de alguém ocupando um cargo de liderança, sem descrever essa pessoa: o padrão de quem aparece, e de quem dificilmente aparece, diz muito sobre os dados que treinaram o sistema.

Essa pergunta abre uma discussão sobre representação. O que uma ferramenta completa quando o comando deixa informações em aberto pode revelar padrões que merecem ser observados.

Quem vira a imagem padrão?

O vídeo parte de exemplos de geração de imagens e vídeos para discutir associações entre aparência, gênero e profissão. A questão não é olhar um único resultado e concluir como todos os sistemas funcionam. É perceber repetições e perguntar o que elas fazem parecer natural.

Quando posições de poder aparecem sempre associadas ao mesmo perfil, enquanto funções de cuidado recebem outro, o conteúdo pode reforçar expectativas que já circulam socialmente.

Isso também vale para idade, deficiência e padrões de beleza. Que experiências humanas estão sendo tratadas como centrais? Quais precisam ser pedidas explicitamente para aparecer?

Tecnologia também produz cultura

Nós já discutimos há décadas como cinema, publicidade e televisão participam da construção de imagens sociais. A geração automatizada acrescenta ferramentas capazes de produzir novas representações em escala.

Por isso, a conversa não pertence apenas à tecnologia. Pertence também à cultura: envolve linguagem, narrativa, identidade e a maneira como reconhecemos as pessoas.

O risco descrito no vídeo é um ciclo de repetição. Representações antigas influenciam o material disponível; novas imagens reproduzem essas associações; e o conjunto de referências pode continuar parecendo cada vez mais homogêneo.

Usar a ferramenta não elimina a necessidade de crítica

Eu trabalho com inteligência artificial e vejo possibilidades importantes no seu uso. A IA Emma, por exemplo, nasceu para apoiar a organização de projetos culturais e sua escrita.

Esse interesse não impede uma postura crítica. Uma ferramenta pode facilitar tarefas e ainda produzir resultados que precisam ser questionados. Utilidade não significa neutralidade.

Ao trabalhar com conteúdo gerado, vale observar o que foi representado, quais escolhas ficaram implícitas e se a imagem combina com a diversidade do público ou do contexto que você deseja mostrar.

O que queremos colocar em circulação?

Artistas e produtores já fazem escolhas de representação em suas obras, equipes e materiais de comunicação. Com IA, essa responsabilidade continua existindo.

Aceitar a primeira imagem disponível também é uma decisão editorial. Revisar, contextualizar e pedir outras possibilidades faz parte do trabalho.

Talvez uma das perguntas mais produtivas seja: por que determinados estereótipos estão tão disponíveis para serem repetidos? Olhar para as respostas da tecnologia pode ser também uma maneira de examinar os padrões que a própria sociedade mantém em circulação.