As inteligências artificiais são racistas?

Imagem mostra o rosto de um homem negro de barba. — Imagem: Reprodução/Twitter

Uma reflexão sobre o padrão de beleza no universo das IAs

Nossa seguidora, Erica Cristina, nos enviou um print de uma resposta do Chat GPT, chatbot de inteligência artificial desenvolvido pela OpenAI, sobre o motivo pelo qual geralmente as representações de imagens geradas por inteligências artificias são pessoas brancas.

A resposta? Rostos brancos são considerados "neutros"ou "padrão" devido a um viés estrutural.

Karollyna Ferreira , uma das fundadoras do perfil As Negas do Ziriguidum, denunciou ontem que ao pedir ao ChatGPT sugestões para modernizar a logo do projeto, a inteligência artificial trocou a imagem de uma mulher negra de cabelo crespo pela de um macaco.

As respostas do Chat GPT expõe uma preocupante realidade sobre os vieses estruturais presentes nos dados que alimentam as inteligências artificiais. É crucial reconhecer que a predominância de rostos brancos como "padrão"de beleza reflete um problema de representatividade que precisa ser urgentemente corrigido.

Para garantir que as IAs gerem representações mais equitativas e diversas, é fundamental um esforço conjunto. Programadores e desenvolvedores têm a responsabilidade de reformular os algoritmos e de utilizar conjuntos de dados mais inclusivos, que reflitam a rica variedade de tons de pele, etnias e características presentes na sociedade.

Alimentar as inteligências artificiais com diversidade não é apenas uma questão de correção, mas sim de construir um futuro tecnológico mais justo e representativo para todas as pessoas.

Já passou por alguma situação parecida? Compartilhe sua experiência nos comentários!

👉🏽 Gostou? Siga @nossapelenegra pra mais conteúdos!