Deputada denuncia ‘racismo algorítmico’ após IA criar imagem dela armada

Nesta quinta-feira (26/10), a deputada estadual Renata Souza (Psol-RJ) denunciou racismo nos algoritmos de uma inteligência artificial do Microsoft Bing após a ferramenta gerar imagem de uma mulher negra armada. A parlamentar alega que pediu para a IA um desenho de “uma mulher negra, de cabelos afro, com roupas de estampa africana num cenário de favela”. “Em momento nenhum eu falei sobre armas”, apontou Renata em vídeo publicado no Instagram.  

Nas redes sociais, Renata publicou uma foto dela em uma favela do Rio de Janeiro com o diploma de ensino superior ao lado da foto gerada por IA. Segundo a parlamentar, o caso se trata de “racismo algorítmico”, a reprodução de estereótipos racistas por uma ferramenta de inteligência artificial. “Em um mundo forjado pela branquitude, que tem o domínio sobre as tecnologias, a reprodução da estrutura racista se dá em todos os espaços e ferramentas”, destacou.  

PUBLICIDADE

Presidente da Comissão Parlamentar de Inquérito (CPI) do Reconhecimento Fotográfico, a parlamentar comentou que observa “o quanto pessoas negras podem ser vitimadas por mecanismos, como o reconhecimento facial, mesmo sendo inocentes”. Para ela, a reprodução do imaginário de violência nas favelas pelas IAs coloca pessoas negras em risco. A deputada afirmou que está analisando as medidas cabíveis e entrará em contato com responsáveis pela plataforma Microsoft Bing.
  

Ao Portal G1, a Microsoft informou que investiga o caso e que tomará medidas adequadas para ajustar o serviço. "Acreditamos que a criação de tecnologias de IA confiáveis e inclusivas é um tema crítico e algo que levamos muito a sério", diz a nota.

Correio Braziliense

Link da matéria