Deputada denuncia 'racismo algorítmico' de IA após ser retratada com arma

Renata Souza (PSOL-RJ) foi retratada com uma pistola nas mãos ao fornecer referências como o fato de ser negra e estar em uma comunidade carioca

A deputada estadual Renata Souza (PSOL-RJ) afirmou, nesta quinta-feira (26/10), ter sofrido "racismo algorítmico" após ter sido retratada, em um desenho, com uma arma por uma plataforma de inteligência artificial (IA).  

Nas redes sociais, a deputada contou que queria criar uma arte inspirada nos pôsteres da Disney, trend que ficou famosa nos últimos dias na internet, mas foi retratada com uma pistola nas mãos ao fornecer referências como o fato de ser negra e estar em uma favela carioca.

"A descrição pedida era de uma mulher negra, de cabelos afro, com roupas de estampa africana num cenário de favela. E essa foi a imagem gerada. Não pode uma mulher negra, cria da favela, estar num espaço que não da violência? O que leva essa 'desinteligência artificial' a associar o meu corpo, a minha identidade, com uma arma?", publicou a parlamentar.

Renata também classificou o episódio como "reprodução da estrutura racista", que se dá "em todos os espaços e ferramentas". "Não há isenção ou imparcialidade, é claramente racismo algorítmico. Enquanto presidenta da CPI do Reconhecimento Fotográfico [na Assembleia Legislativa do Rio] observo o quanto pessoas negras podem ser vitimadas por mecanismos, como o reconhecimento facial, mesmo sendo inocentes", desabafou.

Renata Souza é presidenta da CPI do Reconhecimento Fotográfico, instalada em junho pela Assembleia Legislativa do Rio de Janeiro. A comissão apura casos de racismo no uso de reconhecimento facial por delegacias.

Vale destacar, que a IA usada pela política foi o gerador de imagens do Bing, da Microsoft. O sistema é equipado com a tecnologia DALL-E3, criada para traduzir palavras em imagens. A tecnologia foi criada pela OpenAI, mesma empresa por trás do Chat GPT.

Uai

Link da matéria