Em outro caso de inteligência artificial que deu errado, Facebook sofreu forte reação por rotular vídeos de homens negros como ‘primatas’. A polêmica veio à tona após Facebook os usuários assistiram a um vídeo postado por The Daily Mail, que mostrou homens negros em altercações com civis e policiais brancos na Marina.
Depois que um usuário terminou de assistir ao clipe, uma mensagem automática pedindo feedback sobre sua preferência de visualização apareceu. Enquanto Facebook frequentemente pede feedback para melhorar o feed e as recomendações de um usuário, a controvérsia surgiu sobre a mensagem do algoritmo de IA no vídeo de homens negros. A mensagem automática perguntava: ‘Continua vendo vídeos sobre primatas?’. O vídeo de 27 de junho de 2020 não tinha conexão com macacos ou primatas.
Depois que o incidente veio à tona, Facebook emitiu um pedido de desculpas por colocar o rótulo de ‘primata’ em vídeos de homens negros, afirmando que o recurso de inteligência artificial foi desativado.
Em uma declaração para New York Times, Facebook chamou o erro de “um erro inaceitável” e prometeu investigar mais o recurso de inteligência artificial. Um porta-voz da empresa disse que embora Facebook fez melhorias em sua inteligência artificial, “não é perfeito” e tem “mais progresso a fazer”.
O Google Fotos rotula pessoas negras como ‘gorilas’
Esta não é a primeira vez que a inteligência artificial rotula erroneamente pessoas de cor. Em 2015, o Google se desculpou depois de rotular uma foto de dois negros como gorilas. O Google Fotos teve que censurar a palavra ‘gorila’ em suas buscas depois que os usuários reclamaram que seus amigos negros estavam sendo rotulados como ‘gorilas’ em suas imagens. Emitindo um pedido de desculpas por sua ‘IA racista’, o Google disse que estava ‘genuinamente arrependido’ e trabalharia para corrigir seu algoritmo.
