Ao longo dos anos, os impactos positivos na sociedade graças a soluções tecnológicas foram inumeráveis e, possivelmente, imensuráveis. Stephen Hawking, um dos mais notáveis cientistas do mundo, no entanto, costumava dizer que, um dia, elas poderiam destruir a humanidade.

Ainda que isso, a princípio, possa parecer um exagero, casos como o de
um algoritmo que prioriza o atendimento hospitalar a pessoas brancas revelam que a hipótese é, na verdade, uma real ameaça que historicamente já assola parte específica da humanidade: a população negra.

Há 70 anos, a Kodak criava os famosos “Cartões Shirley”, usados pelos laboratórios de fotografia para calibrar tons de pele, sombras e luz no processo de impressão. O cartão, que era representado por uma mulher caucasiana dos anos 1950, não atendia às características da pele das pessoas pretas (e tampouco das latinas ou asiáticas). Isso só foi alterado cerca de 20 anos depois, com a inclusão de mais tons de marrom nesses cartões. Detalhe: o fator motivador da mudança foi atender às necessidades da indústria de chocolates, e não das pessoas negras.

E mesmo hoje, no século 21, com os diversos avanços tecnológicos, ainda é possível identificar vieses discriminatórios no tratamento de imagens: em 2017, quando o FaceApp, um aplicativo que muda selfies usando inteligência artificial, ficou popular, ele teve que pedir desculpas aos seus usuários por ter criado um filtro, teoricamente embelezador, que embranquecia a pele de pessoas pretas e indianas. “Nossas desculpas por esse problema inquestionavelmente sério. É um efeito indesejável da rede neural do aplicativo, mas não é um comportamento que desejamos. Para resolver o problema, nós renomeamos o efeito para excluir qualquer conotação associada a ele. Também estamos trabalhando para encontrar uma solução definitiva”, declarou a desenvolvedora do aplicativo, Wireless Lab OOO, à época.

Racismo algorítmico

Segundo o jurista e professor da Fundação Getúlio Vargas Silvio de Almeida, o racismo estrutural é um mecanismo complexo que, de um lado, cria vulnerabilidade e, de outro, poder: “Ele não se isola em um ato de violência, mas cria um sistema em que alguns são beneficiados e outros prejudicados socialmente”.

A tecnologia carrega em sua história o reflexo desse racismo estrutural, que muitas vezes aparece no que ficou conhecido como racismo algorítmico.

Tarcízio Silva, mestre em Comunicação pela Universidade Federal da Bahia (UFBA) e ativista das relações entre tecnologia, política, sociedade e ciência, explica que o racismo algorítmico não é uma questão de tecnologias isoladas, de como melhorar este ou aquele sistema problemático:

“Trata-se de como a perversidade dos sistemas algorítmicos favorece a intensificação e a opacidade da desigualdade e do racismo em sociedades imersas na supremacia branca, como o Brasil e os Estados Unidos”.

Tarcízio ainda aponta que nos ambientes digitais e, sobretudo algorítmicos, o usuário está sujeito a sofrer inúmeras microagressões durante a utilização de artefatos produzidos em sociedades racistas. “Imagine um usuário médio que, no mesmo dia, vai buscar fotografias em um banco de imagens e só encontra fotos de famílias brancas, que tenta usar um aplicativo de selfies e seu cabelo é transformado em liso no resultado final. A soma dessas microagressões racistas cotidianas incorporadas às bases de dados e tecnologias é estafante e torna o ambiente digital também um lugar hostil”, diz ele.

Alguns especialistas pontuam que parte do problema está na inabilidade das equipes hegemônicas e embranquecidas, assim como na falta de diversidade dentro das grandes organizações e startups, que esmorecem a “reflexão crítica sobre a relação entre tecnologia e sociedade nos espaços cívicos, escolas, universidades e organizações da sociedade civil”.

O fato é que, além de estarem
mais propensas a obter lucros acima da média do mercado, empresas com equipes diversas possuem a maior probabilidade de construir soluções tecnológicas realmente inclusivas.

O racismo algorítmico não é uma questão de tecnologias isoladas, de como melhorar este ou aquele sistema problemático.

Olhando para as margens

O motivo pelo qual as empresas precisam correr atrás do prejuízo quando denunciados os vieses racistas em suas soluções está na compreensão da necessidade de se colocar as pessoas mais marginalizadas no centro das decisões de negócio, o que significa adotar medidas inclusivas ao formar equipes e também ao hora de desenvolver as soluções.

Em 2018, um professor do MIT chamado Ceasar McDowell cunhou o termo “Design for the Margins” (Design para as margens) no artigo
Diversity is Not Enough (Diversidade não é o bastante). Nele, ele refletia exatamente sobre uma ideia de design em que os grupos mais marginalizados estariam no centro do debate. “A ideia aqui é que se você desenha uma intervenção ou faz mudanças para trabalhar para e com aqueles que são mais marginalizados, então você inevitavelmente acaba atendendo a eles e também aos privilegiados. Na estrutura dos Estados Unidos, é a comunidade negra que define fundamentalmente o grupo marginalizado. A marginalização negra é a origem histórica e política deste país.” Uma realidade não muito distante da que vemos no Brasil.

Lá fora, o conceito de Design Justice vem sendo estudado por grupos que trabalham com diferentes tipos de design, do design gráfico ao de produto, passando também pela arquitetura. Iniciativas como a BlackSpace, a Algorithmic Justice League, a Design Justice Network e a Designing Justice ajudam a disseminar alguns princípios rumo a um design e uma tecnologia realmente inclusivos. Entre eles, está o incentivo à colaboração com cientistas sociais, o reconhecimento do que já funciona nas comunidades antes de procurar inserir algo novo — a fim de honrar e elevar conhecimento e práticas tradicionais e/ou locais — e o foco nas pessoas diretamente impactadas pelos efeitos do processo do design.

Boa parte das soluções tecnológicas e inovadoras são elaboradas mediante o conceito de Interação Humano-Computador, que é o estudo da interação entre pessoas e computadores, e seu conjunto de elementos e fatores chamado de “Experiência do Usuário”. A grande problemática está quando o desenvolvimento dessa experiência se dá sob uma única perspectiva hegemônica e embranquecida.

Karen Santos, que é mulher negra, nascida e criada nos extremos periféricos de São Paulo e Designer de Experiência (UX Design), aponta que há uma repetição no processo de servir, de pessoas negras levando experiências boas e agradáveis para outras pessoas, mas nem sempre podendo usufruir delas. Pensando nisso, ela fundou a
UX para Minas Pretas. A comunidade, que nasceu no ano passado, já conta com mais de 500 mulheres e 123 bolsas concedidas em parcerias com escolas de design, e tem o objetivo de incluir e dar visibilidade às mulheres negras no mercado de trabalho.

“A minha luta é para que mais pessoas como eu estejam à frente das soluções, criando produtos e serviços, sendo líderes de equipes, criando seus próprios projetos e empresas, sendo consideradas consumidoras, personas, usuárias, nicho. E não sendo apenas as pessoas que estão inseridas na base dessas empresas, fazendo o papel de servidão ou nem mesmo sendo consideradas como público.”

Além da UX para Minas Pretas, outras iniciativas como
Designers Negres no Brasil, Das Pretas, TecnoGueto, QuebraDev, InfoPreta, PerifaCode, Wakanda Streamers fomentam a democratização do acesso ao mercado de design e tecnologia no Brasil.

O futuro é preto

Segundo dados do Sebrae, os negros dominam o mercado do empreendedorismo no Brasil, mas ainda sofrem com os impactos da desigualdade social e da precarização do trabalho. Os aplicativos de delivery são um exemplo desse desequilíbrio e estimulam a reflexão de que um mundo desenhado com foco nos grupos mais afetados poderia ser melhor para todos. “O motivo de os entregadores, que são 70% negros, estarem insatisfeitos com as condições de trabalho está intrinsecamente ligado ao fato de os aplicativos não terem sido pensados para eles”, examina o consultor e escritor Ale Santos.

Ele, que já quis ser atleta, sempre se envolveu muito com a fantasia na infância. Formado em Publicidade e Propaganda, hoje o “cronista dos negros” é, além de consultor e escritor, storyteller e se dedica a criar e contar histórias negras. Ele acredita que o Afrofuturismo, “movimento que coloca as discussões da diáspora africana no centro das artes, da ciência e tecnologia — seja na realidade ou na ficção” é “uma possibilidade de quebrar esse paradigma de uma inovação tecnológica eurocêntrica, que não considera a vida das pessoas negras”.

“O motivo de os entregadores, que são 70% negros, estarem insatisfeitos com as condições de trabalho está intrinsecamente ligado ao fato de os aplicativos não terem sido pensados para eles”, Ale Santos

Esse conceito também pode se basear no “Exercício de Catástrofe”, um método de concepção na ficção científica que se constrói por meio de um imaginário em que a sociedade encontra respostas para possíveis desastres. Um método que se mostra cada vez mais necessário, dado que as tecnologias eurocêntricas são incapazes de prever as reais necessidades de uma população racializada.

Um exemplo atual: além de estarem mais vulneráveis ao coronavírus, pessoas negras, que representam mais de 70% da população pobre no país, enfrentam no dia a dia a dificuldade de acessar seus auxílios emergenciais através das plataformas. Segundo o IBGE, mais de 30 milhões de pessoas ainda não têm acesso à internet, mas dependem dela para pedir o auxílio emergencial. Quando conseguem acessar, ainda têm de lidar com as filas de espera excessivamente demoradas e erros constantes no sistema de pagamento das contas no aplicativo de acesso ao benefício.

“Eu acredito que a ideologia afrofuturista pode ajudar a sociedade a resolver esses problemas porque ele vai colocar a existência das pessoas negras no centro da produção de tecnologia e inovação”, conclui Ale.

Quando projetamos para e com pessoas racializadas que, em um país como o Brasil, representam mais de 50% da população, todos os grupos se beneficiam inevitavelmente.

–

Wagner Silva (Waguin) tem 26 anos, é autodidata, músico, designer e escritor. Nasceu no Rio de Janeiro, em Nova Iguaçu. É idealizador do
Designers Negres no Brasil, cria conteúdo no Twitter e no Medium, e atualmente trabalha como Designer de Produto Senior (UX Design) em São Paulo.

Esta reportagem foi publicada originalmente em julho de 2020, na ELLE View, nossa revista digital mensal. Faça a sua assinatura e tenha acesso a todas as edições.