Fonte da imagem: Cortesia de Joy Buolamwini
Muitas vezes, as melhores histórias de beleza não são contadas, apenas com base na cor da pele, religião, expressão de gênero, deficiência ou condição socioeconômica de uma pessoa. Aqui, estamos passando o microfone para algumas das vozes mais ambiciosas e talentosas da indústria, para que possam compartilhar, em suas próprias palavras, a história notável de como surgiram – e como estão usando a beleza para mudar o mundo para melhor. A seguir: Joy Buolamwini, cientista da computação e fundadora da Algorithmic Justice League (AJL).
Desde muito jovem, eu estava interessado em encontrar maneiras de usar os computadores para ajudar as pessoas. Enquanto crescia, meu pai, que é professor de química medicinal e ciências farmacêuticas, costumava me levar ao seu laboratório para alimentar células cancerosas. Ele também me mostraria como estava usando computadores para desenvolver medicamentos para combater o câncer.
Cresci apreciando a busca pela verdade, tanto nas artes quanto nas ciências, graças ao fato de minha mãe ser uma artista. A princípio não tinha certeza se seria capaz de mesclar a parte artística do que fiz com a auditoria algorítmica, mas aproveitei a oportunidade para me perguntar, como seria ser um poeta do código, alguém que mistura os dois mundos para fazer o que os poetas fazem, o que é iluminar verdades incômodas ou insights ocultos nas interações cotidianas que temos?
Sempre tive um pouco de espírito empreendedor também. No colégio, tive uma pequena empresa de web design, o que me permitiu ganhar algum dinheiro para pagar os equipamentos de basquete, atletismo e cross country, e depois, na faculdade, fundei uma empresa de tecnologia para cabelos que iria analise o tipo de cabelo e dê recomendações pessoais de produtos às pessoas.
Depois disso, tive a sorte de conseguir uma bolsa Fulbright para ir para a Zâmbia e comecei uma organização que ensinava meninas a programar. Quando cheguei à pós-graduação, tive a experiência e a confiança para começar a Algorithmic Justice League, uma organização que combina arte, pesquisa acadêmica e defesa para lutar pelas pessoas prejudicadas pela IA, que gosto de chamar o “ex-codificado”.
Comecei a investigar se os sistemas de IA têm um desempenho diferente, dependendo do tipo de rosto que está sendo analisado, e o que minha pesquisa descobriu foi, de fato, eles têm.
Quando eu estava trabalhando em uma instalação de arte como estudante de pós-graduação no MIT, parte da instalação destinava-se a rastrear a localização do meu rosto com um software, mas não funcionou muito bem no meu rosto até que coloquei uma máscara branca. Isso levou à minha pesquisa em 2017 sobre tecnologia facial e de análise que poderia tentar adivinhar o gênero de um rosto. Essa experiência de colocar uma máscara branca para ficar visível para uma máquina é o que realmente me fez começar a perguntar, essas máquinas são tão neutras?
Comecei a investigar se os sistemas de IA têm um desempenho diferente, dependendo do tipo de rosto que está sendo analisado, e o que minha pesquisa descobriu foi, de fato, eles têm. Observando os sistemas de IA de várias grandes empresas de tecnologia, descobri que os sistemas têm melhor desempenho no rosto dos homens do que no rosto das mulheres, quando se trata de adivinhar o gênero, e eles têm melhor desempenho em rostos de pele mais clara do que em rostos de pele mais escura. Isso me fez pensar, se esses resultados tivessem sido revertidos, esses computadores estariam fora do mercado em primeiro lugar? Foi essa experiência de codificar em uma máscara branca e, em seguida, ter a oportunidade de mostrar algumas das maiores diferenças de precisão em produtos de IA comercialmente vendidos na época, que me levou a examinar mais a fundo as questões de viés codificado, que realmente era a semente para iniciar a Liga da Justiça Algorítmica.
Fonte da imagem: cortesia de Olay
Na IA de beleza, se estivermos pensando em analisar rostos ou fazer com que rostos sejam processados por uma máquina – você verá isso com os tipos de filtros usados que podem iluminar sua pele ou afinar seu nariz como uma forma de reivindicar o realce da beleza – isso é baseado em padrões eurocêntricos de beleza e marginaliza as mulheres negras. Por meio da minha pesquisa, percebi que tenho essa perspectiva importante para trazer da minha experiência vivida de não ser visto, de ser ex-codificado. É algo que não apenas me afeta, mas é algo que está em nossa sociedade em geral, porque temos sistemas de IA cada vez mais entrando em todas as áreas.
Outra coisa a se pensar no espaço da beleza é o uso da IA no emprego – decidir quem será contratado, quem será demitido, quem receberá uma promoção. A indústria da beleza emprega tantas pessoas e, compreensivelmente, as empresas querem tentar adotar as tecnologias mais recentes, mas realmente precisamos pensar sobre as maneiras pelas quais a IA atua como um guardião para quem também participa da indústria.
Uma parte importante do que fazemos com a Liga da Justiça Algorítmica é perguntar como vamos em direção a um mundo com IA mais justa e responsável. Parte disso é aumentar a conscientização porque você não pode consertar um problema que você nem conhece, e muitas pessoas não estão cientes do viés codificado. É por isso que fiquei tão feliz com a parceria com Olay na campanha Decode the Bias para combater o preconceito em algoritmos de beleza. Pensar sobre quem está codificando e como estamos codificando é uma parte essencial para fazer uma mudança. A iniciativa da marca de enviar 1.000 meninas para o acampamento Black Girls CODE para ajudá-las a seguir carreiras em STEM ajuda a garantir que as pessoas que estão criando as tecnologias que moldam a sociedade realmente reflitam a sociedade. Os preconceitos continuam a mostrar o que acontece quando não estamos na sala.
Na IA de beleza, se estamos pensando em analisar rostos ou fazer com que rostos sejam processados por uma máquina – você verá isso com os tipos de filtros usados que podem clarear sua pele ou estreitar seu nariz como uma forma de reivindicar o realce da beleza .
Quando comecei minha pesquisa, experimentei comentários desanimadores, mas não permiti que isso me impedisse de buscar algo que considerava extremamente importante. Ser mulher e ter pele escura me deu uma experiência vivida que levou a uma pesquisa impactante que os colegas mais tradicionais simplesmente não estavam perseguindo ou priorizando na época. E assim, minha experiência com codificação em uma máscara branca é o que realmente catapultou esta pesquisa.
Quando você está em um campo onde sua perspectiva não está centrada, você realmente precisa encontrar uma comunidade de apoio. Tive um sistema de apoio muito forte, ótimos mentores e uma base realmente sólida, então acho que desde o início isso tem sido muito útil para mim. Isso me mostrou a importância de ter esse tipo de comunidade, especialmente como uma jovem negra e para as meninas negras. Eu encorajaria qualquer pessoa que tenha ideias e queira entrar neste espaço, mas tem medo de enfrentar uma resistência a seguir em frente de qualquer maneira. Ainda precisamos de você.
Fonte da imagem: Olay