Falamos muito sobre inteligência artificial, mas esquecemos que nem todas as pessoas sabem como funciona. Quem trabalha com tecnologia costuma achar que as ferramentas mais novas já são conhecidas e usadas no cotidiano, mas quando realizamos pesquisas chegamos a conclusão de que as pessoas são constantemente impactadas pela IA, mas sem saber.
Para começar vamos falar sobre as populares ferramentas que geram imagens a partir de textos. A maioria delas segue o princípio de entender a ordem dos comandos como prioridade do que deve ser gerado, ou seja, as primeiras palavras serão os elementos que estarão em evidência na imagem. Isso se dá porque elas são criadas a partir da combinação de dados que já foram inseridos na base onde a plataforma busca. Por isso, nem sempre você vai conseguir obter o que deseja, pois pode ser algo que ainda não foi solicitado, não foi inserido ou foi colocado de outra forma anteriormente. Isso é mais comum quando tentamos gerar imagens de lugares pouco populares internacionalmente.
Quando a gente fala em construção de figuras humanas os problemas são percebidos com mais facilidade. Se você solicitar a construção de uma pessoa em posição de liderança, na maioria das respostas receberá um homem branco. Em outras situações, se não descrever que quer um indivíduo negro, dificilmente receberá espontaneamente. O mesmo acontece com outras tantas etnias e nacionalidades.
Importância das equipes definindo diretrizes da IA
Dentro da construção de uma ferramenta que utiliza a inteligência artificial generativa (IA que cria novos conteúdos), as equipes de design e desenvolvimento são responsáveis por definir e ensinar como a máquina vai buscar as informações e como estas serão apresentadas. Nessa etapa é preciso explicar o que deve ou não ser entregue como resultado da busca. Depois o processo é testado e finalmente disponibilizado na rede. Neste caminho, quantas pessoas negras participam? Quantas líderes negras são responsáveis pela aprovação do conteúdo?
O principal problema está na falta de pessoas não brancas construindo e tomando decisões nesses lugares. Na grande onda de demissões em massa do último ano, as pessoas negras foram as mais afetadas. Alguns grupos de afinidade foram desfeitos. Os que permaneceram foram abalados em suas estruturas, seja pela diminuição de pessoas ou pela falta de investimentos. Com a queda das ações afirmativas também diminuiu a quantidade de lideranças negras. Paralelamente, voltamos a ver diversos casos de produtos com viéses discriminatórios. Enquanto não estivermos presentes em todas as etapas, continuaremos a não ser representados em nossa totalidade.
