*Artigo escrito por Nadia Moreira, professora, coordenadora do Programa Acadêmico de pós-graduação da Fucape e membro do comitê qualificado de conteúdo de inovação e tecnologia do IBEF-ES.
A ascensão da inteligência artificial generativa está transformando setores inteiros, da saúde ao mercado financeiro, passando por recursos humanos e marketing.
Leia também
Leia também: O melhor produto perdeu, porque outro chegou antes ao cliente certo
No entanto, junto com a promessa de eficiência e inovação, surge um desafio que ameaça a equidade: o viés algorítmico.
O que é viés algorítmico?
O viés algorítmico ocorre quando sistemas de IA produzem resultados injustos ou discriminatórios devido a erros sistemáticos nos dados de treinamento, no design do modelo ou nas decisões dos desenvolvedores.
Segundo a OCDE (2021), algoritmos mal calibrados tendem a acentuar desigualdades sociais quando baseados em dados históricos enviesados.
Impactos reais: da exclusão à perpetuação de desigualdades
Quando os sistemas de IA operam com vieses ocultos, podem comprometer a governança corporativa. Além de prejudicar práticas de compliance e levar a decisões gerenciais baseadas em premissas distorcidas.
Um exemplo emblemático foi o sistema de recrutamento da Amazon. Que passou a favorecer currículos masculinos porque os dados históricos indicavam uma predominância de homens contratados. O caso foi amplamente noticiado pela Reuters (2018), revelando como o uso acrítico de dados históricos pode institucionalizar preconceitos.
Além disso, estudos como o do Brookings Institution (2020) alertam que, em processos de avaliação de crédito, o uso de dados sensíveis ou proxies (como CEP ou histórico de consumo) pode levar a generalizações injustas, negando crédito a pessoas com perfis semelhantes apenas por pertencerem a determinados grupos sociais ou regiões.
A dificuldade de identificar e corrigir vieses em sistemas complexos amplia esses riscos e torna essencial manter auditoria contínua, transparência nos critérios de decisão e equipes multidisciplinares no desenvolvimento das soluções.
Medidas defendidas também pela Comissão Europeia (2021) em suas diretrizes de ética para IA confiável.
Conclusão
A IA generativa tem potencial para impulsionar a inovação, mas só cumprirá sua promessa se for desenvolvida e utilizada de forma ética e inclusiva. É papel de todos garantir que a IA amplie horizontes, e não barreiras.
Este texto expressa a opinião do autor e não traduz, necessariamente, a opinião do Instituto Brasileiro de Executivos de Finanças do Espírito Santo.
Entidade de utilidade pública
Instituto Brasileiro de executivos de finanças - Espírito Santo
