A Era da Inteligência Artificial começou e, com ela, algumas questões que antes ficavam no campo da especulação e ficção, agora estão bem próximas das nossas realidades. Uma questão que tem trazido muita preocupação é sobre a capacidade dessas IAs de tomarem decisões sem – ou com menos – vieses que humanos.
Isto porque mesmo as inteligências artificiais generativas mais robustas, com bilhões de parâmetros, geram suas interações, respostas e conclusões baseadas nos dados que foram utilizados para treiná-las. Um exemplo que ilustra bem essa questão, mas que acende muitos alertas, é o da pesquisadora Joy, do MIT, que não conseguiu utilizar um software de reconhecimento facial, uma vez que o programa não tinha dados de codificação para a estrutura facial e tons de pele negros.