O concurso de beleza Beauty.AI foi o primeiro a usar máquinas como juízes. A ideia era evitar subjetividades e avaliar apenas fatores objetivos, como simetria do rosto e marcas de expressão.
Dos 44 vencedores, quase todos são brancos, alguns são asiáticos, mas apenas uma é negra.O resultado levantou o debate sobre os limites da inteligência artificial. O problema da análise foi que três dos cinco algoritmos que fizeram a seleção usam a tecnologia conhecida como “aprendizado de máquina”.
Os robôs são “treinados” com bases de dados preexistentes para aprenderem padrões. E essas bases estão recheadas com preconceitos humanos. Traduzindo, o problema aconteceu porque a grande maioria dos participantes — aproximadamente 75% — eram europeus e brancos. Apenas 7% eram da Índia e 1%, do continente africano.