O Google Photos apareceu no final de maio com vários atrativos, entre eles, a capacidade de reconhecer o contexto das imagens para categorizá-las. Todo mundo sabe que tecnologias do tipo (ainda) não são perfeitas, mesmo assim, ninguém esperava que a função fosse colocar o Google em uma saia justa: o serviço acabou marcando duas pessoas como gorilas.

google-photos

A falha foi notada por Jacky Alciné, um programador que vive em Nova York. Ao conferir suas fotos no Google Photos, ele percebeu que imagens que o mostravam com uma amiga foram etiquetadas automaticamente pelo serviço como “Gorillas”.

Imediatamente, Alciné manifestou a sua indignação no Twitter. Nos tweets subsequentes, o programador deixou claro que entendeu que o problema foi causado por uma falha (afinal, ele trabalha com desenvolvimento), mas questionou que tipos de imagens o sistema do Google estaria usando como parâmetro de comparação para cair no erro. “Isso poderia ter sido evitado com classificação mais precisa e completa de pessoas negras, especialmente indivíduos com tons de pele mais escuros como eu e a minha amiga”, acrescentou.

O caso, é claro, ganhou repercussão rapidamente. Como é de se esperar, algumas pessoas tentaram levantar um debate racial, afirmando, por exemplo, que esse tipo de problema não acontece com pessoas brancas.

Cerca de uma hora e meia depois do primeiro tweet, o arquiteto chefe do Google+ Yonatan Zunger se desculpou pela falha e pediu autorização a Alciné para uma análise aprofundada de sua conta com o intuito de investigar as causas.

Sobre a discussão levantada, Zunger respondeu que a aprendizagem dos sistemas de inteligência artificial é difícil, explicando na sequência que o Google Photos já cometeu erros com pessoas de pele clara, marcando-as como cães e focas, por exemplo.

A tag “Gorillas” foi removida do banco de dados do Google Photos. Mas o Google sabe que isso não basta. “Há claramente muito trabalho a ser feito com rotulagem automática de imagens e nós estamos estudando como podemos evitar esse tipo de erro no futuro”, disse um porta-voz da companhia.

Com informações: Ars Technica, Yahoo Tech

Comentários

Envie uma pergunta

Os mais notáveis

Comentários com a maior pontuação

McLordSupremoDoFastFood
nesse caso acho que ele quis se referir em algo como "humor com o negro". Mas uma coisa tenho que concordar... Erros de softwares são comuns em qualquer lugar... as pessoas estão ficando chatas a toa.
edw
Ele é programador de quê? Programa a hora do recreio? Faz programa ? Programa passeios? Se fosse mesmo da área saberia que o serviço cataloga por semelhança.
Carlos Santos
Eu nunca vi um gorila branco, logo á mais plausivel que sejam marcados nos negros. Não é nada de racismo, é uma questão de calculos matematicos feitos por computadores, só quem não entende isso pode ser chamado de burro!
Bruno Pinho
Parece demais...
jairo
Por enquanto sem não conformidade com o app.
Vitor
hdfaufhçsnahgliasghlasurbhskgbslugfbahslkfugbsdugibhlkbfgiluahfgliubsgkj rindo até a eternidade aushaushduahsudhabksudhaskudfghsduahsud,ahkdh
Vitor
piadas racistas são de humor negro, mas nem todas piadas de humor negro são racistas, para quem não sabe ;) (pode não ser seu caso, mas é bom espalhar conhecimento pelo mundo)
Marcio Flosi
pois é...
Vitor Mikaelson
Fiz um teste no OneDrive >.<
Arthur Dubeux
Americanos e seu auto nível de racismo...
Arthur Dubeux
HAUEHEUHUHEEAAEH
Marcio Flosi
Sempre que eu busco por cão ou cachorro nas minhas fotos aparece como resultado as fotos da minha filha -.-'
Arthur Dubeux
Me lembrou disso:
Luzinaldo Severino
Sempre Usei o Google photos e não tenho Problemas com ele. https://drive.google.com/file/d/0BzvkVBkUjLAYdXI4UUhULURhaWc/view?usp=sharing
Bruno Bastos
Lembrei de um amigo meu, negro, que tinha um notebook Lenovo com a recente tecnologia Veriface (que desbloqueia a tela através da câmera verificando o mapeamento do rosto). Quando ele estava em um ambiente um pouco mais escuro a câmera não detectava ele, mas pessoas de pele clara detectava normalmente. Solução? Ele desativou o recurso porque era chato pra cacete e demorado (o recurso, não o meu amigo). Era mais fácil digitar a senha no teclado mesmo. Claro que rolou piadas de humor negro (dsclp!) com essa situação.
Exibir mais comentários