news:

Ciência & Tecnologia

Twitter é acusado de racismo após ferramenta priorizar pessoas brancas

Publicado por TV Minas em 21/09/2020 às 22h04

foto_principal.jpg

Usuários apontam que a rede social sempre escolhe pessoas brancas ao selecionar a porção de destaque em uma foto comprida demais e que precisa ser cortada para encaixar no post.

 

O Twitter vem sendo acusado de racismo por conta de sua ferramenta inteligente de corte de fotos. Desde o último sábado (19), usuários apontam que a rede social sempre escolhe pessoas brancas ao selecionar a porção de destaque em uma foto comprida demais e que precisa ser cortada para encaixar no post.

 

Tweets que tomaram conta da plataforma mostram que, independentemente da quantidade de rostos de pessoas negras, o rosto branco costuma ser selecionado pela inteligência artificial. A origem da falha estaria no algoritmo do microblog, responsável por reconhecer e dar preferência para o destaque da imagem que aparece no feed.

 

O TechTudo entrou em contato com a assessoria do Twitter no Brasil, que retornou com uma nota publicada no perfil da empresa.

 

A companhia diz que a origem da falha ainda não está clara e que segue fazendo análises para entender o problema.

 

Além disso, o chefe de design do Twitter, Dantley Davis, ao ser questionado por um internauta, admitiu a culpa, disse que a rede social está investigando o erro e prometeu solucionar o problema. “É 100% nossa culpa. Ninguém deve dizer o contrário. Agora, a próxima etapa é consertá-lo.”

 

A polêmica veio à tona após uma discussão sobre a ferramenta de remoção de fundo do Zoom, que seria falha para identificar pessoas negras.

 

Em dado momento, um usuário reparou que, ao publicar duas imagens lado a lado no Twitter contendo duas pessoas cada, uma branca e uma negra, o microblog sempre dava preferência para o rosto branco independentemente do posicionamento das fotos.

 

Vale ressaltar que a ferramenta de corte inteligente do Twitter faz um recorte automático na prévia da foto. Assim, o usuário vê apenas uma parte da imagem na miniatura do post e precisa clicar nela para visualizar a foto completa. O recurso existe desde janeiro de 2018 e utiliza aprendizado de máquina.

 

O caso ganhou repercussão principalmente após uma postagem de um ex-engenheiro da Square, empresa chefiada por Jack Dorsey, que também é o CEO do Twitter.

 

Ele notou que o ex-presidente dos EUA, Barack Obama, era sempre ocultado no recorte quando a imagem trazia também o rosto do senador Mitch McConnell, que é branco. Até as 13h desta segunda-feira (21), a publicação já acumulava 192 mil curtidas e 61,9 mil retweets.

 

Alguns usuários também testaram a ferramenta com personagens de desenhos e até mesmo animais, mas em ambos os casos o Twitter continuou a dar destaque para os brancos.

 

 

Viés de Inteligência Artificial


O caso é apontado como mais um exemplo de viés na programação de inteligência artificial. Desse modo, o problema na ferramenta de corte do Twitter estaria ligado ao treinamento do algoritmo.

 

Especialistas apontam que o banco de dados utilizado para o procedimento pode enviesar os julgamentos da máquina, causando situações como a da ferramenta de corte.

 

Uma inteligência artificial feita para identificar rostos, por exemplo, examina um banco de milhões de fotos para descobrir padrões.

 

Dessa maneira, um algoritmo de machine learning treinado principalmente com rostos brancos evoluiria a ponto de considerar que brancos são o padrão do rosto humano. No entanto, ainda não está claro se esse é o motivo real por trás do “bug”.

 

 

Usuários apontam que a rede social sempre escolhe pessoas brancas ao selecionar a porção de destaque em uma foto comprida demais e que precisa ser cortada para encaixar no post.


 


O Twitter vem sendo acusado de racismo por conta de sua ferramenta inteligente de corte de fotos. Desde o último sábado (19), usuários apontam que a rede social sempre escolhe pessoas brancas ao selecionar a porção de destaque em uma foto comprida demais e que precisa ser cortada para encaixar no post.


 


Tweets que tomaram conta da plataforma mostram que, independentemente da quantidade de rostos de pessoas negras, o rosto branco costuma ser selecionado pela inteligência artificial. A origem da falha estaria no algoritmo do microblog, responsável por reconhecer e dar preferência para o destaque da imagem que aparece no feed.


 


O TechTudo entrou em contato com a assessoria do Twitter no Brasil, que retornou com uma nota publicada no perfil da empresa.


 


A companhia diz que a origem da falha ainda não está clara e que segue fazendo análises para entender o problema.


 


Além disso, o chefe de design do Twitter, Dantley Davis, ao ser questionado por um internauta, admitiu a culpa, disse que a rede social está investigando o erro e prometeu solucionar o problema. “É 100% nossa culpa. Ninguém deve dizer o contrário. Agora, a próxima etapa é consertá-lo.”


 


A polêmica veio à tona após uma discussão sobre a ferramenta de remoção de fundo do Zoom, que seria falha para identificar pessoas negras.


 


Em dado momento, um usuário reparou que, ao publicar duas imagens lado a lado no Twitter contendo duas pessoas cada, uma branca e uma negra, o microblog sempre dava preferência para o rosto branco independentemente do posicionamento das fotos.


 


Vale ressaltar que a ferramenta de corte inteligente do Twitter faz um recorte automático na prévia da foto. Assim, o usuário vê apenas uma parte da imagem na miniatura do post e precisa clicar nela para visualizar a foto completa. O recurso existe desde janeiro de 2018 e utiliza aprendizado de máquina.


 


PATROCINADORES

O caso ganhou repercussão principalmente após uma postagem de um ex-engenheiro da Square, empresa chefiada por Jack Dorsey, que também é o CEO do Twitter.


 


Ele notou que o ex-presidente dos EUA, Barack Obama, era sempre ocultado no recorte quando a imagem trazia também o rosto do senador Mitch McConnell, que é branco. Até as 13h desta segunda-feira (21), a publicação já acumulava 192 mil curtidas e 61,9 mil retweets.


 


Alguns usuários também testaram a ferramenta com personagens de desenhos e até mesmo animais, mas em ambos os casos o Twitter continuou a dar destaque para os brancos.


 


 


Viés de Inteligência Artificial



O caso é apontado como mais um exemplo de viés na programação de inteligência artificial. Desse modo, o problema na ferramenta de corte do Twitter estaria ligado ao treinamento do algoritmo.


 


Especialistas apontam que o banco de dados utilizado para o procedimento pode enviesar os julgamentos da máquina, causando situações como a da ferramenta de corte.


 


Uma inteligência artificial feita para identificar rostos, por exemplo, examina um banco de milhões de fotos para descobrir padrões.


 


Dessa maneira, um algoritmo de machine learning treinado principalmente com rostos brancos evoluiria a ponto de considerar que brancos são o padrão do rosto humano. No entanto, ainda não está claro se esse é o motivo real por trás do “bug”.


 


 



Usuários apontam que a rede social sempre escolhe pessoas brancas ao selecionar a porção de destaque em uma foto comprida demais e que precisa ser cortada para encaixar no post.



O Twitter vem sendo acusado de racismo por conta de sua ferramenta inteligente de corte de fotos. Desde o último sábado (19), usuários apontam que a rede social sempre escolhe pessoas brancas ao selecionar a porção de destaque em uma foto comprida demais e que precisa ser cortada para encaixar no post.



Tweets que tomaram conta da plataforma mostram que, independentemente da quantidade de rostos de pessoas negras, o rosto branco costuma ser selecionado pela inteligência artificial. A origem da falha estaria no algoritmo do microblog, responsável por reconhecer e dar preferência para o destaque da imagem que aparece no feed.



O TechTudo entrou em contato com a assessoria do Twitter no Brasil, que retornou com uma nota publicada no perfil da empresa.



A companhia diz que a origem da falha ainda não está clara e que segue fazendo análises para entender o problema.



Além disso, o chefe de design do Twitter, Dantley Davis, ao ser questionado por um internauta, admitiu a culpa, disse que a rede social está investigando o erro e prometeu solucionar o problema. “É 100% nossa culpa. Ninguém deve dizer o contrário. Agora, a próxima etapa é consertá-lo.”



PATROCINADORES

A polêmica veio à tona após uma discussão sobre a ferramenta de remoção de fundo do Zoom, que seria falha para identificar pessoas negras.



Em dado momento, um usuário reparou que, ao publicar duas imagens lado a lado no Twitter contendo duas pessoas cada, uma branca e uma negra, o microblog sempre dava preferência para o rosto branco independentemente do posicionamento das fotos.



Vale ressaltar que a ferramenta de corte inteligente do Twitter faz um recorte automático na prévia da foto. Assim, o usuário vê apenas uma parte da imagem na miniatura do post e precisa clicar nela para visualizar a foto completa. O recurso existe desde janeiro de 2018 e utiliza aprendizado de máquina.



O caso ganhou repercussão principalmente após uma postagem de um ex-engenheiro da Square, empresa chefiada por Jack Dorsey, que também é o CEO do Twitter.



Ele notou que o ex-presidente dos EUA, Barack Obama, era sempre ocultado no recorte quando a imagem trazia também o rosto do senador Mitch McConnell, que é branco. Até as 13h desta segunda-feira (21), a publicação já acumulava 192 mil curtidas e 61,9 mil retweets.



Alguns usuários também testaram a ferramenta com personagens de desenhos e até mesmo animais, mas em ambos os casos o Twitter continuou a dar destaque para os brancos.



PATROCINADORES

Viés de Inteligência Artificial




O caso é apontado como mais um exemplo de viés na programação de inteligência artificial. Desse modo, o problema na ferramenta de corte do Twitter estaria ligado ao treinamento do algoritmo.



Especialistas apontam que o banco de dados utilizado para o procedimento pode enviesar os julgamentos da máquina, causando situações como a da ferramenta de corte.



Uma inteligência artificial feita para identificar rostos, por exemplo, examina um banco de milhões de fotos para descobrir padrões.



Dessa maneira, um algoritmo de machine learning treinado principalmente com rostos brancos evoluiria a ponto de considerar que brancos são o padrão do rosto humano. No entanto, ainda não está claro se esse é o motivo real por trás do “bug”.





Veja Também