Especialistas em privacidade soaram alarmes para o reconhecimento
facial há anos. Originalmente, havia preocupações de que entrar em
aeroportos e em parques públicos
significaria ser escaneado e ligado a bancos de dados criminais
secretos. Esses medos evoluíram desde então, e agora o reconhecimento
facial é um alicerce da tecnologia preditiva. Em breve, suas chances de se tornar um terrorista ou de desenvolver uma doença rara
poderiam ser determinadas a partir de seu rosto. E a nossa próxima
tecnologia de reconhecimento facial sempre presente poderá também ser
usada para prever a sexualidade — com precisão ou não —, levantando
preocupações para pessoas queer em países em que a anonimidade é essencial para a sobrevivência.
Pesquisadores de Stanford alegam ter usado um software de reconhecimento facial treinado em fotos de perfis de paquera
para identificar com precisão a sexualidade das pessoas. Os
pesquisadores Michal Kosinski e Yilun Wang treinaram o software
utilizando 35.326 fotos de 14.776 pessoas. Os participantes (que não
foram contatados para o estudo, mas que têm perfis públicos) foram
colocados em quatro categorias iguais auto-declaradas: mulheres gays,
homens gays, mulheres heterossexuais e homens heterossexuais.
A Economist resume assim os resultados:
Quando exposto a fotos de um homem gay e de um homem
heterossexual, escolhidas aleatoriamente, o modelo distinguiu as imagens
corretamente em 81% dos casos. Quando lhe foram mostradas cinco fotos
de cada homem, ele atribuiu a sexualidade corretamente em 91% do tempo. O
modelo se saiu pior com mulheres, diferenciando as gays das
heterossexuais com 71% de precisão depois de olhar para uma foto, e com
83% depois de cinco fotos. Em ambos os casos, o nível de desempenho
supera de longe a capacidade humana de fazer essa distinção. Usando as
mesmas imagens, as pessoas conseguiram diferenciar gays e heterossexuais
em 61% do tempo para os homens e em 54% para as mulheres. Isso se
alinha com pesquisas que sugerem que os humanos podem determinar a
sexualidade a partir de rostos só por acaso.
Uma precisão de 91% em adivinhar a sexualidade é surpreendente, mesmo
se isso só for possível em condições ideais. A principal coisa a se
tirar disso, no entanto, é que o software, de forma confiável, superou
os humanos em até 30%. Ou seja, a análise da inteligência artificial,
baseada em memorização de padrões, parece ser muito mais afiada do que
qualquer alquimia que os humanos usem para intuir a sexualidade de uma
pessoa de relance.
O Dr. Kosinski deixa claro à Economist que ele não criou
nenhuma ferramenta de software para isso, mas, sim, apenas juntou
tecnologias já existentes. Aliás, existe precedentes independentes para
esses conceitos, mas eles não foram colocados juntos. O Facebook já usa
reconhecimento facial ao sugerir marcar amigos em fotos e, além disso, a
rede social analisa o comportamento dos usuários para determinar sua sexualidade, mesmo que você não conte a ela explicitamente. O Google pode facilmente fazer o mesmo ao usar histórico de buscas, para determinar que sugestões e anúncios mostrar.
Isso sugere que o estudo pode ser replicado, uma questão não apenas
de privacidade, mas também de vida ou morte em lugares em que a homossexualidade é proibida. Na Chechênia, por exemplo, homens gays são presos e
forçados a revelar os nomes de outros homens gays. O Dr. Kosinski
reconhece que mesmo um estudo de prova de conceito pode ser perigoso,
embora seja importante mostrar o que a inteligência artificial e o
reconhecimento facial são capazes de fazer. É essencial estar ciente do
que aqueles no poder poderiam fazer com a tecnologia de reconhecimento
facial.

O recurso de marcar seus amigos do Facebook usa reconhecimento facial
Amplamente, o reconhecimento facial funciona ao medir os rostos das
pessoas, atribuindo-lhes uma “impressão facial”. Nesse estudo em
particular, o software viu as impressões faciais de homens e mulheres
que se identificaram como gays ou heterossexuais. Ele encontrou padrões e
então, ao ver imagens que nunca tinha visto, buscou esses padrões e
categorizou as pessoas de acordo.
Como esses são perfis de sites de namoro, é claro que todas as pessoas queer
são presumivelmente abertas sobre sua sexualidade. E isso faz uma
diferença em seus visuais, especialmente porque parecer mais masculino
ou feminino afeta suas chances de paquera. E como essas categorias são
auto-declaradas, é também completamente possível que nem todas as
pessoas marcadas como “heterossexuais” sejam exclusivamente
heterossexuais.
Se uma nação hostil a pessoas queer quisesse recriar uma
tecnologia parecida, ela primeiro precisaria treinar uma inteligência
artificial em fotos localizadas de pessoas queer. Isso seria
difícil, mas não impossível, de descobrir, caso esse país proíba a
homossexualidade e apenas algumas pessoas sejam abertas sobre sua
sexualidade, possibilitando então o escaneamento de suas fotos.
Esse estudo em particular também foi conduzido nos Estados Unidos,
com um tamanho de amostra limitado; a taxa de precisão poderia mudar
significativamente com um conjunto diferente de pessoas localizadas em
algum outro canto do planeta.
Também existem limitações técnicas. Um teste de acompanhamento foi
recalibrado para refletir com maior precisão a proporção de homens gays
para homens heterossexuais. O software viu fotos de mil homens, dos
quais menos de 100 se identificavam como gays no site. A precisão do
software nesse caso caiu: apenas 47 dos 100 homens que a tecnologia
identificou como gays de fato se identificavam assim.
Enquanto o reconhecimento facial se torna padrão em espaços públicos,
ainda estamos descobrindo maneiras de usá-lo equivocadamente contra
membros vulneráveis da sociedade. Para as pessoas queer especificamente, essa vigilância distópica que nasce agora parece familiar demais.
Fonte: Gizmodo