Especialistas em privacidade soaram alarmes para o reconhecimento facial há anos. Originalmente, havia preocupações de que entrar em aeroportos e em parques públicos significaria ser escaneado e ligado a bancos de dados criminais secretos. Esses medos evoluíram desde então, e agora o reconhecimento facial é um alicerce da tecnologia preditiva. Em breve, suas chances de se tornar um terrorista ou de desenvolver uma doença rara poderiam ser determinadas a partir de seu rosto. E a nossa próxima tecnologia de reconhecimento facial sempre presente poderá também ser usada para prever a sexualidade — com precisão ou não —, levantando preocupações para pessoas queer em países em que a anonimidade é essencial para a sobrevivência.

Pesquisadores de Stanford alegam ter usado um software de reconhecimento facial treinado em fotos de perfis de paquera para identificar com precisão a sexualidade das pessoas. Os pesquisadores Michal Kosinski e Yilun Wang treinaram o software utilizando 35.326 fotos de 14.776 pessoas. Os participantes (que não foram contatados para o estudo, mas que têm perfis públicos) foram colocados em quatro categorias iguais auto-declaradas: mulheres gays, homens gays, mulheres heterossexuais e homens heterossexuais.

A Economist resume assim os resultados:

Quando exposto a fotos de um homem gay e de um homem heterossexual, escolhidas aleatoriamente, o modelo distinguiu as imagens corretamente em 81% dos casos. Quando lhe foram mostradas cinco fotos de cada homem, ele atribuiu a sexualidade corretamente em 91% do tempo. O modelo se saiu pior com mulheres, diferenciando as gays das heterossexuais com 71% de precisão depois de olhar para uma foto, e com 83% depois de cinco fotos. Em ambos os casos, o nível de desempenho supera de longe a capacidade humana de fazer essa distinção. Usando as mesmas imagens, as pessoas conseguiram diferenciar gays e heterossexuais em 61% do tempo para os homens e em 54% para as mulheres. Isso se alinha com pesquisas que sugerem que os humanos podem determinar a sexualidade a partir de rostos só por acaso.

Uma precisão de 91% em adivinhar a sexualidade é surpreendente, mesmo se isso só for possível em condições ideais. A principal coisa a se tirar disso, no entanto, é que o software, de forma confiável, superou os humanos em até 30%. Ou seja, a análise da inteligência artificial, baseada em memorização de padrões, parece ser muito mais afiada do que qualquer alquimia que os humanos usem para intuir a sexualidade de uma pessoa de relance.

O Dr. Kosinski deixa claro à Economist que ele não criou nenhuma ferramenta de software para isso, mas, sim, apenas juntou tecnologias já existentes. Aliás, existe precedentes independentes para esses conceitos, mas eles não foram colocados juntos. O Facebook já usa reconhecimento facial ao sugerir marcar amigos em fotos e, além disso, a rede social analisa o comportamento dos usuários para determinar sua sexualidade, mesmo que você não conte a ela explicitamente. O Google pode facilmente fazer o mesmo ao usar histórico de buscas, para determinar que sugestões e anúncios mostrar.

Isso sugere que o estudo pode ser replicado, uma questão não apenas de privacidade, mas também de vida ou morte em lugares em que a homossexualidade é proibida. Na Chechênia, por exemplo, homens gays são presos e forçados a revelar os nomes de outros homens gays. O Dr. Kosinski reconhece que mesmo um estudo de prova de conceito pode ser perigoso, embora seja importante mostrar o que a inteligência artificial e o reconhecimento facial são capazes de fazer. É essencial estar ciente do que aqueles no poder poderiam fazer com a tecnologia de reconhecimento facial.

O recurso de marcar seus amigos do Facebook usa reconhecimento facial

Amplamente, o reconhecimento facial funciona ao medir os rostos das pessoas, atribuindo-lhes uma “impressão facial”. Nesse estudo em particular, o software viu as impressões faciais de homens e mulheres que se identificaram como gays ou heterossexuais. Ele encontrou padrões e então, ao ver imagens que nunca tinha visto, buscou esses padrões e categorizou as pessoas de acordo.

Como esses são perfis de sites de namoro, é claro que todas as pessoas queer são presumivelmente abertas sobre sua sexualidade. E isso faz uma diferença em seus visuais, especialmente porque parecer mais masculino ou feminino afeta suas chances de paquera. E como essas categorias são auto-declaradas, é também completamente possível que nem todas as pessoas marcadas como “heterossexuais” sejam exclusivamente heterossexuais.

Se uma nação hostil a pessoas queer quisesse recriar uma tecnologia parecida, ela primeiro precisaria treinar uma inteligência artificial em fotos localizadas de pessoas queer. Isso seria difícil, mas não impossível, de descobrir, caso esse país proíba a homossexualidade e apenas algumas pessoas sejam abertas sobre sua sexualidade, possibilitando então o escaneamento de suas fotos.

Esse estudo em particular também foi conduzido nos Estados Unidos, com um tamanho de amostra limitado; a taxa de precisão poderia mudar significativamente com um conjunto diferente de pessoas localizadas em algum outro canto do planeta.

Também existem limitações técnicas. Um teste de acompanhamento foi recalibrado para refletir com maior precisão a proporção de homens gays para homens heterossexuais. O software viu fotos de mil homens, dos quais menos de 100 se identificavam como gays no site. A precisão do software nesse caso caiu: apenas 47 dos 100 homens que a tecnologia identificou como gays de fato se identificavam assim.