O reconhecimento facial ainda gera grande polêmica

Por Kashmir Hill
New York Times

A tecnologia de reconhecimento facial, mesmo para fins policiais, em busca de criminosos, ainda causa grande polêmica. Quando uma start-up secreta testou os limites legais e éticos — ao vasculhar a Internet para construir uma ferramenta de reconhecimento facial, ela mostrou um pouco do futuro da privacidade na América.
Em maio de 2019, um agente do Departamento de Segurança Interna recebeu uma coleção de imagens perturbadoras. As fotos, encontradas pelo Yahoo na conta de um usuário sírio, pareciam documentar o abuso sexual de uma jovem. Mostravam um homem com a cabeça reclinada sobre um travesseiro, olhando diretamente para a câmera.

O homem parecia ser branco, com cabelos castanhos e cavanhaque, mas era difícil identificá-lo; a foto estava granulada, o ângulo um pouco oblíquo. O agente enviou o rosto do homem a investigadores de crimes contra crianças de todo o país na esperança de que alguém o reconhecesse.

Quando um pesquisador de Nova York viu o pedido, decidiu examinar o rosto através de um novo aplicativo de reconhecimento facial incomum, a Clearview, baseado em Inteligência Artificial (IA), que tinha começado a usar.

A equipe de apoio vasculhou a internet pública — que incluía a mídia social, os sites de empregos, o YouTube e o Venmo — criou um banco de dados com três bilhões de imagens de pessoas, junto com links para as páginas de onde as fotos vieram. Isso confundiu os bancos de dados de outros produtos para aplicação da lei, que se baseavam apenas em fotografias oficiais, como fotos de policiais, carteiras de motorista e fotos de passaporte.

O sucesso do Clearview

Com a Clearview, foi fácil passar de um rosto para uma conta do Facebook. O aplicativo se transformou em um sucesso estranho: uma foto no Instagram de um homem asiático fortemente musculoso e uma modelo de fitness feminina, posando em um tapete vermelho em uma exposição de fisioculturismo em Las Vegas, comprovou que o suspeito não era asiático nem mulher.

Mas, olhando mais de perto, você podia ver um homem branco ao fundo, na borda da moldura da foto, em pé, atrás do balcão de uma cabine de uma empresa de suplementos de treino. Esse foi o ponto de partida. No Instagram, seu rosto parecia ter a metade do tamanho da sua unha. O agente federal ficou pasmo.

O agente contatou a empresa de suplementos alimentares e obteve o nome do modelo: Andrés Rafael Viola, que revelou ser um cidadão argentino residente em Las Vegas. Outro pesquisador encontrou a conta de Viola no Facebook. Seu perfil era público. Navegando nele, o pesquisador encontrou fotos de um quarto que correspondiam a uma das imagens, bem como fotos da vítima, uma criança de 7 anos.

Policiais prenderam Viola em junho de 2019. Mais tarde, ele se confessou culpado de agredir sexualmente uma criança e produzir imagens do abuso e foi condenado a 35 anos de prisão. (O advogado de Viola não respondeu a vários pedidos de comentário.)

Na época, o uso da Clearview no caso de Viola não foi divulgado. Só recentemente um pesquisador voltou a divulgá-lo a partir de documentos judiciais, entrevistas com policiais e uma apresentação promocional em PowerPoint feita pela Clearview.

O caso representou o primeiro uso dessa tecnologia em um episódio de exploração infantil pela Homeland Security Investigations, ou HSI, que é o braço investigativo da ICE (Immigrations and Customs Enforcement). Esses crimes são da responsabilidade da agência porque, antes da Internet, muito material de abuso estava sendo enviado pelo correio internacionalmente.

“Foi uma primeira incursão interessante em nossa experiência com o uso da Clearview”, disse Erin Burke, chefe da Unidade de Investigações de Exploração Infantil do HSI. “De qualquer outro jeito teríamos encontrado aquele cara.”

Poucos especialistas, fora do âmbito de aplicação da lei, sabiam da existência da Clearview naquela época. O relativo sigilo foi intencional: o governo muitas vezes evita denunciar supostos criminosos com técnicas investigativas de ponta, e os fundadores da Clearview se preocupavam com a reação ao seu produto.

Ajudar a identificar abusadores sexuais era claramente uma causa digna, mas o método da empresa para fazer isso — repassando fotos pessoais de milhões de americanos — era um caminho chocante e sem precedentes. De fato, quando o público descobriu a Clearview no ano passado, em um artigo no New York Times, seguiu-se uma reação imensa.

Facebook, LinkedIn, Venmo e Google enviaram cartas em que pediam à empresa que cessasse e desistisse, não apenas acusando-a de violar seus termos de serviço, mas exigindo, sem sucesso, que ela deixasse de usar suas fotos.

O BuzzFeed publicou uma lista vazada de usuários da Clearview, que incluía não apenas a aplicação da lei, mas também grandes organizações privadas, incluindo o Bank of America e a NBA (cada um diz que apenas testou a tecnologia e nunca foi um cliente).

Descobri que a empresa havia feito o aplicativo disponível para investidores, potenciais investidores e parceiros de negócios, incluindo um bilionário que o usou para identificar o par de sua filha quando o casal inesperadamente entrou em um restaurante onde ele estava jantando.

Antigamente, os computadores realizavam o reconhecimento facial de forma bastante imprecisa, identificando as características faciais das pessoas e medindo as distâncias entre elas — um método rudimentar que não resultava em correspondências confiáveis. Mas, recentemente, a tecnologia melhorou significativamente, devido aos avanços na inteligência artificial.

O software de IA pode analisar inúmeras fotos do rosto das pessoas e aprender a fazer previsões impressionantes sobre quais imagens pertencem à mesma pessoa. Quanto mais rostos o software inspeciona, melhor ele fica. O Clearview está sendo implantado com essa abordagem e seu uso já envolve bilhões de fotos da Internet pública. Ao testar os limites legais e éticos em torno da coleta e uso dessas imagens, ela se tornou a pioneira no campo.

O direito de ser excluído

Depois que as atividades da Clearview vieram à tona, o senador Ed Markey, de Massachusetts, escreveu à empresa pedindo que revelasse seus clientes policiais e fornecesse aos americanos uma maneira de se excluírem do banco de dados do Clearview.

Funcionários públicos dos governos do Canadá, Grã-Bretanha, Austrália e União Europeia investigaram a empresa. Houve proibições ao uso de reconhecimento facial pela polícia em diversas partes dos Estados Unidos, incluindo Boston e Minneapolis, e as assembleias legislativas estaduais impuseram restrições a isso. Os legisladores de Washington e Massachusetts exigiram que um juiz deve assinar a autorização antes que a polícia faça uma busca.

Em Illinois e no Texas, as empresas já precisavam obter o consentimento dos residentes para usar sua “impressão facial”, o padrão único de seu rosto, e após as revelações da Clearview, os senadores Bernie Sanders e Jeff Merkley propuseram uma versão da lei de Illinois para todo o país.

A proteção legal de nossos dados

A Califórnia tem uma lei de privacidade que dá aos cidadãos controle sobre como seus dados são usados, e alguns dos residentes do Estado invocaram essa cláusula para fazer com que a Clearview parasse de usar suas fotos. (Em março, os ativistas da Califórnia entraram com um processo no tribunal estadual.)

Talvez o mais significativo eram de 10 reclamações de ação coletiva movidas contra a Clearview nos Estados Unidos, por invasão de privacidade, junto com ações judiciais do procurador-geral de Vermont e da American Civil Liberties Union (ACLU). “Esta é uma empresa que utilizou todos os seus recursos e habilidades possíveis na tentativa de ser a primeira com este modelo de negócio,” disse Nathan Freed Wessler.

Parecia inteiramente possível que a Clearview AI seria processada, submetida aos rigores da lei ou extinta pela vergonha perante o público. Mas isso não aconteceu. Sem nenhuma lei federal que proibisse ou mesmo regulasse o uso de reconhecimento facial, a Clearview não mudou, na maior parte, suas práticas. Nem implodiu. Enquanto fechava contas de empresas privadas, continuou a adquirir clientes do governo.

A ferramenta de vendas mais eficaz da Clearview, a princípio, era um teste gratuito oferecido a qualquer pessoa com um endereço de e-mail afiliado às autoridades policiais, junto com um preço muito baixo: você podia acessar a Clearview AI por apenas US$ 2.000 por ano.

A maioria dos fornecedores comparáveis — cujos produtos não são tão extensos — cobrou valores de seis dígitos. Posteriormente, a empresa contratou um experiente diretor de vendas que aumentou o preço. “Nossa taxa de crescimento é louca”, disse Hoan Ton-That, presidente-executivo da Clearview.

A Clearview já arrecadou US$ 17 milhões e, de acordo com a PitchBook, está avaliada em quase US$ 109 milhões. Em janeiro de 2020, ele havia sido usado por pelo menos 600 agências de aplicação da lei; a empresa diz que agora é de até 3.100. O Exército e a Força Aérea são clientes.

O ICE assinou um acordo de 224.000 dólares em agosto. Erin Burke, da Unidade de Investigações de Exploração Infantil, disse que agora supervisiona a implantação da Clearview AI para uma variedade de investigações criminais no HSI, não apenas em casos de exploração infantil.

“Isso revolucionou a forma como somos capazes de identificar e resgatar crianças”, Burke me disse. “Isso só vai ficar melhor quanto mais imagens a Clearview for capaz de rastrear.”

As ameaças legais à Clearview começaram a se mover pelos tribunais, e a empresa está preparando uma resposta poderosa, invocando a Primeira Emenda (da Constituição Americana). Muitos defensores das liberdades civis temem que a empresa prevaleça e estão horrorizados com as consequências potenciais.

Uma grande preocupação é que a tecnologia de reconhecimento facial pode ser muito falha para a aplicação da lei. Uma agência federal, o Instituto Nacional de Padrões e Tecnologia (NIST), testa periodicamente a precisão dos algoritmos de reconhecimento facial enviados voluntariamente pelos fornecedores. Clearview não participou.

Em 2019, a agência descobriu que muitos algoritmos eram menos precisos na identificação de pessoas de cor, o que significa que seu uso poderia piorar o preconceito sistêmico no sistema de justiça criminal. No ano passado, três casos foram descobertos (nenhum envolvendo Clearview) nos quais policiais prenderam a pessoa errada com base em uma má combinação de reconhecimento facial. Todos os três presos injustamente eram homens negros.

Há também um motivo mais amplo para os críticos temerem uma decisão do tribunal favorecendo a Clearview: ela pode permitir que as empresas nos rastreiem de forma tão difundida no mundo real quanto já fazem online.

A maioria de nós, membros de alguns grupos religiosos exceto e apesar da pandemia, sai por aí exibindo o rosto o tempo todo. Postamos selfies na internet. Descendo a rua, somos involuntariamente fotografados por câmeras de vigilância e — como aconteceu com Andrés Rafael Viola — por estranhos que inadvertidamente fazemos uma foto-bomba. Até recentemente, não tínhamos motivos para pensar profundamente sobre o fato de que cada um de nossos rostos é tão único quanto uma impressão digital ou um número do Seguro Social.

Uma revolução silenciosa

Nos bastidores, porém, uma revolução silenciosa está em andamento para desvendar os segredos de nossas impressões faciais. Ela foi impulsionada por um enorme influxo de conhecimento especializado em IA no Vale do Silício nas últimas décadas, grande parte dela extraído dos departamentos de ciência da computação de universidades de elite.

Esses especialistas foram colocados para trabalhar em uma série de projetos de longo prazo, incluindo tradução de idiomas e carros autônomos, e uma área de pesquisa particularmente intensa é o reconhecimento facial.

Em 2010, esse esforço estava avançado o suficiente para que o Facebook introduzisse um recurso chamado “sugestões de tags” que sugeria os nomes de amigos que apareciam em fotos enviadas para sua plataforma.

Recursos semelhantes começaram a proliferar na tecnologia de consumo: você pode desbloquear seu smartphone olhando para ele e, em seguida, classificar todas as fotos no dispositivo por rosto. A câmera Nest do Google poderia dizer qual vizinho estava na porta.

Com o avanço da tecnologia, os formuladores de políticas não acompanharam. Na ausência de regulamentações robustas, a única coisa que impedia empresas como o Facebook e o Google de ir além dos recursos básicos aos quais nos acostumamos era sua própria restrição.

O uso de reconhecimento facial para identificar estranhos geralmente era visto como um tabu, uma perigosa superpotência tecnológica para a qual o mundo não estava preparado. Pode ajudar um idiota a identificá-lo em um bar ou permitir que um estranho escute uma conversa delicada e saiba a identidade de quem está falando. Isso poderia galvanizar inúmeras campanhas de nome e vergonha, permitir que a polícia identificasse os manifestantes e geralmente eliminaria o conforto que vem de ser anônimo enquanto você se move pelo mundo.

Empresas como o Facebook e o Google proíbem o “scraping” ou a cópia automática de dados de seus sites, em seus termos de serviço. Ainda assim, ao encorajar bilhões de pessoas a postar fotos de si mesmas online ao lado de seus nomes, as empresas de tecnologia forneceram os ingredientes para que um produto desse tipo tivesse sucesso, caso alguém fosse audacioso o suficiente para violar o texto legal estereotipado das plataformas.

Em inteligência artificial, quanto mais dados você tem, melhor é, geralmente, o seu produto. Foi precisamente por causa da coleção ousada de imagens de plataformas populares da Clearview que ela conseguiu se tornar a líder do setor.

A principal lei federal que desencoraja a Clearview de fazer isso é a Lei de Fraude e Abuso de Computador, aprovada pelo Congresso em 1986, que proíbe o “acesso não autorizado” a um computador.

A lei tinha o objetivo de impedir o hackeamento, mas alguns promotores a interpretaram como uma proibição de violação dos termos de serviço de um site, inclusive por raspagem. Os executivos da Clearview, como muitos empresários que vieram antes deles, construíram uma empresa em torno da aposta de que as regras seriam dobradas com sucesso a seu favor.

A aposta deles foi parcialmente validada no segundo semestre de 2019, quando um juiz federal do Nono Circuito decidiu em um caso de alto perfil — que o LinkedIn abriu contra uma start-up que estava apagando os perfis de seus usuários — que exposição pública a cópia online automatizada de informações públicas disponíveis não violam a lei anti-hacking.

A Electronic Frontier Foundation (EFF), um grupo de defesa das liberdades civis, chamou a decisão de “uma grande vitória para pesquisa e inovação”, porque significava que jornalistas, acadêmicos e pesquisadores poderiam coletar, automaticamente e sem medo, informações de sites na internet.

Mas também foi um excelente precedente para a Clearview e seu crescente banco de dados de fotos publicamente disponíveis. (A EFF desde então pediu proteções federais para evitar a identificação biométrica, como o que a Clearview vende.)

O maior obstáculo legal remanescente para a empresa, na ausência de alguma ação repentina do Congresso, é o Biometric Information Privacy Act (BIPA) de Illinois, uma lei estadual de 2008 que oferece a mais forte proteção da legislação americana para o rosto das pessoas.

Autorização do cidadão é essencial

A lei diz que as entidades privadas devem receber o consentimento dos indivíduos para usar sua biometria — uma palavra chique para medições feitas do corpo humano — ou incorrer em multas de até US$ 5.000 por uso.

Em 2015, cinco anos após a introdução de sua marcação de fotos com base em reconhecimento facial, o Facebook foi atingido por uma ação coletiva em Illinois por violar a lei. Ele acertou o processo no ano passado por US$ 650 milhões.

A Clearview agora está lutando contra 11 processos no estado, incluindo o movido pela ACLU na Justiça estadual. Em resposta aos desafios, a Clearview removeu rapidamente todas as fotos que determinou serem de Illinois, com base nas informações geográficas incorporadas aos arquivos que retirou - mas se isso parecia na superfície uma capitulação, não era. Isso poderia galvanizar inúmeras campanhas de nome e vergonha, permitir que a polícia identificasse os manifestantes e geralmente eliminaria o conforto que vem do anonimato.

Quando comecei a reportar na Clearview AI em novembro de 2019, a empresa me evitou. Por mais de um mês, seus funcionários e investidores quase sempre ignoraram meus e-mails e telefonemas.

O site então esparso da Clearview listava o endereço de uma empresa a apenas alguns quarteirões de distância do Times Building em Midtown Manhattan, então eu fui bater em sua porta — apenas para descobrir que não havia nenhum prédio com aquele endereço. (A empresa mais tarde disse que era um erro de digitação.)

Tive problemas até mesmo para descobrir quem estava por trás da Clearview. Quando a empresa percebeu que eu não iria embora, contratou Lisa Linden, uma experiente especialista em comunicação de crises, para ajudar a lidar comigo.

Em janeiro de 2020, Linden me apresentou a Hoan Ton-That, presidente-executivo da Clearview, e nos encontramos e conversamos em um café com leite em um WeWork em Nova York. Ton-That e eu mantivemos contato.

Em março passado, depois que eu disse a Clearview que queria escrever sobre como a empresa estava lidando com os desafios, legais e outros, que surgiam, ele concordou em receber telefonemas meus a com intervalo de algumas semanas, sob a condição de que eu não escrevesse sobre eles até a publicação deste artigo. Em setembro, Linden me convidou para observar uma reunião entre Ton-That e um dos advogados mais talentosos do país, Floyd Abrams.

Abrams é um leão da lei da Primeira Emenda, conhecido por defender o direito do The New York Times de publicar os documentos do Pentágono há 50 anos. A Clearview o contratou, junto com um advogado de segurança nacional, Lee Wolosky, da Jenner & Block, para se defender nos processos de Illinois.

Por causa da pandemia, Abrams não passava muito tempo nos escritórios da Cahill Gordon & Reindel, o escritório de advocacia onde ele é advogado sênior. Então, em uma manhã de sexta-feira de verão, Ton-That se encontrou com ele no apartamento de Abrams na Quinta Avenida em Manhattan, onde os visitantes são recebidos por fotos de Abrams apertando a mão de Barack Obama e posando com Bill Clinton e George W. Bush.

Em seu escritório doméstico cheio de luz, Abrams sentou-se em uma poltrona baixa. A dois metros de distância, perto da janela, estava Linden, em um conjunto preto e máscara com estampa floral.

Ton-That chegou um minuto atrasado, vestido com uma jaqueta estampada e uma bandana vermelha funcionando como máscara. Alto, esguio e elegante, 32 anos, filho de mãe australiana, Ton -That afirma ser descendente de nobres da realeza vietnamita por parte de pai.

Com longos cabelos negros e boa aparência andrógina — entre masculino e feminino — ele considerou brevemente seguir a carreira de modelo. Ele colocou a bolsa cinza do laptop no chão e reclinou-se em uma cadeira que parecia pequena demais para seu corpo esguio. Ele parecia sereno, sem a ansiedade esperada de uma pessoa cuja empresa estava enfrentando uma crise existencial nos tribunais.

Abrams imediatamente abriu o processo da ACLU em Illinois. A ACLU disse que a Clearview violou a proibição de Illinois de usar impressões faciais de pessoas sem seu consentimento. Abrams e Ton-That estavam trabalhando em uma moção para encerrar o caso, argumentando que a proibição viola o direito constitucional de liberdade de expressão da empresa.

Deixar seu comentário

0
termos e condições.
  • Nenhum comentário encontrado

newsletter buton