‘Eu nunca tinha visto um ataque tão audacioso ao anonimato antes’: Clearview AI e a tecnologia assustadora que pode identificá-lo com uma única imagem
Neste trecho de “Your Face Belongs to Us” (Simon & Schuster, 2023), o jornalista Kashmir Hill relembra o surgimento da Clearview AI, a empresa de tecnologia de reconhecimento facial que irrompeu na consciência pública com seu inteligência artificial Software (IA) que supostamente poderia identificar praticamente qualquer pessoa com apenas uma foto do rosto.
Em novembro de 2019, eu tinha acabado de me tornar repórter do The New York Times quando recebi uma dica que parecia ultrajante demais para ser verdade: uma empresa misteriosa chamada Clearview AI afirmava que poderia identificar praticamente qualquer pessoa com base apenas em uma foto de seu rosto.
Eu estava em um quarto de hotel na Suíça quando recebi o e-mail, na última viagem internacional de avião que faria por um tempo porque estava grávida de seis meses. Era o fim de um longo dia e eu estava cansado, mas o e-mail me assustou. Minha fonte desenterrou um memorando jurídico marcado como “Privilegiado e Confidencial”, no qual um advogado da Clearview disse que a empresa havia extraído bilhões de fotos da web pública, incluindo sites de mídia social como Facebook, Instagram e LinkedIn, para criar um aplicativo revolucionário.
Dê ao Clearview uma foto de uma pessoa aleatória na rua e ele exibirá todos os lugares na internet onde avistou seu rosto, potencialmente revelando não apenas seu nome, mas outros detalhes pessoais sobre sua vida. A empresa estava vendendo esse superpoder para departamentos de polícia de todo o país, mas tentando manter sua existência em segredo.
Não muito tempo atrás, o reconhecimento facial automatizado era uma tecnologia distópica que a maioria das pessoas associava apenas a romances de ficção científica ou filmes como “Minority Report”. Os primeiros engenheiros procuraram torná-lo realidade na década de 1960, tentando programar um dos primeiros computadores para combinar o retrato de alguém com um banco de dados maior de rostos de pessoas. No início dos anos 2000, a polícia começou a fazer experiências com ele para pesquisar em bancos de dados de fotos policiais os rostos de suspeitos de crimes desconhecidos. Mas a tecnologia revelou-se amplamente decepcionante. Seu desempenho variava entre raça, gênero e idade, e até mesmo algoritmos de última geração lutavam para fazer algo tão simples como combinar uma foto policial com uma imagem granulada de vigilância de um caixa eletrônico.
Clearview afirmou ser diferente, apregoando uma “taxa de precisão de 98,6%” e uma enorme coleção de fotos diferente de tudo que a polícia já havia usado.
Isto é enorme se for verdade, pensei, enquanto lia e relia o memorando da Clearview que nunca foi concebido para ser público. Eu venho cobrindo a privacidade e sua erosão constante há mais de uma década. Costumo descrever meu ritmo como “a iminente distopia tecnológica – e como podemos tentar evitá-la”, mas nunca tinha visto um ataque tão audacioso ao anonimato antes.
Privacidade, uma palavra notoriamente difícil de definir, foi descrita de forma mais famosa num artigo da Harvard Law Review em 1890 como “o direito de ser deixado em paz”. Os dois advogados autores do artigo, Samuel D. Warren Jr. e Louis D. Brandeis, pediram que o direito à privacidade fosse protegido por lei, juntamente com os outros direitos – à vida, à liberdade e à propriedade privada – que tinham já foi consagrado. Eles foram inspirados por uma tecnologia então inovadora – a câmera portátil Eastman Kodak, inventada em 1888, que tornou possível levar uma câmera para fora do estúdio para fotos “instantâneas” da vida cotidiana – e também por pessoas como eu, um membro intrometido da imprensa.
“Fotografias instantâneas e empreendimentos jornalísticos invadiram os recintos sagrados da vida privada e doméstica”, escreveram Warren e Brandeis, “e numerosos dispositivos mecânicos ameaçam concretizar a previsão de que ‘o que é sussurrado no armário será proclamado dos telhados das casas’. .'”
Relacionado: A humanidade enfrentará um futuro “catastrófico” se não regularmos a IA, diz o “Padrinho da IA” Yoshua Bengio
Este artigo está entre os ensaios jurídicos mais famosos já escritos, e Louis Brandeis ingressou na Suprema Corte. No entanto, a privacidade nunca recebeu o tipo de proteção que Warren e Brandeis disseram que merecia. Mais de um século depois, ainda não existe uma lei abrangente que garanta aos americanos o controlo sobre as fotografias que lhes são tiradas, o que está escrito sobre eles ou o que é feito com os seus dados pessoais. Entretanto, as empresas sediadas nos Estados Unidos — e noutros países com leis de privacidade fracas — estão a criar tecnologias cada vez mais poderosas e invasivas.
O reconhecimento facial estava no meu radar há algum tempo. Ao longo da minha carreira, em lugares como Forbes e Gizmodo, cobri novidades importantes de empresas bilionárias: o Facebook marcando automaticamente seus amigos em fotos; Apple e Google permitem que as pessoas olhem seus telefones para desbloqueá-los; outdoors digitais da Microsoft e da Intel com câmeras que detectavam idade e sexo para mostrar anúncios apropriados aos transeuntes.
Eu havia escrito sobre como essa tecnologia, às vezes desajeitada e propensa a erros, entusiasmava as autoridades e a indústria, mas aterrorizava os cidadãos preocupados com a privacidade. Ao digerir o que a Clearview afirmava poder fazer, lembrei-me de um workshop federal de que participei anos antes em Washington, DC, onde representantes da indústria, funcionários do governo e defensores da privacidade se reuniram para definir as regras de trânsito.
A única coisa em que todos concordaram foi que ninguém deveria lançar um aplicativo para identificar estranhos. Era muito perigoso, disseram eles. Um estranho em um bar poderia tirar sua foto e em segundos saber quem eram seus amigos e onde você morava. Poderia ser usado para identificar manifestantes antigovernamentais ou mulheres que entraram nas clínicas da Planned Parenthood. Seria uma arma de assédio e intimidação. O reconhecimento facial preciso, na escala de centenas de milhões ou bilhões de pessoas, foi o terceiro trilho da tecnologia. E agora Clearview, um jogador desconhecido na área, afirmava tê-lo construído.
Eu estava cético. As startups são famosas por fazer afirmações grandiosas que acabam virando óleo de cobra. Até Steve Jobs falsificou as capacidades do iPhone original quando o revelou pela primeira vez no palco em 2007.*
Tendemos a acreditar que os computadores têm poderes quase mágicos, que podem descobrir a solução para qualquer problema e, com dados suficientes, eventualmente resolvê-lo melhor do que os humanos. Assim, os investidores, os clientes e o público podem ser enganados por afirmações ultrajantes e alguns truques digitais por parte de empresas que aspiram a fazer algo de grande, mas que ainda não chegaram lá.
Mas neste memorando jurídico confidencial, o famoso advogado da Clearview, Paul Clement, que foi procurador-geral dos Estados Unidos no governo do presidente George W. Bush, afirmou ter experimentado o produto com advogados de sua empresa e “descobriu que era retorna resultados de pesquisa rápidos e precisos.”
Clement escreveu que mais de 200 agências de aplicação da lei já estavam usando a ferramenta e que ele determinou que elas “não violam a Constituição federal ou as leis estaduais relevantes de biometria e privacidade ao usar o Clearview para a finalidade pretendida”. Não apenas centenas de departamentos de polícia estavam usando essa tecnologia em segredo, mas a empresa contratou um advogado sofisticado para garantir aos policiais que eles não estavam cometendo um crime ao fazê-lo.
Voltei para Nova York com um nascimento iminente como prazo. Eu tive três meses para chegar ao fundo desta história, e quanto mais fundo eu cavava, mais estranho ficava…
As preocupações com o reconhecimento facial vêm crescendo há décadas. E agora o nebuloso bicho-papão finalmente encontrou sua forma: uma pequena empresa com fundadores misteriosos e um banco de dados incompreensivelmente grande. E nenhuma das milhões de pessoas que compunham essa base de dados deu o seu consentimento. Clearview AI representa nossos piores medos, mas também oferece, finalmente, a oportunidade de enfrentá-los.
*Steve Jobs agiu rápido, escondendo os problemas de memória e travamentos frequentes do protótipo do iPhone, fazendo com que seus engenheiros gastassem incontáveis horas para encontrar um “caminho dourado” – uma sequência específica de tarefas que o telefone pudesse realizar sem falhas.
Your Face Belongs to Us: The Secretive Startup Dismantling Your Privacy by Kashmir Hill foi selecionada para 2024 Prêmio Royal Society Trivedi Science Bookque celebra os melhores escritos científicos populares de todo o mundo.
