O que a chegada de telefones e computadores com IA significa para nossos dados

Apple, Microsoft e Google estão anunciando uma nova era do que descrevem como smartphones e computadores com inteligência artificial. Os dispositivos, dizem eles, automatizarão tarefas como editar fotos e desejar feliz aniversário a um amigo.

Mas para que isso funcione, essas empresas precisam de algo de você: mais dados.

Neste novo paradigma, o seu computador Windows fará uma captura de tela de tudo o que você faz a cada poucos segundos. Um iPhone reunirá informações de muitos aplicativos que você usa. E um telefone Android pode ouvir uma chamada em tempo real para alertá-lo sobre uma fraude.

Essa é uma informação que você está disposto a compartilhar?

Esta mudança tem implicações significativas para a nossa privacidade. Para fornecer os novos serviços personalizados, as empresas e os seus dispositivos precisam de um acesso mais persistente e íntimo aos nossos dados do que antes. No passado, a forma como usávamos aplicativos e extraíamos arquivos e fotos em telefones e computadores era relativamente isolada. A IA precisa de uma visão geral para conectar os pontos entre o que fazemos em aplicativos, sites e comunicações, dizem especialistas em segurança.

“Sinto-me seguro em fornecer essas informações a esta empresa?” Cliff Steinhauer, diretor da National Cybersecurity Alliance, uma organização sem fins lucrativos com foco em segurança cibernética, falou sobre as estratégias de IA das empresas.

Tudo isso está acontecendo porque o ChatGPT da OpenAI revolucionou a indústria de tecnologia há quase dois anos. Desde então, Apple, Google, Microsoft e outros reformularam suas estratégias de produtos, investindo bilhões em novos serviços sob o termo abrangente de IA. Eles estão convencidos de que esse novo tipo de interface de computação — que estuda constantemente o que você está fazendo para oferecer assistência — se tornará indispensável.

O maior risco potencial de segurança com esta mudança decorre de uma mudança sutil que ocorre na forma como nossos novos dispositivos funcionam, dizem os especialistas. Como a IA pode automatizar ações complexas – como remover objetos indesejados de uma foto – às vezes requer mais poder computacional do que nossos telefones podem suportar. Isso significa que mais dados pessoais podem ter que sair de nossos telefones para serem tratados em outro lugar.

As informações estão sendo transmitidas para a chamada nuvem, rede de servidores que processa as solicitações. Assim que as informações chegam à nuvem, elas podem ser vistas por outras pessoas, incluindo funcionários da empresa, malfeitores e agências governamentais. E embora alguns dos nossos dados tenham sempre sido armazenados na nuvem, os nossos dados mais profundamente pessoais e íntimos que antes estavam apenas à nossa vista – fotos, mensagens e e-mails – agora podem ser conectados e analisados ​​por uma empresa nos seus servidores.

As empresas de tecnologia dizem que não mediram esforços para proteger os dados das pessoas.

Por enquanto, é importante entender o que acontecerá com nossas informações quando usarmos ferramentas de IA, por isso obtive mais informações das empresas sobre suas práticas de dados e entrevistei especialistas em segurança. Pretendo esperar e ver se as tecnologias funcionam bem antes de decidir se vale a pena compartilhar meus dados.

Aqui está o que você deve saber.

Inteligência da Apple

A Apple anunciou recentemente o Apple Intelligence, um conjunto de serviços de IA e sua primeira grande entrada na corrida da IA.

Os novos serviços de IA serão integrados aos iPhones, iPads e Macs mais rápidos a partir deste outono. As pessoas poderão usá-lo para remover automaticamente objetos indesejados de fotos, criar resumos de artigos da web e escrever respostas a mensagens de texto e e-mails. A Apple também está reformulando seu assistente de voz, Siri, para torná-lo mais comunicativo e dar acesso a dados em vários aplicativos.

Durante a conferência da Apple neste mês, quando apresentou o Apple Intelligence, o vice-presidente sênior de engenharia de software da empresa, Craig Federighi, compartilhou como isso poderia funcionar: Federighi recebeu um e-mail de um colega pedindo-lhe para adiar uma reunião, mas ele estava deveria ver uma peça naquela noite estrelada por sua filha. Seu telefone então abriu seu calendário, um documento contendo detalhes sobre a peça e um aplicativo de mapas para prever se ele chegaria atrasado à peça caso concordasse com um encontro mais tarde.

A Apple disse que está se esforçando para processar a maior parte dos dados de IA diretamente em seus telefones e computadores, o que impediria que outros, incluindo a Apple, tivessem acesso às informações. Mas para tarefas que precisam ser enviadas aos servidores, disse a Apple, ela desenvolveu salvaguardas, incluindo embaralhar os dados por meio de criptografia e excluí-los imediatamente.

A Apple também implementou medidas para que seus funcionários não tenham acesso aos dados, disse a empresa. A Apple também disse que permitiria que pesquisadores de segurança auditassem sua tecnologia para garantir que ela cumprisse suas promessas.

O compromisso da Apple de eliminar os dados dos usuários de seus servidores a diferencia de outras empresas que guardam dados. Mas a Apple não está clara sobre quais novas solicitações Siri poderiam ser enviadas aos servidores da empresa, disse Matthew Green, pesquisador de segurança e professor associado de ciência da computação na Universidade Johns Hopkins, que foi informado pela Apple sobre sua nova tecnologia. Qualquer coisa que saia do seu dispositivo é inerentemente menos segura, disse ele.

A Apple disse que quando o Apple Intelligence for lançado, os usuários poderão ver um relatório de quais solicitações estão saindo do dispositivo para serem processadas na nuvem.

Laptops de IA da Microsoft

A Microsoft está trazendo IA para os laptops antigos.

Na semana passada, ela começou a lançar computadores Windows chamados Copilot+ PC, que custam a partir de US$ 1.000. Os computadores contêm um novo tipo de chip e outros equipamentos que, segundo a Microsoft, manterão seus dados privados e seguros. Os PCs podem gerar imagens e reescrever documentos, entre outros novos recursos alimentados por IA.

A empresa também introduziu o Recall, um novo sistema para ajudar os usuários a encontrar rapidamente documentos e arquivos nos quais trabalharam, e-mails que leram ou sites que navegaram. A Microsoft compara o Recall a ter uma memória fotográfica embutida no seu PC.

Para usá-lo, você pode digitar frases casuais, como “Estou pensando em uma videochamada que tive com Joe recentemente, quando ele segurava uma caneca de café 'I Love New York'”. O computador irá então recuperar a gravação da videochamada contendo esses detalhes.

Para conseguir isso, o Recall tira capturas de tela a cada cinco segundos do que o usuário está fazendo na máquina e compila essas imagens em um banco de dados pesquisável. Os instantâneos são armazenados e analisados ​​diretamente no PC, de modo que os dados não são revisados ​​pela Microsoft ou usados ​​para melhorar sua IA, disse a empresa.

Ainda assim, os investigadores de segurança alertaram sobre riscos potenciais, explicando que os dados poderiam exponha facilmente tudo o que você já digitou ou visualizou se foi hackeado. Em resposta, a Microsoft, que pretendia lançar o Recall na semana passada, adiou o seu lançamento indefinidamente.

Os PCs vêm equipados com o novo sistema operacional Windows 11 da Microsoft. Possui múltiplas camadas de segurança, disse David Weston, executivo da empresa que supervisiona a segurança.

IA do Google

O Google também anunciou no mês passado um conjunto de serviços de IA.

Uma de suas maiores revelações foi um novo detector de golpes com tecnologia de IA para chamadas telefônicas. A ferramenta escuta ligações em tempo real e, se o chamador parecer um golpista em potencial (por exemplo, se o chamador solicitar um PIN bancário), a empresa notificará você. O Google disse que as pessoas teriam que ativar o detector de golpes, que é totalmente operado pelo telefone. Isso significa que o Google não ouvirá as ligações.

O Google anunciou outro recurso, o Ask Photos, que exige o envio de informações aos servidores da empresa. Os usuários podem fazer perguntas como “Quando minha filha aprendeu a nadar?” para trazer à tona as primeiras imagens de seu filho nadando.

O Google disse que seus funcionários poderiam, em casos raros, revisar as conversas do Ask Photos e os dados das fotos para lidar com abusos ou danos, e as informações também poderiam ser usadas para ajudar a melhorar seu aplicativo de fotos. Em outras palavras, sua pergunta e a foto de seu filho nadando podem ser usadas para ajudar outros pais a encontrar imagens de seus filhos nadando.

O Google disse que sua nuvem foi bloqueada com tecnologias de segurança como criptografia e protocolos para limitar o acesso dos funcionários aos dados.

“Nossa abordagem de proteção à privacidade se aplica aos nossos recursos de IA, não importa se eles são alimentados no dispositivo ou na nuvem”, disse Suzanne Frey, executiva do Google que supervisiona a confiança e a privacidade, em um comunicado.

Mas Green, o pesquisador de segurança, disse que a abordagem do Google em relação à privacidade da IA ​​parecia relativamente opaca.

“Não gosto da ideia de que minhas fotos e pesquisas muito pessoais vão para uma nuvem que não está sob meu controle”, disse ele.