Tecnologia

Primeiro veio o 'spam'. Agora, com IA, temos 'resíduos'

Talvez você não saiba exatamente o que “slop” significa em relação à inteligência artificial. Mas em algum nível você provavelmente sim.

Slop, pelo menos no mundo em rápida evolução dos fóruns de mensagens online, é um termo amplo que ganhou alguma força em referência a conteúdos de IA de má qualidade ou indesejados nas redes sociais, na arte, nos livros e, cada vez mais, nos resultados de pesquisa.

O Google está sugerindo que você possa adicionar cola não tóxica para fazer o queijo grudar na pizza? Isso é desleixo. O mesmo ocorre com um livro digital de baixo preço que parece ser o que você procurava, mas não exatamente. E aquelas postagens no seu feed do Facebook que aparentemente surgiram do nada? Eles também são desleixados.

O termo tornou-se mais prevalente no mês passado, quando o Google incorporou seu modelo Gemini AI em seus resultados de pesquisa nos EUA. Em vez de direcionar os usuários para links, o serviço tenta resolver uma consulta diretamente com um “Visão geral da IA” – um pedaço de texto no topo de uma página de resultados que usa o Gemini para adivinhar o que o usuário está procurando.

A mudança foi uma reação ao fato de a Microsoft ter incorporado IA em seus resultados de pesquisa no Bing, e houve alguns erros imediatos, levando o Google a declarar que reverteria alguns de seus recursos de IA até que os problemas pudessem ser resolvidos.

Mas com os motores de busca dominantes a tornarem a IA uma prioridade, parece que grandes quantidades de informação gerada por máquinas, em vez de serem em grande parte curadas por seres humanos, serão servidas como uma parte diária da vida na Internet num futuro próximo.

Daí o termo lixo, que evoca imagens de pilhas de comida pouco apetitosa sendo jogadas em cochos para o gado. Assim como esse tipo de lixo, a pesquisa assistida por IA ocorre rapidamente, mas não necessariamente de uma forma que os pensadores críticos possam tolerar.

Kristian Hammond, diretor do Centro para o Avanço da Segurança da Inteligência de Máquinas da Northwestern University, observou um problema no modelo atual: as informações da Visão Geral da IA ​​estão sendo apresentadas como uma resposta definitiva, e não como um ponto de partida para a pesquisa de um usuário da Internet sobre um determinado assunto.

“Você procura algo e recebe de volta o que precisa para pensar – e isso realmente o incentiva a pensar”, disse Hammond. “O que está se tornando, nessa integração com modelos de linguagem, é algo que não estimula a pensar. Isso o incentiva a aceitar. E isso, eu acho, é perigoso.”

Para que um problema seja direcionado, dar-lhe um nome pode ser útil. E embora o lixo seja uma opção, ainda é uma questão em aberto se ele vai pegar o público mainstream ou acabar na lata de lixo das gírias com cheugy, bae e skibidi.

Adam Aleksic, um linguista e criador de conteúdo que usa o identificador etimologianerd nas redes sociais, acredita que esse lixo – que ele disse ainda não chegou a um público mais amplo – mostra-se promissor.

“Acho que este é um ótimo exemplo de palavra discreta no momento, porque é uma palavra com a qual todos estamos familiarizados”, disse Aleksic. “É uma palavra que parece naturalmente aplicável a esta situação. Portanto, fica menos na sua cara.”

O uso de slop como descritor para material de IA de baixa qualidade aparentemente surgiu em reação ao lançamento de geradores de arte de IA em 2022. Alguns identificaram Simon Willison, um desenvolvedor, como um dos primeiros a adotar o termo – mas o Sr. que pressionou pela adoção da frase, disse que ela já estava em uso muito antes de ser encontrada.

“Acho que na verdade cheguei bem atrasado para a festa!” ele disse em um e-mail.

O termo surgiu no 4chan, no Hacker News e nos comentários do YouTube, onde postadores anônimos às vezes projetam sua proficiência em assuntos complexos usando linguagem de grupo.

“O que sempre vemos em qualquer gíria é que ela começa em um nicho de comunidade e depois se espalha a partir daí”, disse Aleksic. “Normalmente, a frieza é um fator que ajuda na propagação, mas não necessariamente. Tipo, muitas palavras foram espalhadas por um bando de nerds da codificação, certo? Veja a palavra 'spam'. Normalmente, a palavra é criada porque existe um determinado grupo com interesses comuns, com uma necessidade comum de inventar palavras.”

No curto prazo, o efeito da IA ​​nos motores de busca e na Internet em geral pode ser menos extremo do que alguns temeriam.

As organizações de notícias têm se preocupado com a redução do público on-line, à medida que as pessoas confiam mais nas respostas geradas pela IA e os dados da Chartbeat, uma empresa que pesquisa o tráfego da Internet, indicam que houve uma queda imediata nas referências do Google Discover para sites nos primeiros dias das visões gerais da IA. . Mas essa queda já se recuperou e, nas primeiras três semanas das análises, o tráfego geral de pesquisa para mais de 2.000 grandes sites nos EUA realmente aumentou, de acordo com o Chartbeat.

Willison, que se identificou como um otimista em relação à IA quando ela é usada corretamente, achava que esse lixo poderia se tornar o termo usado para conteúdo lixo gerado por máquinas.

“A sociedade precisa de maneiras concisas de falar sobre a IA moderna – tanto os aspectos positivos quanto os negativos”, disse ele. “'Ignore esse e-mail, é spam' e 'Ignore esse artigo, é lixo' são lições úteis.”

Source link

Related Articles

Leave a Reply

Your email address will not be published. Required fields are marked *

Back to top button