O cenário de época de Terminator Zero de alguma forma torna o anime ainda mais assustador

Quando o escritor/diretor James Cameron e a produtora Gale Anne Hurd criaram “O Exterminador do Futuro” no início dos anos 1980, eles não poderiam ter previsto que seu futuro distópico de ficção científicaonde uma mente de grupo consciente baseada em rede neural artificial e um sistema de superinteligência geral artificial chamado Skynet um dia determinariam que os humanos são uma ameaça e tentariam exterminá-los, um dia se sentiriam dentro do reino da possibilidade. As perguntas constantemente pairando sobre os personagens no universo “Exterminador do Futuro” são absolutas: a humanidade pode ser salva da ameaça da Skynet e, mais importante, merecemos tal salvação?

De acordo com o showrunner e escritor de “Terminator Zero”, Mattson Tomlin, este é o cerne de sua nova série de anime para a Netflix. Como ele disse Tumdu“Eu não sou um niilista — eu sou um humanista, e eu amo as pessoas, e eu acho que há uma razão para estarmos neste planeta.” Ele continuou, “Com algo como 'Terminator Zero' onde você tem esses grandes temas sobre tecnologia e sobre um apocalipse que é verdadeiramente conduzido e criado por seres humanos e nossa necessidade de inventar, pressionar e empurrar armas, parecia a pergunta a ser feita: Podemos mudar nosso destino? Parece que estamos marchando em direção à destruição, e nós sabemos disso.”

A nova série é uma partida maravilhosa e horripilante das histórias de John/Sarah Connor dos filmes live-action (leia nossa análise aqui), mostrando tanto 1997 antes do Dia do Julgamento quanto um 2022 devastado pela guerra após a revolta dos robôs. O cientista de Tóquio Malcolm Lee (André Holland/Yuuya Uchida) está tentando lançar um contraprograma de IA “bom” chamado Kokoro (Rosario Dawson/Atsumi Tanezaki) que será a resposta do Japão à Skynet, enquanto a soldada da resistência Eiko (Sonoya Mizuno/Toa Yukinari) volta no tempo para proteger Malcolm de um Exterminador enviado para matá-lo.

Mas com a retrospectiva de como a IA realmente funciona hoje em 2024, em vez dos palpites feitos por Cameron e Hurd na década de 1980, os riscos de “O Exterminador do Futuro Zero” parecem mais assustadores do que nunca.

A IA se tornou um aspecto inevitável de todas as nossas vidas. Os recrutadores de empregos usam IA para escanear currículos em busca de palavras-chave sem que um ser humano os leia, as empresas de seguro saúde foram flagradas usando IA para aprovar ou negar procedimentos que salvam vidas, e isso nem leva em consideração como a IA está sendo usada cada vez mais para manipular nosso senso de realidade com deepfakes, plágio, roubo de identidade e chatbots apresentando mentiras descaradas como fatos. Em 2016, a Microsoft introduziu um chatbot que aprenderia com os usuários do Twitter/X, e o bot foi radicalizado para vomitar crenças nazistas intolerantes em menos de 24 horas. A empresa fechou quase imediatamente depois.

Estamos testemunhando em tempo real o quão rápido a IA, aparentemente criada com boas intenções, pode ser corrompida, manipulada e refletir de volta para nós o pior absoluto da humanidade. Como a IA é continuamente incorporada em facetas necessárias da existência, a necessidade urgente para aqueles em posições de poder obterem um melhor controle sobre a tecnologia e estabelecer limites à prova de falhas para uso ético só fica mais forte. Definir “O Exterminador do Futuro Zero” em 1997 com o conhecimento de como a IA avançará no futuro torna o cenário do período ainda mais assustador porque estamos investindo em personagens que terão que enfrentar o destino inevitável que sabemos que está vindo em sua direção. Nós saber que a Skynet é assustadora. Nós saber que os Exterminadores são perigosos. Mas assistir Malcolm posicionar Kokoro, um sistema de IA, como o salvador do povo é talvez a coisa mais assustadora de todas.

Se a sobrevivência da humanidade depende da misericórdia da inteligência artificial… já perdemos.

Falei mais sobre o programa no episódio de hoje do podcast /Film Daily, que você pode ouvir abaixo:

Você pode assinar o /Film Daily em Podcasts da Apple, Nublado, Spotifyou onde quer que você obtenha seus podcasts, e envie seu feedback, perguntas, comentários, preocupações e tópicos de mala direta para nós em bpearson@slashfilm.com. Por favor, deixe seu nome e localização geográfica geral, caso mencionemos seu e-mail no ar.