Explorando Vivências De Máquinas Conscientes Na Cultura Pop: As Diferentes Buscas Pela Humanidade

Um artigo por NICOLAS R. AQUINO

RESUMO

Este artigo aborda a representação da relação entre a consciência humana e a das máquinas na ficção científica, utilizando como exemplos principais o mangá "Pluto" de Naoki Urasawa, a HQ "Visão: Pouco Pior que um Homem" de Tom King e a série "Love, Death & Robots" da Netflix. Explora questões éticas, filosóficas e existenciais relacionadas à humanização de robôs e inteligências artificiais, destacando a complexidade das emoções, da moralidade e das interações entre humanos e máquinas em cenários diversos. No final, enfatiza a ideia de que, apesar dos avanços tecnológicos, as máquinas continuam incapazes de replicar plenamente a complexidade da mente humana, contribuindo para uma compreensão coletiva das limitações desse campo incerto.

INTRODUÇÃO

A Ficção Científica foi consolidada como um dos pilares da cultura pop desde os seus primórdios. Dentro dela, um dos temas mais trabalhados ao longo dos anos é o campo, ainda incerto, dos limites entre a consciência Humana e a das Máquinas. Com abordagens presentes nos mais diversos produtos, temos infinitas possibilidades, exploradas em quadrinhos, jogos, séries, animações, filmes etc., de como nossa sociedade lidaria com a coexistência em meio às consciências artificiais avançadas. Os temas centrais para esta discussão podem ser entendidos através da Tecnologia e da Moralidade; da Identidade; da Consciência; dos Dilemas Éticos; e da busca da Humanidade pelas Máquinas, assim como a sua Natureza.

Chega até a ser uma tarefa complicada limitar objetos do mundo nerd que guiarão esse ensaio e abordarão estes temas; no entanto, consegui delimitar três que se destacam: o mangá “Pluto”, escrito por Naoki Urasawa, também conhecido como o ‘deus pai dos mangás’; a HQ multipremiada, escrita por Tom King e ilustrada por Gabriel Hernandez Walta, "Visão: Pouco Pior que um Homem", dita como uma das melhores histórias da Marvel comics das últimas décadas; e a série antológica da Netflix "Love, Death & Robots", responsável por crises existenciais, infinitos debates, muito choro e visuais impecáveis.

Por meio destes pilares, busco trazer neste ensaio os debates éticos, filosóficos e existenciais presentes nas obras escolhidas, dentro da constante busca pela humanização de robôs e de inteligências artificiais. Ainda, procuro entender como estes desafiam nossas percepções convencionais de Tecnologia, Humanidade e Moralidade enquanto nos convidam a refletir sobre os desafios da Era Tecnológica, e sobre as questões que surgem na interface entre humanos e máquinas.

O CONCEITO DO VIVO DENTRO DE “PLUTO”

À medida que mergulhamos nas histórias de Visão e sua família de sintozóides, dos robôs mais avançados da terra em "Pluto" e os inúmeros personagens de "Love, Death & Robots", somos convidados a considerar o significado de ‘ser humano’ dentro de um mundo cada vez mais dominado pela tecnologia, que é levado a ser cada vez mais próximo do que nós somos.

Quando pensamos em Robôs e Inteligências Artificiais, acredito que as primeiras coisas que venham à mente sejam a Alexa, ou um robô aspirador, talvez até mesmo o Chat GPT. Porém, muito antes dos Ias populares da atualidade, os robôs industriais já estavam começando a dominar e alavancar os serviços de grandes indústrias, tal como os serviços de atendimento ao consumidor. Isso leva a crer erroneamente que robôs superinteligentes, e cada vez mais humanizados, seja um debate recente. No entanto, já em 1952, Osamu Tezuka trazia levantava estas questões através do primeiro anime feito para TV, protagonizado pelo Pinóquio-de-Metal, o Astro-Boy.

Pluto é inspirado em arco de Astro Boy (Imagem: Reprodução/Netflix)

Desde seu surgimento, o pequeno robô Atom, conhecido no ocidente como Astro-Boy, vem discutindo a relação conturbada entre Homem e Máquina. Com o começo clássico de uma jornada de herói, Atom tem um passado triste; criado por um cientista que acabara de perder o filho em um acidente trágico, o garotinho metálico de botas vermelhas deveria ser o substituto perfeito, mas logo seu criador viu que Atom era tão perfeito, mas tão perfeito, que não conseguiria se passar por um garoto de verdade, já que, como todo humano, garotos são falhos. Por ser um robô, sua construção perfeita o torna imperfeito para aquilo que deveria ser seu propósito. O desenvolvimento da questão se dá com o cientista vendendo Atom para um circo, já que sua criação nunca poderia assumir o lugar de seu filho.

Embora esse debate de ‘até onde um ser sintético pode se assemelhar, ou até se passar por um humano’ venha da raiz de Atom, é no mangá Pluto de Naoki Urasawa, feito como uma homenagem e um reconto da história do universo de Astro-Boy, que temos o tema sendo explorado a outro nível de profundidade. Em Pluto, conhecemos uma sociedade dividida em duas, porém coexistentes; uma feita para os humanos e outra para os robôs que possuem direitos, ideias de igualdade e sua própria constituição. Esse cenário humanizado não vem apenas das suas organizações, uma vez que fisicamente alguns deles mostram-se iguais a seres humanos, embora suas carcaças ainda sejam de metal, e evoluíram ao ponto de conseguirem passar despercebidos à primeira vista. No entanto, logo nos primeiros capítulos da obra, Urasawa constrói um diálogo entre dois robôs que, de forma bem clara, extrapola um dos limites entre Homem e Máquina, isto é, a capacidade de sentir.

O diálogo em questão apresenta um robô que está investigando um assassinato de um semelhante. Em dado momento, ele vai até a casa do robô que foi morto com o seu banco de dados e pergunta à esposa do falecido se ela gostaria que a existência dele fosse apagada de sua memória ou se ela queria ficar com os dados. De forma simples ela diz que, como um robô, ela não sabe o que escolher, uma vez que não sente. Como poderia? Não é natural da sua programação entender a morte e muito menos sofrer o luto.

Ainda na trama, o autor usa de uma personagem menor para estabelecer ainda mais esse limite a robôs comuns, ao mesmo tempo em que nos apresenta figuras que possuem identidade e consciência, para além de uma inteligência avançada. Isso porque os robôs têm de lidar com memórias, desejos e emoções ao ponto de criarem uma certa autenticidade em suas experiências, o que gera uma grande abertura para dilemas e debates éticos acerca de ‘até que ponto os robôs se assemelham aos humanos?’ e ‘quão seguro é a existência de seres conscientes que busquem atingir o ápice da aproximação a humanidade?’.

Embora seja uma história que se passe no universo do Astro-Boy, o jovem robô não é o personagem principal, mas traz uma perspectiva de visão muito interessante. Como uma criança, a fraqueza de Atom é a ingenuidade, algo que vem de suas origens, e essa característica serve como porta de entrada para discussão dos limites entre os dois mundos: um ser de metal com um sentimento tão humano ao ponto de chorar após ter acesso às memórias de outro robô. Tudo isso traz à tona a questão: até que ponto os robôs podem ser considerados ‘seres conscientes’, e até que ponto vai os diretos de um robô, já que em situações de perigo ou de infuncionalidade os humanos simplesmente os desligam ou destroem?

Com o passar dos capítulos, outra camada é apresentada em “Astro-boy”, isto é, a de que os robôs têm o dever de seguir padrões sociais que não se adequam às máquinas; mesmo que tenham supostos sentimentos e noções sociais, estas não são humanas genuinamente, tornando os sentimentos dos robôs as suas maiores fraquezas. Portanto, o ato de sentir e de errar não é da natureza deles, fazendo com que suas ‘mentes perfeitas’ procurem a imperfeições, já que só uma mente que erra poderia ser tida como perfeita. A mente que erra aprende, cria soluções e sente com os erros, e isso pode ser resumido como a noção do viver.

De forma sagaz, Naoki Urasawa usa de um robozinho ingênuo para nos ensinar que a vida é a maior perfeição, justamente por ser imperfeita; que ela jamais seria uma vida programada e criada, porém consciente e humana.

O ARTIFICIAL A PARTIR DO HUMANO ATRAVÉS DE

"VISÃO: POUCO PIOR QUE UM HOMEM"

Tendo em mente que a discussão criada em Pluto reforça a complexidade das emoções e da natureza humana em contraste com as máquinas, assim como a ideia de que a imperfeição e a capacidade de aprender com erros são competências essenciais da humanidade, enraizada em nós, também é possível perceber a natureza que o Visão busca na história "Visão: Pouco Pior que um Homem".

Sendo uma das principais inspirações para série Wandavision, nessa HQ o sintozóide Visão, que, diferente dos robôs mencionados anteriormente, é um ser humanoide criado de modo artificial, mas com materiais que simulam órgãos e tecidos humanos, decide criar uma família a partir do seu próprio tecido, simulando a típica família de comercial de margarina. Desta forma nasce Virgínia, sua esposa, Viv e Vin, seus filhos, e Faísca, o cachorro; juntos, a família Visão se muda para os subúrbios dos Estados Unidos, onde podem ter uma vida simples e comum. Na teoria, claro.

Visão sendo apreendido por um policial (Imagem: Reprodução/Marvel Comics)

Logo nos primeiros balões de fala, ficamos cientes de que alguma tragédia iria acontecer com a família Visão enquanto eles tentam se adaptar à sociedade humana, buscando se integrarem. Com uma narrativa predominantemente focada no mistério, nos segredos e no dia a dia de um super-herói e integrante da ONU, aos poucos entendemos que tais mudança de ambiente surgem a partir de sentimento de solidão que o próprio Visão enfrenta por ser artificial dentro de uma sociedade majoritariamente humana. As suas diferenças ficam evidentes constantemente. Se olharmos para outro herói, como o Tony Stark, percebemos que fora da armadura ele é um gênio, bilionário, playboy e filantropo, enquanto que o Visão, fora da sua armadura, é um sistema com órgão artificiais e ondas cerebrais de outra pessoa.

No fim do dia, ele é uma máquina tentando lidar com emoções e dilemas morais complexos, coisas que ele até lida relativamente bem graças aos seus anos de experiência. No entanto, sua família traze um peso de realismo e seriedade para as dificuldades e para os limites que separam abruptamente os Homens da Máquinas.

Na sua busca pela humanidade e pela vida ideal, a família de sintozóides faz questão de tentar simular situações humanas, como se comunicar com os vizinhos, que claramente não sentem um pingo de confiança neles; fazer atividades domésticas, mesmo que sequer produzissem sujeira e fizessem bagunça; mandar os filhos para a escola, o que acaba por gerar outro debate sobre a descriminação com ‘o diferente’ dentro do Sistema Educacional, entre outras vivências, mais simples ou muito complexas, da natureza humana.

Essas ações colocam os leitores a questionar ‘o que é a Natureza e Consciência humana’, já que Virgínia e os filhos, sem a presença do Visão para ditar como devem reagir ou sentir, acabam perdendo o controle e adotam atitudes totalmente antiéticas, extremas, tornando-os o total oposto de seres humanizados.

Esses comportamentos violentos, que acabam sendo dados como indevidos para alguém que quer encontrar seu espaço dentro de uma sociedade, levantam um debate sobre a moralidade na criação de inteligências avançadas, de até que ponto os criadores têm responsabilidades em relação às criaturas que deram vida. Da mesma forma, busca-se questionar como as consequências para suas atitudes são inesperadas e como julgar nas leis humanas os resultados dos atos de um ser não humano. Ainda: será que realmente vale o risco de dar autonomia a criações que podem ir além do que sua programação supostamente deve limitar?

De forma trágica, os acontecimentos finais da HQ demonstram como é difícil lidar com essa mistura entre Humanos e Máquinas, que, trazendo para nossa sociedade, é uma clara representação da codependência que estabelecemos com a tecnologia. A trama de Visão, sobretudo, faz com que os leitores questionem a sua própria moral e as suas formas de lidar com o ‘novo’ e com o ‘diferente’, já que as atitudes sombrias da família de sintozóides partem de ideias e conceitos humanos.

A RELAÇÃO DE DEPENDÊNCIA COM O TECNOLÓGICO

EM “LOVE, DEATH & ROBOTS”

Indo mais a fundo nas discussões propostas por Urasawa e King, chegamos à aclamada "Love, Death & Robots", criada por David Fincher e Tim Miller. A série é um prato cheio para os amantes de criaturas aterrorizantes, surpresas bizarras, humor ácido e robôs em uma vastidão de universos peculiares e caóticos. Composta atualmente por três temporadas, “Love, Death & Robots” trata de uma variedade de temas e possíveis futuros onde a humanidade lida principalmente com a consequências dos seus atos, sejam eles ações egoístas, dependência de máquinas, criação de texugos robôs assassinos, gatos com polegares e algumas outras bizarrices.

A série usa das infinitas possibilidades que as animações permitem para divertir e conscientizar o público. A partir disso, escolhi quatro episódios entre as temporadas para abordar diretamente a questão do Homem e da Máquina, sendo eles: “Os três robôs – part.1”; “Os três robôs – part.2”; “Zima Blue”; e “Atendimento automático ao cliente”.

Nos episódios “Os três robôs – part.1”e “Os três robôs – part.2”, temporadas 1 e 3, respectivamente, somos apresentados a um grupo de robôs viajantes. Embora sejam tão avançados quantos os robôs de “Pluto”, cada um deles possui uma aparência que deixa a entender que foram montados em épocas diferentes. Um deles é totalmente humanoide; o outro parece uma máquina de guerra em formato de pirâmide; enquanto o último é um pequeno robô descendente de babás eletrônicas. Os protagonistas do episódio, inclusive, debatem sobre os seus possíveis antepassados dentre os robôs domésticos que eram comandados pelos humanos.

Desde o começo do primeiro episódio, fica entendido que os humanos deixaram de existir há bastante tempo, o que coloca os nossos viajantes a explorarem um mundo pós-apocalíptico e cheio de cadáveres e esqueletos, enquanto criam teorias do que ocasionou o fim da raça humana. De imediato, o que surpreende o telespectador é descobrir o real motivo na terceira temporada a todas estas especulações; qual fora o papel das máquinas nesse fim e como, até nisso, envolve a culpa das ações humanas, que gradativamente foram aprimorando os robôs até o nível em que consciência e a noção absoluta fazia parte deles. O resultado foi a dúvida das próprias máquinas acerca das capacidades limitadas dos homens.

Embora os episódios dos robôs viajantes não explorem diretamente a relação e vivência conjunta de Homens e Máquinas, é usado de um futuro distópico para discutir ‘até que ponto os Humanos estão realmente no comando?’ e ‘até que nível uma Consciência Artificial pode ir para provar suas convicções e seguir protocolos?’. Essas dúvidas são abordadas novamente no episódio “Atendimento automático ao cliente”, onde um robô aspirador tenta aniquilar sua dona e o cachorrinho dela, simplesmente por não deixar o porta-retrato onde ele decidiu que seria melhor.

Neste episódio, somos apresentados a um futuro em que toda a população humana parece ser composta por idosos totalmente dependente de robôs, seja para tarefas domésticas, prática de esportes enquanto descansam em cadeiras de sol ou para locomoção em pernas robóticas. O importante de perceber é que o robô se vê como a figura de maior respeito da casa, até porque ele quem faz todas as funções de um dono-do-lar. Pela sua importância e por um desentendimento com a senhora, o robô se sente ameaçado e entra em modo aniquilação.

A senhora até tenta desligá-lo, mas acaba que o Atendimento ao Cliente também é gerenciado por robôs, que além de apoiar seus semelhantes, diz que para se comunicar com outro humano a senhora deveria esperar por volta de sete horas. Todo o diálogo mantido até o fim do episódio traz uma clara crítica à forma ‘como o uso da tecnologia vem se tornando uma relação de dependência, criando essa necessidade de ultrapassar os limites para criar robôs cada vez mais inteligentes’, que cumpram as funções complexas e diminuam o trabalho humano, mesmo que isso crie inteligências que se sintam superiores à inteligência humana.

“Zima Blue”, dito por muitos como o melhor episódio da série, se preocupa em trazer de forma artística e poética o que acontece com um robô que é plenamente aprimorado, ao ponto de não conseguir mais identificar o que ele é; ou pior, querer voltar às suas funções mais básicas.

O episódio começa com uma jornalista entrevistando o maior artista de todos os tempos, Zima Blue, que está prestes a entregar a sua última obra. Inicialmente, Zima retrata em suas obras as pessoas, mas logo se desinteressa por tal olhar, passando a pintar as galáxias e os planetas. Enfatizado pelo tempo, surgem formas azuis no centro dos desenhos de Zima, até que um dia todo o mural se tornasse azul. Não satisfeito, ele passa a pintar painéis azuis gigantescos e os nomeia como ´a busca pela verdade`, tornando-se a sua obra final.

Em meio à obsessão artística, Zima logo reconstrói uma piscina azul, como sua única lembrança de uma vida simples. Quando se joga na piscina, Zima revela que não é humano, tudo isso enquanto seu corpo metálico se desfaz e ele volta à sua forma original de um robô-limpador-de-piscinas, apaixonado por azulejos azuis. Com essa revelação, ele nos mostra o nível que o ser humano atingiu nas suas criações. Enquanto busca por um objetivo, Zima abstrai sua capacidade humana; ele (re)critica a angústia das pessoas, buscando estar sempre se aprimorando, exatamente como fizeram com ele.

CONSIDERAÇÕES FINAIS

Zima traz a reflexão final deste artigo, nos mostrando juntamente com os outros exemplos trabalhados acima que existem vários empecilhos para as Máquinas de se tornarem seres a total semelhança do Homem. No fim do dia, são criações, pinóquios de metal como Atom, incapazes de assumir o papel de criador. Até os mais avançados dos robôs não consegue se adequar à vivência em sociedade, ou às inúmeras possibilidades de sentir, errar e reinventar a natureza Humana. “Concluo” deixando a vocês, leitores, uma reflexão sobre o mundo em que vivemos, que se assemelha tanto ao começo de uma ficção científica, mas que, por meio da cultura pop, conseguimos ter uma noção de que as máquinas, por mais aprimoradas que sejam, são incapazes de entender ou imitar a complexidade da mente humana. Sendo assim, embora os limites ainda seja um campo incerto, podemos começar a traçar uma noção coletiva ‘do que em nós não pode ser replicado artificialmente’.

Zima Blue, episódio de “Love, Death & Robots” (Imagem: Reprodução/Netflix)

Conteúdo presente na edição de NOVEMBRO DE 2023 da Revista Especular. Leia este e mais conteúdos em revistaespecular.com.br. Um projeto realizado com apoio da EDITORA AURORA.