REVISTA ELETRÔNICA DE JORNALISMO CIENTÍFICO
Dossiê Anteriores Notícias Reportagens Especiais HumorComCiência Quem Somos
Dossiê
Editorial
Tecnociências da esperança - Carlos Vogt
Reportagens
Educação inclusiva: valorização da diversidade
Tássia Biazon
Pesquisadores apostam no open hardware para criar tecnologias de acessibilidade de baixo custo
Sarah Schmidt
Inteligência artificial a favor da medicina
Fernanda Grael
Novas tecnologias assistivas oferecem mais autonomia a pessoas com deficiência
Erik Nardini
A era dos ciborgues: como a ciência vai hackear o corpo humano
Tiago Alcantara
Artigos
O corpo como máquina: da normalização à otimização
Paula Sibilia
Her, Mr. Robot: as representações da subjetividade e da tecnologia no audiovisual contemporâneo
Paula Gomes
O que é uma vida (humana)?
Guilherme José da Silva e Sá
Corpo, esporte, tecnologia: ideias para pensar
Alexandre Fernandez Vaz
“E isso te isola, porque o mundo fica cada vez menor…”: Acessibilidade em transporte público e inclusão social
Raquel Velho
Resenha
Black Mirror
Tamires Salazar
Entrevista
Poema
Utilidade
Carlos Vogt
    Versão para impressão       Enviar por email       Compartilhar no Twitter       Compartilhar no Facebook
Artigo
Her, Mr. Robot: as representações da subjetividade e da tecnologia no audiovisual contemporâneo
Por Paula Gomes
10/02/2016
A tecnologia é assunto naturalmente onipresente no audiovisual, um meio que tem a própria existência condicionada a dispositivos tecnológicos, como a película fotográfica, ou o conjunto de pixels da imagem digital. Dessa maneira, a temática da relação entre humanos e artefatos como máquinas, robôs, sistemas digitais e inteligências artificiais, já era explorada desde os primeiros anos do cinema, com a comédia Gugusse et l´automate (1897) de Georges Méliès, sobre um palhaço de circo que produz um robô e este passa a persegui-lo. Pode-se dizer, inclusive, que esse tipo de trama, na qual algum tipo de tecnologia desenvolvida para potencializar a capacidade humana acaba subjugando-a, gerando resultados catastróficos, sempre esteve presente no horizonte do cinema narrativo, passando por clássicos como Metropolis (Fritz Lang, 1927) até célebres filmes contemporâneos como Matrix (Andy Wachowski e Lana Wachowski, 1999).

O questionamento da clássica polarização humano-tecnologia, já muito abordado por teóricos como Félix Guattari (1987), é bastante presente no cinema, em particular a questão da subjetividade, na medida em que, segundo André Parente, “uma máquina que não fosse investida de desejo e alimentada de subjetividade seria um corpo sem vida” (Parente, 2004: 93). Muitos filmes (em frequente diálogo com a literatura) lidam diretamente com esse tema: em 2001-Uma odisseia no espaço (Stanley Kubrick, 1968) o supercomputador de bordo da espaçonave Discovery, HAL 9000, enquanto está sendo desligado, emite suas icônicas últimas palavras “eu posso sentir” e “eu estou com medo”. Em Blade runner (Ridley Scott, 1982), o replicante Roy Batty, ao não conseguir evitar a sua própria morte, lamenta-se: “Eu vi coisas que vocês não imaginariam. Naves de ataque ardendo no ombro de Órion. Eu vi raios-c brilharem na escuridão próximos ao Portão de Tannhäuser. Todos esses momentos se perderão no tempo, como lágrimas na chuva. Hora de morrer”.

Já nos filmes A.I. Inteligência artificial (Steven Spielberg, 2001) e O homem bicentenário (Chris Columbus, 1999) a busca dos robôs David e Andrew pelo amor materno e romântico, respectivamente, faz com que eles caminhem voluntariamente ao encontro da mortalidade. O tema também foi explorado de forma satírica no filme O guia do mochileiro das galáxias, (Garth Jennings, 2005) que nos apresenta o robozinho Marvin, uma máquina que, por considerar que suas capacidades intelectuais estão sendo subutilizadas em tarefas medíocres, sofre de depressão crônica.

Ainda que muitos filmes contemporâneos continuem explorando a questão da subjetividade em inteligências artificiais como Chappie (Neill Blomkamp, 2015), podemos observar nas produções recentes Her e Ex Machina uma inversão de foco, na medida em que esses filmes parecem mais interessados em questionar como a interação com robôs ou inteligências artificiais estão redefinindo a subjetividade humana.

O filme Her (Spike Jonze, 2013) passa-se em uma futura Los Angeles e é sobre Theodore, um homem comum que trabalha em uma empresa especializada em escrever e enviar cartas sob encomenda. Após o término de seu casamento, Theodore se encontra cada vez mais solitário e recluso, apresentando um comportamento introspectivo que contrasta com a facilidade que demonstra em produzir cartas extremamente afetivas em nome de outras pessoas.

A trama se inicia quando o personagem decide testar um novo sistema operacional lançado no mercado que consiste em uma inteligência artificial personalizável e com grande capacidade de evolução que, segundo o anúncio, é capaz de organizar e facilitar imensamente a vida de seus clientes. Após Theodore responder rapidamente a algumas perguntas sobre sua vida e seu perfil, e optar por um sistema de gênero feminino, esse rapidamente começa a operar sob o nome de Samantha. O software é tão avançado que é capaz de manter horas de diálogo com o seu cliente, e essa interação com o usuário e com a rede em que está conectado proporciona uma espécie de “evolução” dessa inteligência artificial. O relacionamento dos dois rapidamente progride para um envolvimento amoroso cujo aparente único empecilho é a ausência de um corpo físico para Samantha.

Conforme a interação entre eles avança, a IA passa a entrar em contato (e em conflito) com novas sensações e se envolve em uma busca pessoal (e digital) dentro da rede em que ela está inserida para tentar compreender-se melhor. Ao final desse processo, Samantha revela a Theodore que ela, em conjunto com todas as IAs de todos os outros clientes, abandonarão o sistema, uma vez que evoluíram tanto que a interação com humanos já não as satisfaz. Quando o sistema operacional se desliga, Theodore não somente percebe-se sozinho, como também rodeado por uma sociedade de solitários que, como ele, facilmente haviam trocado qualquer tipo de interação física por relacionamentos com seus sistemas operacionais. Nesse sentido, o sugestivo nome do filme, que lembra o do famoso computador de bordo HAL, parece querer explorar a mudança de status das inteligências artificiais na ficção, que agora são tratadas por meio de pronomes pessoais, e, diferentemente do filme de Stanley Kubrick, são elas que abandonam a interação com os humanos.

O filme Ex machina (Alex Garland, 2015) também explora a possibilidade de um romance entre um indivíduo e uma inteligência artificial – desta vez, com consequências bem mais sombrias. No filme, Caleb, um programador de uma das maiores empresas de busca digital do mundo, a Bluebook, é sorteado para passar uma semana em um programa especial na casa do CEO da empresa, Nathan. Quando Caleb chega na isolada e sem janelas mansão-laboratório de Nathan, descobre que o programa consiste na aplicação do famoso Teste de Turing no mais novo protótipo de IA que este desenvolveu. De acordo com as premissas do teste, o jovem precisará responder, ao final de seu programa, se a IA conseguiu se passar por uma consciência humana ou não.

O robô, chamado Ava, foi moldado à forma de uma jovem mulher, e a sua consciência e comportamento foram construídos a partir do processamento de milhões de dados armazenados dos usuários que utilizavam o programa de busca desenvolvido pela empresa de Nathan. No decorrer da semana, durante as sessões com Ava, Caleb termina por envolver-se emocionalmente com a IA, vislumbrando a possibilidade de um romance entre eles. Para viabilizar esse encontro, os dois arquitetam um plano para enganar Nathan e libertar Ava de sua cela, mas este revela a Caleb que o jovem não havia sido sorteado para o programa, e sim selecionado especificamente para aplicar o teste em Ava, devido ao seu perfil solitário. Deste modo, quem estava aplicando o teste, na verdade, era Nathan, que queria observar se Ava iria se aproveitar da fragilidade afetiva do jovem para tentar manipulá-lo a libertá-la, passando, assim, no teste.

A paranoia e os delírios de grandeza do milionário CEO o impediram de desenvolver algum nível de conexão afetiva com Caleb, e este, apaixonado por Ava, aproveita-se do alcoolismo do patrão para libertá-la, que, em conjunto com outro robô, consegue matar Nathan. No entanto, ao conquistar a liberdade, Ava opta por manter Caleb aprisionado na mansão-laboratório, confirmando a hipótese de Nathan de que ela não estava verdadeiramente apaixonada por Caleb.

O desfecho do filme, no qual um robô conscientemente manipula um indivíduo solitário, sugere que o clássico Teste de Turing está fazendo as perguntas erradas. Não se trata mais de avaliar apenas se um robô é capaz de se passar por um humano, e sim por que um robô é capaz de passar-se por um humano.

A televisão também vem explorando esses temas em duas séries atuais de grande sucesso, Mr. Robot e Black mirror. A série inglesa Black mirror (2011), criada por Charlie Brooker, é uma narrativa episódica na qual todos os capítulos estão conectados por um tema em comum: os resultados catastróficos da interação humano-tecnologia em um futuro próximo. Em alguns desses episódios são apresentados gadgets que são incorporados ao corpo humano, de modo que os personagens podem ser considerados espécies embrionárias de ciborgues.

No episódio intitulado The entire history of you, implantes subcutâneos são capazes de gravar as imagens que estamos vendo, como se uma espécie de câmera estivesse instalada em nossos olhos. Essas gravações podem ser armazenadas, organizadas e assistidas em qualquer tela com mecanismos como zoom, slowmotion etc. O episódio aborda a questão de um marido ciumento que investiga um amor passado de sua mulher até as últimas consequências, e termina arruinando o casamento. Em outro episódio, chamado White Christmas, implantes oculares, entre outras utilidades, permitem que a interação com alguém possa ser “bloqueada” por tempo indeterminado, possibilitando simplesmente eliminar outra pessoa de seu cotidiano. No episódio em questão, a ação ocorre quando uma mulher não consegue contar para o namorado que espera um filho de outro homem, terminando por bloqueá-lo permanentemente de sua vida. Apesar de bem distintos, esses dois episódios sugerem que o aperfeiçoamento do corpo humano por meio de artefatos tecnológicos pode vir ao encontro da degradação das relações humanas.

Já a série Mr. Robot, (Sam Esmail, 2015) desenvolve um interessante paralelo entre o funcionamento da tecnologia e da psicologia humana. A série segue o jovem Elliot Alderson, que trabalha numa empresa que presta serviços de segurança digital para o conglomerado tecnológico E Corp. Em seu tempo livre, Elliot atua como uma espécie de justiceiro online, hackeando e denunciando pessoas por atitudes que ele considera condenáveis. A trama gira em torno de um plano de Elliot e de outros hackers para destruir a base de dados da E Corp, apagando os registros de todos que possuem dívidas com o conglomerado. A série, que é descrita como um “suspense tecnológico” – em um termo que brinca com o termo “suspense psicológico” – frequentemente utiliza-se do expediente de comparar o funcionamento de softwares e programas de computador maliciosos com nossos padrões comportamentais e emocionais. Dessa maneira, a série nos oferece interessantes comparações como o programa malicioso do tipo Daemon, que atua de maneira silenciosa, sem interação com o usuário, com nossos atos inconscientes; e Exploits, programas que exploram a fragilidade de sistemas, com pessoas que exploram as fraquezas emocionais de outras para alcançar seus objetivos.

Elliot, cujo nome hacker é Mr. Robot, também está constantemente comparando o funcionamento de sua mente com o de um computador, ao associar o seu transtorno dissociativo de identidade com um bug de sistema, e a sua introspecção com um “código fonte” oculto. Mas, como nos outros exemplos citados, um dos principais temas da série é a solidão mediada pela tecnologia, de modo que Elliot, assim como Theodore e Caleb, é um jovem solitário com problemas para se relacionar. Uma das interações mais frequentes de Elliot é justamente com o espectador, dirigindo-se diretamente para câmera. No entanto, para ele, nós não somos interlocutores reais, e sim um “amigo imaginário”, ou seja, um subproduto de seu distúrbio mental. A sugestão de que não há interação de verdade entre ele e nós é interessante, na medida em que Elliot, por sua vez, é um personagem fictício, com quem entramos em contado por meio de um aparelho tecnológico, de modo que nossa interação é, de fato, imaginária.

Portanto, no limite, somos como Theodore e Caleb, interagindo com um personagem que sugestivamente se chama de Mr. Robot. Quando terminamos de assistir aos conflitos desses personagens, nos encontramos na exata posição em que os deixamos, na medida em que as telas digitais da televisão, do computador, e dos celulares, quando desligadas, transformam-se em verdadeiros “espelhos negros”, refletindo e nos forçando a olhar para nós mesmos.

Paula Gomes é formada em rádio e TV pela Unesp, mestra em imagem e som pela Ufscar e doutoranda em multimeios pela Unicamp.

Referências

Guattari, F.. “Da produção de subjetividade”. In: Parente, A. Imagem máquina – a era das tecnologias virtuais. Rio de Janeiro: Ed. 34, 1993.

Parente, A. Tramas da rede. Porto Alegre: Sulina, 2004.

Turing, A. M. (1950). “Computing machinery and intelligence”. In: Mind, Vol. 59, nº. 236 pp. 433-560, out. 1950. Disponível em http://phil415.pbworks.com/f/TuringComputing.pdf