Anatomia de um sistema de inteligência artificial

Nem inteligente, nem artificial: uma cartografia das infraestruturas do infocapitalismo

Cristiana de Oliveira Gonzalez e Pedro P. Ferreira

Há dois anos, em setembro de 2018, a pesquisadora da Microsoft e fundadora do The AI Now Institute na Universidade de Nova York (NYU), Kate Crawford, e o coordenador do coletivo Share Lab na Universidade de Novi Sad (UNS), Vladan Joler, publicaram seu texto-mapa Anatomia de um sistema de inteligência artificial. O texto-mapa foi publicado simultaneamente como instalação de arte – na exposição Artificially Intelligent do V&A Museum (Londres) -, e como website. Desde então o texto-mapa tem circulado por outras exposições de arte, e repercutido bastante na mídia, tendo sido vencedor do célebre prêmio Beazley Design of the Year de 2019. E, mais importante ainda, desde sua publicação os processos humanos e não-humanos nele cartografados apenas se acirraram e ganharam mais importância.

Mapas podem ser entendidos como representações simplificadas de um território, capazes de favorecer, ou potencializar, a ação sobre ele. O território cartografado por Crawford e Joler é, mais diretamente, a infraestrutura do sistema de inteligência artificial (IA) por trás de um produto comercial típico de nosso infocapitalismo: o Amazon Echo.

Descritos no site de vendas da Amazon como “smart speakers controlados por voz”, os “dispositivos Echo” são os terminais do sistema de IA da Amazon, e simbolizam uma tendência crescente na contemporaneidade, de embutir automação “inteligente” em todos os nossos dispositivos: dos smartphones às cidades inteligentes. Ao cartografarem a “anatomia” do sistema de IA do Amazon Echo, Crawford e Joler nos ofereceram, assim, um modelo a partir do qual representar qualquer um dos outros sistemas de IA que cada vez mais interferem em nossas vidas cotidianas.

Como um rizoma, o mapa de Crawford e Joler pode ser “lido” de diversas formas. Uma delas, na forma de três colunas, da esquerda para a direita, mostra a trajetória biográfica do Amazon Echo. Primeiro, todos os materiais necessários para a construção do dispositivo precisam ser extraídos da Terra e processados, transformados em matéria prima para a produção dos diversos elementos técnicos que compõem o dispositivo. O dispositivo precisa ser então montado, embalado e distribuído pela empresa. Em toda esta primeira parte de sua trajetória, o dispositivo participa não apenas da exploração crescente de recursos naturais, mas também da exploração crescente de recursos humanos, como se vê na escala de “distribuição de renda” à esquerda do mapa.

Depois de adquirido por um usuário, o dispositivo passa então a mobilizar uma outra estrutura global de exploração de recursos naturais e humanos, na forma de toda a infraestrutura global de transporte e telecomunicações, e de todo o trabalho humano envolvido no funcionamento do sistema de IA. Além disso, passa também a explorar economicamente o uso que o consumidor faz de seu dispositivo, incorporando esse uso no aperfeiçoamento de seu próprio sistema. A terceira coluna, à direita do mapa, é um fluxograma das rotas de reciclagem e descarte do produto, depois que, por qualquer motivo, ele é jogado no lixo pelo usuário. Tais rotas também operam no caso do descarte e reciclagem de outros materiais usados na infraestrutura global desse sistema de IA (e.g.: cabos submarinos, navios cargueiros, microprocessadores etc.).

É pouco provável que o Amazon Echo seja um dispositivo amplamente utilizado ou popular no Brasil, onde poucos possuem os recursos ou a conectividade necessária para operar tais sistemas de IA. O mesmo vale para a comercialização de tecnologias de Internet das Coisas (IoT), como os carros autônomos. Mas isso não significa que uma tradução para o português desse texto-mapa esteja fora de lugar, ou até mesmo obsoleta. Nos últimos anos, proliferaram iniciativas, estratégias, programas e planos nacionais para incentivo, desenvolvimento e financiamento de tecnologias de IA e de suas infraestruturas, como o Plano Nacional de IoT, ou a Estratégia Brasileira para a Transformação Digital, baseadas na ideia de resolver grandes problemas e alavancar a prosperidade econômica. A covid-19 apenas acelerou a aplicação dessas tecnologias baseadas em IA, como reconhecimento facial, dispositivos e aplicações ligadas à saúde, pagamentos digitais e análise de crédito, agroindústria 4.0 e automação dos serviços. Tudo isso sem a devida reflexão sobre a expansão de um mercado de tecnologia voltado para a coleta de dados que alimentam algoritmos voltados à identificação de nossos estados e biorritmos fisiológicos e emocionais para fim de controle e exploração econômica.

Se um mapa deve nos permitir uma ação mais potente e eficaz sobre o território cartografado, então podemos dizer que o mapa de Crawford e Joler permite, sim, que qualquer um de nós se localize, e consiga começar a projetar uma ação eficaz, como usuário de sistemas de IA, no território do infocapitalismo contemporâneo. Também nos permite estabelecer conexões com o que não foi diretamente explicitado por Crawford e Joler neste texto-mapa, como os efeitos de racialização e a sexualização dos sistemas automatizados – efeitos esses materializados, por exemplo, na voz feminina da Alexa. O mapa anatômico é, acima de tudo, um convite para reanimar e reimaginar as tecnologias ligadas à IA, evidenciando o fato de que não são exatamente nem “inteligentes” – pois não operam automaticamente, antes dependendo de trabalho humano -, e nem “artificiais” – pois participam ativamente da crescente exploração dos recursos naturais de nosso planeta. Mostrando, enfim, que, mais do que soluções inocentes para problemas banais do dia-a-dia, tais dispositivos são responsáveis por parte importante de nossos problemas socioambientais atuais, e nada banais.

 

**********

 

ANATOMIA DE UM SISTEMA DE INTELIGÊNCIA ARTIFICIAL: O AMAZON ECHO COMO MAPA ANATÔMICO DE TRABALHO HUMANO, DADOS E RECURSOS PLANETÁRIOS.

Por Kate Crawford[1] e Vladan Joler[2]
Tradução: Cristiana Gonzales e Pedro P. Ferreira; com colaboração de Pedro Paulino.

Ver mapa (pdf)

I

O cilindro está em uma sala. Ele é impassível, suave, simples e pequeno. Ele tem 14,8 cm de altura, com uma única luz circular azul e verde que traça o contorno de sua borda superior. Ele aguarda silenciosamente. Uma mulher entra no quarto carregando uma criança dormindo em seus braços, e se dirige ao cilindro.

“Alexa, acenda as luzes”

O cilindro desperta. “OK”. As luzes se acendem. A mulher assente, e leva a criança para cima.

Isto é uma interação com o dispositivo Echo, da Amazon.[3] Um breve comando e uma resposta é a forma mais comum de engajamento com esse dispositivo comercial, ativado por voz, de Inteligência Artificial (IA). Mas nesse momento fugaz de interação, uma vasta matriz de capacidades é invocada: cadeias entrelaçadas de extração de recursos, trabalho humano e processamento algorítmico através de redes de mineração, logística, distribuição, previsão e otimização. A escala desse sistema está quase além da imaginação humana. Como podemos começar a ver, a apreender sua imensidade e complexidade como uma forma conectada? Começamos com um delineamento: uma vista explodida de um sistema planetário, através dos três estágios de nascimento, vida e morte, acompanhada de um ensaio em 21 partes. Em conjunto, isso se torna um mapa anatômico de um único sistema de IA.

                                                                       Amazon Echo Dot (diagrama)

II

A cena da mulher conversando com Alexa foi extraída de um comercial de 2017 anunciando a última versão do Amazon Echo. O comercial começa: “Diga oi para o novíssimo Echo”; e então explica que o Echo vai conectar com Alexa (o agente de inteligência artificial) para “tocar música, ligar para amigos e família, controlar dispositivos domésticos inteligentes e mais”. O dispositivo contém sete microfones direcionais, então o usuário pode sempre ser ouvido, mesmo quando há música tocando. O dispositivo vem em diversos estilos, como cinza metálico [gunmetal grey] ou um bege básico, projetado “para se misturar ou se destacar”. Mas mesmo as opções mais brilhantes ainda conseguem passar desapercebidas: nada vai despertar o proprietário para a vasta rede que sustenta e move as capacidades interativas do dispositivo. O comercial simplesmente afirma que o leque de coisas que você pode pedir para Alexa fazer está sempre se expandindo. “Alexa está na nuvem, então ela está sempre ficando mais inteligente e adicionando novas funcionalidades”.

Como isso acontece? Alexa é uma voz desencarnada que representa a interface interativa humano-IA para um conjunto extraordinariamente complexo de camadas de processamento de informação. Essas camadas são alimentadas por marés constantes: os fluxos de vozes humanas sendo inscritos em forma textual [the flows of human voices being translated into text questions], que são usados para consultar bases de dados de respostas potenciais, e o refluxo correspondente às respostas de Alexa. Para cada resposta dada por Alexa, sua eficácia é inferida pelo que acontece em seguida:

A mesma pergunta foi feita novamente? (O usuário se sentiu ouvido?)
A pergunta foi refraseada? (O usuário sentiu que a pergunta foi compreendida?)
A pergunta foi seguida de alguma ação? (A interação resultou em alguma resposta registrada: uma luz acendeu, um produto foi comprado, uma música foi tocada?)

Com cada interação, Alexa está treinando para ouvir melhor, para interpretar mas precisamente, para disparar ações que correspondem mais acuradamente aos comandos do usuário e para construir um modelo mais completo das suas preferências, hábitos e desejos. Como isso é possível? De forma simplificada: cada pequeno momento de conveniência – seja ele responder uma pergunta, acender uma luz ou tocar uma música – demanda uma vasta rede planetária alimentada pera extração de materiais não-renováveis, trabalho e dados. A escala dos recursos exigidos é muitas magnitudes maior do que a energia e o trabalho que seriam necessários para um humano operar um eletrodoméstico ou acionar um interruptor. A contabilidade completa desses custos é quase impossível, mas é cada vez mais importante que apreendamos sua escala e seu escopo se queremos entender e governar as infraestruturas técnicas que atravessam nossas vidas.

III

O Salar, a maior superfície plana do mundo, está localizada no sudoeste da Bolívia, em uma altitude de 3.656 metros acima do nível do mar. É um altiplano, coberto por alguns metros de crosta de sal excepcionalmente rico em lítio, com 50% a 70% das reservas mundiais de lítio.[4] Junto com as regiões Atacama vizinhas no Chile e na Argentina, o Salar é um local de grande importância para a extração de lítio. Esse metal prateado e macio é atualmente usado para carregar dispositivos móveis conectados, um material crucial usado na produção de baterias de íon-lítio. Ele é conhecido como ‘ouro cinza’. Baterias de smartphone, por exemplo, costumam ter menos que 8 gramas desse material.[5] Cada carro Tesla precisa de aproximadamente 7 quilos de lítio para suas baterias.[6] Todas essas baterias têm um tempo de vida limitado, e uma vez consumidas são descartadas como lixo. A Amazon alerta os usuários que eles não podem abrir e consertar seu Echo, pois isso invalidaria a garantia. Além de ser alimentado na parece, o Amazon Echo tem uma bateria de base móvel. Essa bateria também tem um tempo de vida limitado, e então precisa ser descartada como lixo.

De acordo com os mitos Aymara sobre a criação da Bolívia, as montanhas vulcânicas do altiplano andino foram criações trágicas.[7] Muito tempo atrás, quando os vulcões estavam vivos e vagueavam livremente pelas planícies, Tunupa – o único vulcão mulher – deu à luz um bebê. Acometidos pela inveja, os vulcões homens roubaram seu bebê e o expulsaram para um local distante. Os deuses puniram os vulcões, prendendo todos eles à Terra. Em luto pela criança, que ela não podia mais alcançar, Tunupa chorou profundamente. Suas lágrimas se misturaram ao leite materno para criar um lago gigante de sal: o Salar de Uyuni. Como observam Liam Young e Kate Davies, “seu smartphone roda nas lágrimas e no leite materno de uma vulcão. Essa paisagem está conectada a todos os lugares do planeta por meio dos telefones em nossos bolsos; ligada a cada um de nós por fios invisíveis de comércio, ciência, política e poder”.[8]

IV

Nosso diagrama combina e visibiliza três processo extrativos centrais necessários para fazer funcionar um sistema de inteligência artificial de larga escala: recursos materiais, trabalho humano e dados. Consideramos esses três elementos ao longo do tempo representados como uma descrição visual do nascimento, vida e morte de uma única unidade do Amazon Echo. É necessário ir além da simples relação entre um indivíduo humano, seus dados e qualquer companhia de tecnologia em particular, para confrontar a escala verdadeiramente planetária de extração. Vincent Mosco mostrou como a metáfora etérea da ‘nuvem’, para o processamento e a administração remotos de dados, está em completa contradição com as realidades físicas da extração de minerais da crosta terrestre, e com a expropriação das populações humanas que sustentam sua existência.[9] Sandro Mezzadra e Brett Neilson usam o termo ‘extrativismo’ para nomear a relação entre diferentes formas de operações extrativistas no capitalismo contemporâneo, que nós vemos se repetir no contexto de indústria IA.[10] Existem profundas interconexões entre a escavação literal dos materiais da Terra e da biosfera, e a captura de dados e monetização de práticas humanas de comunicação e socialidade na IA. Mezzadra e Neilson notam que o trabalho é central nessa relação extrativista, que se repetiu ao longo da história: da maneira como o imperialismo europeu usou trabalho escravo, ao trabalho coletivo forçado em plantações de borracha na Malaya, às populações indígenas na Bolívia sendo levadas a extrair a prata que foi usada na primeira moeda global. Pensar sobre extração exige pensar sobre trabalho, recursos e dados. Isso é um desafio para as compreensões crítica e popular da inteligência artificial: já é difícil ‘ver’ qualquer um desses processos individualmente, quanto mais em conjunto. Daí a necessidade de uma visualização capaz de reunir esses processos conectados, mas globalmente dispersos, em um único mapa.

V

Se você ler nosso mapa da esquerda para a direita, a estória começa e termina com a Terra e os processos geológicos do tempo profundo. Lido de cima para baixo, vemos a estória começando e terminando com um ser humano. O topo é o agente humano fazendo uma pergunta ao Echo, e fornecendo à Amazon valiosos dados de treinamento (perguntas e respostas) que podem ser usados para refinar ainda mais seus sistemas de IA ativados por voz. Na parte de baixo do mapa está outro tipo de recurso humano: a história de seus conhecimentos e capacidades, que também é usada para treinar e otimizar sistemas de inteligência artificial. Esta é uma diferença chave entre sistemas de inteligência artificial e outras formas comerciais de tecnologia: eles são baseados na ingestão, análise e otimização de vastas quantidades de imagens, textos e vídeos gerados por seres humanos.

VI

Quando um ser humano interage com um Echo, ou outro dispositivo IA acionado por voz, ele age como muito mais que apenas um consumidor final. É difícil encaixar o usuário humano de um sistema IA em apenas uma categoria: em lugar disso ele merece ser considerado um caso híbrido.  Assim como a quimera grega era um animal mitológico que era parte leão, cabra, serpente e monstro, o usuário do Echo é simultaneamente um consumidor, um recurso, um trabalhador e um produto. Essa identidade múltipla é recorrente para usuários humanos em muitos sistemas tecnológicos. No caso específico do Amazon Echo, o usuário comprou um dispositivo comercial que lhe oferece recursos convenientes. Mas ele também é um recurso, uma vez que seus comandos de voz são coletados, analisados e armazenados com o objetivo de construir um corpus sempre crescente de vozes e instruções humanas. E ele realiza trabalho, uma vez que constantemente desempenha o valioso serviço de contribuir com mecanismos de retroalimentação ligados à precisão, utilidade, e qualidade geral da respostas de Alexa. Ele está, em essência, ajudando a treinar as redes neurais imersas na infraestrutura da Amazon.

VII

Tudo aquilo que transcende as limitadas interfaces física e digital do próprio dispositivo está fora do controle do usuário. O dispositivo apresenta uma superfície lustrosa que não permite a sua abertura, conserto ou mudança em seu funcionamento. O objeto em si é uma extrusão simples de plástico com uma conjunto de sensores – seu verdadeiro poder e complexidade residem alhures, fora de vista. O Echo não passa de uma ‘orelha’ em casa: um agente auditivo desencarnado, que nunca revela suas profundas conexões com sistemas remotos.

Em 1673, o polimato jesuíta Athanasius Kircher inventou a statua citofonica – ‘estátua falante’. Kircher era um inventor e um extraordinário pesquisador interdisciplinar. Em sua vida, ele publicou 40 grandes obras atravessando os campos da medicina, geologia, religião comparada e música. Ele inventou o primeiro relógio magnético, diversos autômatos pioneiros e o megafone. A sua estátua falante era um sistema de escuta muito antigo: era essencialmente um microfone feito de um gigante tubo espiralado, que transmitia conversas de uma praça pública pelo tubo e as canalizava pela boca da estátua, mantida na câmara privada de algum aristocrata. Kircher escreveu:

Esta estátua deve ser colocada em um local que permita à seção final do tubo espiralado corresponder precisamente à abertura da sua boca. Dessa maneira ela será perfeitamente capaz de emitir claramente qualquer tipo de som: em verdade, a estátua será capaz de falar continuamente tanto com vozes humanas quanto animais: ela vai rir ou zombar; ela parecerá realmente chorar ou gemer; às vezes ela surpreenderá com fortes sopros. Se a abertura do tubo espiralado for colocada em correspondência com um espaço público aberto, todas as palavras pronunciadas, e direcionadas para o tubo, serão reproduzidas através da boca de estátua.” [11]

O sistema de escuta poderia bisbilhotar conversas cotidianas na praça, e transmiti-las para os oligarcas italianos do século XVII. A estátua falante de Kircher era uma forma precoce de obtenção de informações para as elites – pessoas conversando na rua não teriam nenhuma indicação de que suas conversas estavam sendo canalizadas para aqueles que instrumentalizariam esse conhecimento para aumentar seu próprio poder, diversão e riqueza. Pessoas dentro das casas de aristocratas não teriam a mínima ideia de como a estátua mágica estava falando e transmitindo toda espécie de informação. O objetivo era obscurecer como o sistema funcionava: uma estátua elegante era tudo o que eles conseguiam ver. Sistemas auditivos, mesmo nesse estágio inicial, eram sobre poder, classe e segredo. Mas a infraestrutura para o sistema de Kircher era proibitivamente cara – disponível apenas para muito poucos. Então a pergunta permanece, quais são as implicações plenas, em termos de recursos, de construir tais sistemas? Isso nos traz à materialidade da infraestrutura subjacente.

                                                     Statua citofonica, por Athanasius Kircher (1673)

VIII

Em seu livro A Geology of Media Jussi Parikka sugere que tentemos pensar os meios de comunicação, não da perspectiva de Marshall McLuhan – segundo a qual eles são extensões dos sentidos humanos [12] – , mas como uma extensão da Terra. [13] As tecnologias de comunicação deveriam ser compreendidas no contexto de um processo geológico, dos processos de criação e transformação, aos movimentos dos elementos naturais dos quais essas tecnologias são construídas. Refletir sobre tecnologia de comunicação com processos geológicos nos permite considerar o profundo esgotamento de recursos não renováveis exigidos para fazer funcionar as tecnologias atuais. Cada objeto na rede estendida de um sistema IA, de roteadores de rede a baterias e microfones, é construído usando elementos que exigiram bilhões de anos para serem produzidos. Olhando da perspectiva do tempo profundo, estamos explorando a história da Terra para servir a meio segundo de tempo tecnológico, para construir dispositivos que são frequentemente projetados para serem usados por apenas alguns anos. Por exemplo, a Consumer Technology Association nota que o tempo médio de vida de um smartphone é de 4,7 anos. [14] Esse ciclo de obsolescência alimenta a compra de mais dispositivos, aumenta os lucros, e aumenta os incentivos para o uso de práticas  extrativistas não sustentáveis. Partindo de um processo lento de desenvolvimento elemental, esses elementos e materiais atravessam um período extraordinariamente rápido de escavação, fundição, mistura e transporte logístico – atravessando milhares de quilômetros em sua transformação. Processos geológicos marcam tanto o início quanto o fim desse período, da extração do minério à deposição do material em um lixão eletrônico. Por isso, nosso mapa começa e termina com a crosta terrestre. Porém, todas as transformações e movimentos que ilustramos são apenas o contorno anatômico mais simples: por baixo dessas conexões estão muitas outras camadas de cadeias fractais de fornecedores, de exploração de recursos humanos e naturais, de concentração de poder corporativo e geopolítico e de consumo contínuo de energia.

IX

Delineando as conexões entre recursos, trabalho e extração de dados nos traz inevitavelmente de volta aos enquadramentos tradicionais de exploração. Mas como o valor está sendo gerado por meio desse sistema? Uma ferramenta conceitual útil pode ser encontrada no trabalho de Christian Fuchs e outros autores examinando e definindo trabalho digital. A noção de trabalho digital, que era inicialmente ligada a diferentes formas de trabalho imaterial, precede a vida dos dispositivos e sistemas complexos como a inteligência artificial. O trabalho digital – o trabalho de construção e manutenção da estrutura de sistemas digitais – não é nada efêmero ou virtual, antes sendo profundamente incorporado em diferentes atividades. [15] O escopo é arrebatador : de trabalho forçado nas minas para a extração de minerais que formam a base física das tecnologias de informação; ao trabalho em processos de produção e montagem de hardware estritamente controlados e por vezes perigoso em fábricas chinesas; à exploração de trabalhadores cognitivos, terceirizados em países em desenvolvimento, classificando conjuntos de dados de treinamento IA; aos trabalhadores informais físicos limpando depósitos de lixo tóxico. Esses processos criam novas acumulações de riqueza e poder, que são concentradas em uma camada social muito fina.

         A dialética do sujeito e do objeto na economia segundo Marx

X

Esse triângulo da extração e produção de valor representa um dos elementos básicos do nosso mapa, do nascimento em um processo geológico, pela vida como um produto de consumo IA, até a morte em um lixão eletrônico. Como no trabalho de Fuchs, nossos triângulos não estão isolados, mas ligados uns aos outros no processo produtivo. Eles formam um fluxo cíclico no qual o produto do trabalho é transformado em um recurso, que é transformado em um produto, que transformado em um recurso e assim por diante. Cada triângulo representa uma fase no processo produtivo. Apesar de isso aparecer no mapa como um caminho linear de transformação, uma metáfora visual diferente representa melhor a complexidade do extrativismo atual: a estrutura fractal conhecida como o triângulo de Sierpinski.

A disposição linear não nos permite mostrar que cada passo de produção e exploração contem as fases anteriores. Se olharmos para o sistema de produção e exploração por meio de uma estrutura visual fractal, o menor triângulo representaria recursos naturais e meios de trabalho, i.e. o minerador como trabalho e o minério como produto. O triângulo imediatamente maior engloba o processamento dos metais, e o seguinte representaria o processo de fabricação de componentes e assim por diante. O último triângulo em nosso mapa, a produção do próprio aparelho do Amazon Echo, inclui todos esses níveis de exploração – da base ao topo da Amazon Inc, o lugar ocupado por Jeff Bezos como CEO da Amazon. Como um faraó do antigo Egito, ele se ergue no topo da maior pirâmide de extração de valor IA.

                                                  Fractal/triângulo de Sierpinski

XI

Retornando ao elemento básico dessa visualização – uma variação do triângulo da produção de Marx – cada triângulo cria uma mais-valia para a criação de lucro. Se olharmos para a escala da renda média para cada atividade no processo produtivo de um dispositivo, que é mostrado do lado esquerdo do nosso mapa, veremos a diferença dramática na renda ganha. De acordo com pesquisa realizada pela Anistia Internacional, durante a escavação de cobalto, que também é usado em baterias de lítio de 16 marcas multinacionais, trabalhadores são pagos o equivalente a 1 dólar americano por dia de trabalho em condições de risco à vida e à saúde, e eram frequentemente sujeitados a violência, extorsão e intimidação. [16] A Anistia documentou crianças a partir de 7 anos trabalhando nas minas. Em contraste, o CEO da Amazon Jeff Bezos, no topo de nossa pirâmide fractal ganhou em média US$ 275 milhões por dia durante os 5 primeiros meses de 2018, de acordo com o Bloomberg Billionaires Index. [17] Uma criança trabalhando numa mina no Congo levaria mais do que 700 mil anos de trabalho ininterrupto para ganhar o mesmo de Bezos ganha em um dia.

Muitos dos triângulos mostrados nesse mapa escondem diferentes estórias de exploração do trabalho e condições desumanas de trabalho. O preço ecológico da transformação de elementos e as disparidades de renda são apenas uma das maneiras possíveis de representar uma desigualdade sistêmica profunda. Nós mesmos pesquisamos diferentes formas de ‘caixas pretas’ entendidas como processos algorítmicos, [18] mas esse mapa aponta para outra forma de opacidade: os próprios processos de criação, treinamento e operação de um dispositivo como o Amazon Echo são, eles mesmos, caixas pretas muito difíceis de examinar e rastrear in toto dadas as múltiplas camadas de contratantes distribuidores e parceiros logísticos ao redor do mundo. Como escreve Mark Graham, “o capitalismo contemporâneo oculta dos consumidores as histórias e geografias da maior parte das mercadorias. Os consumidores normalmente só conseguem ver mercadorias no aqui e agora do tempo e do espaço, e raramente têm qualquer oportunidade de olhar para trás através da cadeia de produção de forma a adquirir conhecimento sobre os locais de produção, transformação e distribuição.” [19]

Uma ilustração da dificuldade de investigar e rastrear o processo da cadeia de produção contemporânea é que a Intel levou mais de 4 anos para entender sua linha de fornecedores bem o suficiente para garantir que nenhum tântalo do Congo estava em seus microprocessadores. Como uma fabricante de chips semicondutores, a Intel fornece processadores para a Apple. Para isso a Intel tem sua própria cadeia, sobrepondo mais de 19,000 fornecedores, em mais de 100 países, fornecendo materiais diretos para seus processos produtivos, ferramentas e máquinas para suas fábricas, e serviços de logística e empacotamento. [20] Que tenha levado 4 anos para uma companhia líder de tecnologia apenas entender sua própria cadeia de fornecedores, revela exatamente quão difícil é apreender este processo a partir de dentro, imagine para pesquisadores externos e acadêmicos. A Philips, empresa de tecnologia baseada na Holanda, também afirmou que está trabalhando para tornar sua cadeia de fornecedores ‘livre de conflito’. Ela tem, por exemplo, dezenas de milhares de diferentes fornecedores, cada um fornecendo diferentes componentes para seus processos de produção. [21] Esses fornecedores são, eles mesmos, ligados a dezenas de milhares de fabricantes de componentes, e adquirem materiais de centenas de refinarias, que compram ingredientes de diferentes fundições, que são alimentadas por um número desconhecido de comerciantes que negociam diretamente com operações de mineração legais e ilegais. Em The Elements of Power, David S. Abraham descreve as redes invisíveis de comerciantes de metais raros em cadeias de fornecimento globais de eletrônicos: “A rede para levar metais raros da mina para o seu laptop viaja por uma rede nebulosa de comerciantes, processadores e fabricantes de componentes. Comerciantes são intermediários que fazem mais do que comprar e vender metais raros: eles são o elo escondido que ajuda a regular a informação e a navegar na rede entre os fabricantes de metais e os componentes em nossos laptops.” [22] De acordo com a companhia fabricante de computadores Dell, as complexidades da cadeia de fornecimento de metais colocam desafios quase insuperáveis. [23] A mineração desses minerais ocorre muito antes da montagem de um produto final, tornando extremamente difícil o rastreamento da origem dos minerais. Além disso, muitos minerais são fundidos juntos com metais reciclados, tornando praticamente impossível rastrear sua origem. Então vemos que a tentativa de capturar toda a cadeia de fornecimento é uma tarefa verdadeiramente gigantesca: revelando toda a complexidade da produção global de produtos tecnológicos no século XXI.

XII

Cadeias de fornecimento são normalmente sobrepostas umas às outras, numa rede que se esparrama. O programa de fornecedores de Apple revela a existência de dezenas de milhares de componentes individuais incluídos em seus dispositivos, que são, por sua vez, fornecidos por centenas de companhias diferentes. Para que cada um desses componentes chegue à linha de montagem final onde será montado por trabalhadores nas fábricas da Foxconn, diferentes componentes precisam ser fisicamente transferidos de mais de 750 locais de fornecimento, através de 30 diferentes países. [24]  Isso se torna uma estrutura complexa de cadeias de fornecimento dentro de cadeias de fornecimento, um zoom fractal de dezenas de milhares de fornecedores, milhões de quilômetros de transporte de materiais e centenas de milhares de trabalhadores incluídos no processo mesmo antes de o produto ser montado na linha. 

Visualizar esse processo como uma rede global pancontinental através da qual fluem materiais, componentes e produtos, enxergamos um analogia com a rede global de informação. Onde existe um único pacote de internet viajando para um Amazon Echo, aqui podemos imaginar um único contêiner de navio. [25] O espetáculo estonteante da logística e produção global não será possível sem invenção desse objeto simples e estandardizado de metal. Contêineres estandardizados de navio permitiram a explosão da industria de navegação moderna, que tornou possível modelar o planeta como uma única e massiva fábrica. Em 2017, a capacidade de navios no comércio marítimo alcançou quase 250 milhões de  toneladas de peso morto [dead-wheight tons], dominado por companhias de navegação gigantes como a Maersk da Dinamarca, a Mediterranean Shipping Company da Suíça, e o CMA CGM Group da França, cada uma delas proprietária de centenas de contêineres. [26] Para esses empreendimentos comerciais, o transporte por navio de carga é uma maneira relativamente barata de atravessar o sistema vascular da fábrica global, mas ele disfarça custos externos muito maiores.

Em anos recentes, navios de carga produziram 3,1% das emissões globais anuais de CO2, mais do que todo o país da Alemanha. [27] Para minimizar os custos internos, a maioria das empresas de transporte de contêineres utiliza combustível de muita baixa qualidade em enormes quantidades, o que leva ao aumento do montante de enxofre no ar, entre outras substâncias tóxicas. Foi estimado que um navio porta-contêineres pode emitir tanta poluição quanto 50 milhões de carros, e 60.000 mortes em todo o mundo são anualmente atribuídas indiretamente a questões relacionadas à poluição da indústria de navios de carga. [28] Até mesmo fontes favoráveis ao setor, como o World Shipping Council, admitem que milhares de contêineres são perdidos anualmente, no fundo do oceano ou boiando à deriva. [29] Alguns carregam substâncias tóxicas que vazam para os oceanos. Tipicamente, os trabalhadores passam 9 a 10 meses no mar, geralmente com longos turnos de trabalho e sem acesso a comunicações externas. Trabalhadores das Filipinas representam mais de um terço da força de trabalho do transporte marítimo. [30] Os custos mais pesados da logística global são arcados pela atmosfera, pelo ecossistema oceânico e tudo o que ele contém, e pelos trabalhadores mais mal pagos.

                                                                                                  Contêiner

XIII

A complexidade e miniaturização crescentes de nossa tecnologia depende do processo que  estranhamente ecoa as esperanças da antiga alquimia medieval. Enquanto os alquimistas medievais visavam transformar metais comuns em metais ‘nobres’, pesquisadores hoje usam terras raras para aumentar o desempenho de outros minerais. Existem 17 elementos classificados como terras raras que estão embutidas em laptops e smartphones, tornando-os menores e mais leves. Eles desempenham um papel em telas coloridas, auto falantes, lentes de câmeras, sistemas de GPS, baterias recarregáveis, discos rígidos e muitos outros componentes. Eles são elementos-chave em sistemas de comunicação, de cabos de fibra ótica e amplificação de sinal em torres de comunicação móvel, a satélites e tecnologia GPS. Mas a configuração e o uso precisos desses minerais é difícil de determinar. Assim como alquimistas medievais escondiam suas pesquisas atrás de cifras e um simbolismo críptico, processos contemporâneos para o uso de minerais em dispositivos são protegidos atrás de Acordos de Não-Divulgação (Non-Disclosure Agreement, NDA) e segredos comerciais.

As características eletrônicas, óticas e magnéticas únicas das terras raras não são rivalizadas por nenhum outro metal ou substituto sintético descoberto até hoje. Apesar desses elementos serem chamados de ‘terras raras’, alguns são relativamente abundantes na crosta terrestre, mas a sua extração é cara e muito poluente. David Abraham descreve a mineração de disprósio e de térbio usados em diversos dispositivos high-tech em Jianxi, na China. Ele escreve: “apenas 0,2 % da argila minerada contêm as valiosas terras raras. Isso significa que 99,8 % da terra removida na mineração de terras raras é descartada como lixo chamado “rejeito”, que é jogado de volta nas montanhas e rios”, criando novos poluentes como amônio. [31] Para refinar uma tonelada de terras raras, “a Sociedade Chinesa de Terras Raras estima que o processo produza 75,000 litros de água ácida e uma tonelada de resíduo radioativo.”[32] Além disso, atividades como mineração e refinamentos consomem grandes quantidades de água e geram grandes quantidades de emissões de CO2. Em 2009 a China produziu 95% do suprimento mundial desses elementos, e foi estimado que a mina conhecida como Bayan Obo sozinha contém 70% das reservas mundiais. [33]

                                                                        Terras raras

XIV

Uma imagem de satélite da pequena ilha da Indonésia chamada Bangka conta uma história sobre as dívidas humana e ambiental da produção de semicondutores. Nessa pequena ilha, mineiros informais ficam sobre pontões improvisados usando varas de bambu para raspar o fundo do mar, e então mergulham para sugar estanho da superfície por meio de tubos aspiradores gigantes. Como uma investigação do Guardian  reportou, “a mineração de estanho é um negócio lucrativo, mas destrutivo, que tem aterrado a paisagem da ilha, decepado suas fazendas e florestas, matado suas reservas de peixe e recifes de corais, e encurralado o turismo em suas belas praias com fileiras de coqueiros. O estrago é melhor visto de cima, à medida que bolsões de floresta exuberante se amontoam em meio a imensas faixas de terra laranja estéril. Nos lugares não dominados por minas, pipocam túmulos, muitos com corpos de mineradores que morreram ao longo dos séculos cavando em busca de estanho.” [34] Duas pequenas ilhas, Bangka e Belitung, produzem 90% do estanho da Indonésia, e a Indonésia é o segundo maior exportador mundial do metal. A corporação nacional de estanho da Indonésia, PT Timah, fornece diretamente para companhias como a Samsung, assim como para as fabricantes de solda Chernan e Shenmao, que por sua vez fornecem para Sony, LG e Foxconn. [35]

XV

Nos centros de distribuição da Amazon, vastas coleções de produtos são dispostas numa ordem computacional ao longo de milhões de prateleiras. A posição de cada item nesse espaço é precisamente determinada por funções matemáticas complexas que processam informação sobre pedidos e criam relações entre produtos. O objetivo é otimizar os movimentos dos robôs e dos humanos que colaboram nesses galpões. Com a ajuda de uma pulseira eletrônica, o trabalhador humano é direcionado através de galpões do tamanho de hangares de avião, cheios de objetos arrumados numa ordem algorítmica opaca. [36]

Escondido em meio a milhares de patentes públicas possuídas pela Amazon, a patente número U.S. 9,280,157 representa uma ilustração extraordinária da alienação do trabalhador, um momento decisivo na relação entre humanos e máquinas. [37] Ela retrata uma gaiola de metal feita para o trabalhador, equipada com diferentes complementos cibernéticos, que pode ser movida em um galpão pelo mesmo sistema motorizado que eleva prateleiras cheias de mercadorias. Aqui, o trabalhador se torna parte de um balé maquínico, mantido em pé numa gaiola que dita e constrange seus movimentos.

Como vimos repetidas vezes na pesquisa para nosso mapa, futuros distópicos são construídos em cima de regimes distópicos desigualmente distribuídos do passado e do presente, espalhados por uma série de cadeias de produção de dispositivos técnicos modernos. Aqueles cada vez menos numerosos no topo da pirâmide fractal de extração de valor vivem em extraordinária riqueza e conforto. Mas a maior parte das pirâmides é feita dos túneis escuros das minas, lagos de lixo radioativo, contêineres descartados e dormitórios das fábricas das corporações.

                                                   Amazon patent number 20150066283 A1

 

XVI

No final do século XIX, uma árvore específica do sudeste asiático chamada palaquium gutta se tornou o centro de uma explosão tecnológica. Essas árvores, encontradas principalmente na Malásia, produzem um látex natural branco e leitoso chamado gutta percha. Após o cientista inglês Michael Faraday publicar um estudo na The Philosophical Magazine em 1848 sobre o uso desse material como um isolante elétrico, a gutta percha rapidamente se tornou “a queridinha” do mundo da engenharia. Ela era vista como a solução para o problema do isolamento de cabos telegráficos para que suportassem as condições do fundo do oceano. Junto com o crescimento dos negócios submarinos globais, cresceu também a procura por troncos de palaquium gutta. O historiador John Tully descreve como trabalhadores malaios, chineses e dayaks recebiam pouco pelo trabalho perigoso de derrubar as árvores e lentamente coletar o látex. [38] O látex era processado e então vendido, nos mercados de Singapura, para o mercado inglês, onde ele era transformado em, entre outras coisas longas extensões de revestimento para cabos submarinos.

Uma palaquium gutta madura poderia render aproximadamente 300 gramas de látex. Mas em 1857, o primeiro cabo transatlântico tinha cerca de 3.000 km de extensão e pesava 2.000 toneladas – exigindo cerca de 250 toneladas de gutta percha. Para produzir apenas uma tonelada desse material era necessário cerca de 900 mil troncos de árvore. As florestas da Malásia e de Singapura foram derrubadas, e no início dos anos 1880 a palaquium gutta havia desaparecido. Num esforço derradeiro para salvar sua cadeia produtiva, os ingleses baniram a colheita de látex em 1883 mas a árvore já havia sido extinta. [39]

O desastre ambiental vitoriano da gutta percha, nas primeiras origens da sociedade informacional global, mostra como as relações entre tecnologia e suas materialidades, ambientes e diferentes formas de exploração, estão imbricadas. Assim como os vitorianos precipitaram um desastre ecológico pelos seus primeiros cabos, a mineração de terras raras e as cadeias globais de fornecimento aumentam o perigo do delicado equilíbrio ecológico de nossa época. Do material usado para construir a tecnologia que torna possível a sociedade contemporânea em rede, à energia necessária para transmitir, analisar e armazenar os dados fluindo em infraestruturas massivas, à materialidade da infraestrutura: essas conexões e custos profundos são mais significantes, e têm uma história muito mais longa, do que é normalmente representado nos imaginários corporativos da IA. [40]

                                                                                                  Palaquium gutta

XVII

Sistemas IA de grande escala consomem quantidades enormes de energia. Porém os detalhes materiais desse custos permanecem vagos na imaginação social. Continua difícil conseguir detalhes precisos sobre a quantidade de energia consumida por serviços de computação em nuvem. Um relatório da Greenpeace afirma: “um dos maiores obstáculos individuais para a transparência setorial é o Amazon Web Services (AWS). A maior companhia de computação de nuvem do mundo permanece quase completamente não-transparente sobre a pegada energética de suas operações massivas. Entre os fornecedores globais de serviços em nuvem, apenas o AWS ainda se recusa a tornar públicos detalhes básicos sobre o desempenho  energético e o impacto ambiental associado às sua operações.” [41]

Como agentes humanos, somos visíveis em quase toda interação com plataformas tecnológicas. Estamos sempre sendo rastreados, quantificados, analisados e comercializados. Mas em contraste à visibilidade do usuário, os detalhes precisos sobre as fases de nascimento, vida e morte de dispositivos em rede são obscurecidas. Com dispositivos emergentes como o Echo dependendo de uma infraestrutura IA centralizada e fora de vista, mas detalhes ainda ficam nas sombras.

Enquanto consumidores se acostumam a um pequeno dispositivo de hardware nas suas salas de estar, ou um aplicativo de celular, ou um carro semi-autônomo, o verdadeiro trabalho está sendo feito em meio a sistemas de aprendizado de máquina que estão geralmente distantes do usuário,  e totalmente invisíveis a ele. Em muitos casos, a transparência não ajudaria muito – sem formas de escolha real, e prestação de contas corporativa, a mera transparência não mudará o peso das atuais assimetrias de poder.[42]

Os outputs dos sistemas de aprendizado de máquinas não são geralmente supervisionados, tampouco acessíveis à prestação de contas, enquanto os inputs são enigmáticos. Para o observador casual, parece que nunca foi tão fácil construir IA ou sistemas baseados em aprendizados de máquina como hoje em dia. A disponibilidade de ferramentas open-source para fazer isso, somadas ao poder computacional alugável de superpoderes das nuvens como Amazon (AWS), Microsoft (Azure) ou Google (Google Cloud), esta dando origem à falsa ideia da ‘democratização’ da IA. Enquanto ferramentas de aprendizado de máquinas ‘off the shelf’ como TensorFlow, estão se tornando mais acessíveis da perspectiva de montar seu próprio sistema, as lógicas subjacentes desses sistemas, e as bases de dados para treiná-los são acessíveis a, e controlados por, muito poucas entidades. Na dinâmica da coleta de dados por plataformas como Facebook, usuários estão alimentando e treinando as redes neurais com dados comportamentais, voz, imagens marcadas e vídeos ou dados médicos. Numa era de extrativismo, o valor real desses dados é controlado e explorado pelos muito poucos no topo da pirâmide.

XVIII

Quando bancos de dados massivos são usados para treinar sistemas IA, as imagens e vídeos individuais envolvidos são normalmente marcadas e rotuladas. [43] Há muito para ser dito sobre como esse processo de rotulação revoga e cristaliza sentido, e também sobre como esse processo é movido por trabalhadores que ganham frações de centavos por unidade de microtrabalho digital.

Em 1770, o inventor húngaro Wolfgang von Kempelen construiu uma máquina jogadora de xadrez conhecida como Turco Mecânico. Seu objetivo, em parte, era impressionar a Imperatriz Maria Theresa da Áustria. Esse dispositivo era capaz de jogar xadrez contra um oponente humano e fazia um sucesso espetacular ganhando a maioria dos jogos jogados durante suas demonstrações ao redor da Europa e das Américas por quase nove décadas. Mas o Turco Mecânico era uma ilusão que permitia a um mestre de xadrez humano se esconder dentro da máquina e operá-la. Cerca de 160 anos depois, Amazon.com cunhou sua plataforma de crowdsourcing por micropagamentos com o mesmo nome. De acordo com Ayhan Aytes, a motivação inicial da Amazon para construir o Turco Mecânico surgiu depois do fracasso de seus programas de inteligência artificial na tarefa encontrar paginas de produtos duplicados em seu site de vendas. [44] Depois de uma série de tentativas fúteis e dispendiosas, os engenheiros do projeto incluíram humanos trabalhando atrás dos computadores em meio ao sistema de internet simplificado. [45] A oficina digital Turco Mecânico da Amazon emula sistemas de inteligência artificial ao checar, avaliar e corrigir processos de aprendizado de máquina com poder mental humano. Com o Turco Mecânico da Amazon, pode parecer para os usuários que uma aplicação esta usando inteligência artificial avançada para cumprir tarefas. Mas ela está mais perto de uma forma de ‘inteligência artificial artificial’, movida por uma força de trabalhadores-de-click distante, dispersa e mal paga que ajuda um cliente a alcançar seus objetivos comerciais. Como observa Aytes, “em ambos os casos [tanto o Turco Mecânico de 1770 quanto a versão contemporânea do serviço da Amazon] o desempenho dos trabalhadores que movem o artifício é obscurecido pelo espetáculo da máquina.” [46]

Esse tipo de trabalho invisível e escondido, terceirizado ou colaborativo, escondido atrás de interfaces e camuflado em meio a processos algorítmicos é agora comum, particularmente no processo de marcar e rotular milhares de horas de arquivos digitais para alimentar redes neurais. Às vezes esse trabalho nem mesmo é pago, como no caso do reCAPTCHA da Google. Em um paradoxo que muitos de nós já experimentamos, para provar que você não é um agente artificial, você é forçado a treinar, de graça, o sistema IA da Google de reconhecimento de imagens selecionando múltiplas caixas que contêm números de ruas, carros ou casas.

Como vemos repetidamente por todo o sistema, formas contemporâneas de inteligência artificial não são tão artificiais assim. Podemos falar do trabalho físico duro dos trabalhadores nas minas, do trabalho repetitivo na linha de montagem da fábrica, do trabalho cibernético nos centros distribuição, nos sweatshops cognitivos cheios de programadores terceirizados ao redor do mundo, no trabalho distribuído mal pago envolvido no Turco Mecânico, ou o trabalho imaterial não pago dos usuários. Em todos os níveis a tecnologia contemporânea é profundamente enraizada na, e sendo movida pela, exploração de corpos humanos.

                                                                                        Turco mecânico

XIX

Em sua curta história de um parágrafo “On Exactitude in Science”, Jorge Luis Borges nos apresenta um império imaginário no qual a ciência cartográfica se tornou tão desenvolvida e precisa, que exigia um mapa da mesma escala do próprio império. [47]

“…Naquele Império, a Arte da Cartografia alcançou tal Perfeição que o mapa de uma só Província ocupava a totalidade da Cidade, e o mapa do Império, a totalidade da Província. Com o tempo aqueles Mapas Inconcebíveis não satisfaziam mais, e as Corporações de Cartógrafos responderam com um Mapa de todo o Império cujo o tamanho era o mesmo do Império, e que coincidia ponto a ponto com ele. As Gerações seguintes, que não apreciavam tanto o Estudo da Cartografia como seus Antepassados, viram que um mapa tão vasto era Inútil e, um tanto impiedosamente, o abandonaram às Inclemências do Sol e dos Invernos. Nos desertos do Oeste, ainda hoje, existem Ruínas Esfarrapadas daquele Mapa, habitadas por Animais Mendigos; em toda a Terra não existe outra Relíquia das Disciplinas da Geografia.”

Abordagens atuais de aprendizado de máquina são caracterizadas por uma ambição de mapear o mundo, uma quantificação completa de regimes de realidade visuais, auditivos e de reconhecimento. De um modelo cosmológico para o universo ao mundo das emoções humanas como interpretado por meio de sutis movimentos musculares faciais, tudo se torna um objeto de quantificação. Jean-François Lyotard introduziu a frase “afinidade pelo infinito” para descrever como a arte contemporânea, a tecnociência e o capitalismo compartilham da mesmo ambição de empurrar fronteiras rumo a horizontes potencialmente infinitos. [48] A segunda metade do século XIX, com seu foco na construção de infraestrutura e a transição desigual para a sociedade industrializada, gerou uma riqueza enorme para o pequeno número de magnatas industriais que monopolizaram a exploração dos recursos naturais e os processos de produção.

O novo horizonte infinito e a extração de dados, o aprendizado de máquina e a reorganização de informação por meio de sistemas de inteligência artificial com processamento híbrido humano e maquínico. Os territórios são dominados por poucas mega-companhias globais, que estão criando novas infraestruturas e mecanismos para a acumulação de capital e exploração de recursos humanos e planetários.

Essa sede irrestrita por novos recursos e campos de exploração cognitiva tem movido uma busca por camadas cada vez mais profundas de dados que podem ser usados para quantificar a psique humana, consciente e inconsciente, privada e pública, idiossincrática e geral. Dessa forma, temos visto a emergência de múltiplas economias cognitivas a partir das economias da atenção, [49] da vigilância, da reputação [50] e da emoção, assim como a quantificação e comercialização da confiança e da evidência por meio das criptomoedas.

Cada vez mais, o processo de quantificação esta avançando sobre os mundos afetivo, cognitivo e físico do ser humano. Existem pacotes de treinamento para a detecção de emoções, para semelhança familiar, para rastrear um indivíduo ao longo de seu envelhecimento, e para ações humanas como sentar, acenar, levantar um copo ou chorar. Toda forma de biodado – incluindo forense, biométrico, sociométrico e psicométrico – esta sendo capturada e registrada em bases de dados para treinamento IA. Essa quantificação geralmente funciona sobre fundações muito limitadas: bases de dados como AVA, que mostram sobretudo mulheres na categoria de ação ‘brincando com criança’, e homens na categoria ‘chutando uma pessoa’. Os pacotes de treinamento para sistemas IA afirmam estar alcançando a natureza fina dos detalhes da vida cotidiana, mas eles repetem os padrões sociais mais estereotipados e restritos, re-inscrevendo uma visão normativa do passado humano e projetando-a para o futuro humano.

                                                                                       Quantificação da natureza

XX

“O ‘cercamento’ da biodiversidade e do conhecimento é o passo final numa série de cercamentos que começaram com a ascensão do colonialismo. Terra e florestas foram os primeiros recursos a serem ‘cercados’ e convertidos de comuns em mercadorias. depois disso, recursos hídricos foram ‘cercados’ com represas, mineração de lençóis freáticos e esquemas de privatização. Agora é a vez da biodiversidade serem ‘cercados’ pelos direitos de propriedade intelectual,” explica Vandana Shiva. [51] Nas palavras de Shiva, “a destruição dos comuns foi essencial para a revolução industrial, para fornecer um suprimento de recursos naturais para a matéria prima da indústria. Um sistema de suporte à vida pode ser compartilhado, não pode ser possuído como propriedade privada e explorado para lucro particular. Os comuns, portanto, tiveram que ser privatizados, e a base de subsistência dessas pessoas nesses comuns teve que ser apropriada, para alimentar a máquina do progresso industrial e da acumulação de capital.”[52]

Enquanto Shiva se refere ao cercamento da natureza por direitos de propriedade intelectual, o mesmo processo está agora acontecendo com o aprendizado de máquina – uma intensificação de natureza quantificada. A nova corrida do ouro no contexto da inteligência artificial consiste em cercar diferentes campos de conhecimento, emoção e ação humanas, para capturar e privatizar esses campos. Quando, em novembro 2015, a DeepMind Technologies Ltd. obteve acesso ao arquivo médico de 1.6 milhões de pacientes identificáveis do Royal Free Hospital, testemunhamos uma forma particular de privatização: a extração de valor do conhecimento. [53] Uma base de dados pode permanecer de acesso público, mesmo que os meta-valores dos dados – o modelo criado por eles – sejam propriedade privada. Se é verdade que existem muitos bons motivos para buscar melhorar a saúde pública, existe um risco real envolvido se o custo disso for a privatização furtiva dos serviços médicos públicos. Este é um futuro no qual o trabalho humano localizado e especializado no sistema público é aumentado, e às vezes substituído, por sistemas IA corporativos privados e centralizados, que estão usando dados públicos para gerar enorme riqueza para os muito poucos.

                                                                    Fronteira corporativa

XXI

Neste momento, no século XXI, vemos uma norma forma de extrativismo se consolidando: uma que avança rumo aos confins mais longínquos da biosfera e às camadas mais profundas do ser humano afetivo e cognitivo. Muitos dos pressupostos sobre a vida humana feitos por sistemas de aprendizado de máquina são estreitos, normativos e carregados de erros. Não obstante, eles estão inscrevendo e construindo esses pressupostos em um novo mundo, e vão desempenhar um papel cada vez maior na distribuição de oportunidades, riqueza e conhecimento.

A estrutura necessária para interagir com o Amazon Echo vai muito além da ‘estrutura técnica’ multi-camada da modelagem de dados, do hardware, dos servidores e das redes. A estrutura completa avança muito mais longe rumo ao capital, ao trabalho e à natureza, e exige enormes quantidades de cada um deles. Os custos verdadeiros desses sistemas – social, ambiental, econômico e político – permanecem escondidos e podem continuar assim por algum tempo.

Nós oferecemos este mapa e este ensaio como uma forma de começar a enxergar através de um conjunto mais amplo de sistemas de extração. A escala necessária para construir sistemas de inteligência artificial é excessivamente complexa, obscurecida pela lei de propriedade intelectual e atolada em complexidade logística, para ser completamente compreendida no momento. E no entanto, você os aciona toda vez que emite um simples comando de voz para um pequeno cilindro na sua sala de estar: “Alexa, que horas são?”

E então o ciclo continua.

Cristiana de Oliveira Gonzalez é doutoranda no Instituto de Filosofia e Ciências Humanas da Unicamp
Pedro P. Ferreira é professor do Instituto de Filosofia e Ciências Humanas da Unicamp;  coordenador do Laboratório de Sociologia dos Processos de Associação (LaSPA) e do Grupo de Pesquisa Conhecimento, Tecnologia e Mercado (CTeMe).

NOTAS
[1]  Kate Crawford é Distinguished Research Professor na New York University, Principal Researcher na Microsoft Research New York, co-fundadora e co-diretora do AI Now Institute na NYU.
[2] Vladan Joler é professor na Academy of Arts da University of Novi Sad e fundador do SHARE Foundation. Ele está liderando o SHARE Lab, um laboratório de investigação, pesquisa e dados, para explorar diferentes aspectos técnicos e sociais da transparência algorítmica, a exploração do trabalho digital, infraestruturas invisíveis e caixas pretas tecnológicas.
[3] Amazon advertising campaign, “All-New Amazon Echo”, September 27, 2017, https://www.youtube.com/watch?v=ZLPmPzpqJN4.
[4] Emily Achtenberg, “Bolivia Bets on State-Run Lithium Industry,” NACLA, November 15, 2010, https://nacla.org/news/bolivia-bets-state-run-lithium-industry.
[5] Christine Negroni, “How to Determine the Power Rating of Your Gadget’s Batteries,” The New York Times, December 22, 2017, https://www.nytimes.com/2016/12/26/business/lithium-ion-battery-airline-safety.html.
[6] Jessica Shankleman et al., “We’re Going to Need More Lithium,” Bloomberg, September 7, 2017, https://www.bloomberg.com/graphics/2017-lithium-battery-future/.
[7] Nicola Clark e Simon Wallis, “Flamingos, Salt Lakes and Volcanoes: Hunting for Evidence of Past Climate Change on the High Altiplano of Bolivia,” Geology Today 33, no. 3 (May 1, 2017): 104, https://doi.org/10.1111/gto.12186.
[8] Kate Davies e Liam Young, Tales from the Dark Side of the City: The Breastmilk of the Volcano Bolivia and the Atacama Desert Expedition (London: Unknown Fields, 2016).
[9] Vincent Mosco, To the Cloud: Big Data in a Turbulent World (Boulder: Paradigm, 2014).
[10] Sandro Mezzadra e Brett Neilson, “On the Multiple Frontiers of Extraction: Excavating Contemporary Capitalism,” Cultural Studies 31, no. 2–3 (May 4, 2017): 185, https://doi.org/10.1080/09502386.2017.1303425.
[11] Lamberto Tronchin, “The ‘Phonurgia Nova’ of Athanasius Kircher: The Marvellous Sound World of 17th Century,” Proceedings of Meetings on Acoustics 4, no. 1 (June 29, 2008), 4: 015002, https://doi.org/10.1121/1.2992053.
[12] Marshall McLuhan, Understanding Media: The Extensions of Man (New York: Signet Books, 1964).
[13] Jussi Parikka, A Geology of Media (Minneapolis: University Of Minnesota Press, 2015), vii-viii.
[14] Chris Ely, “The Life Expectancy of Electronics,” Consumer Technology Association, September 16, 2014, https://www.cta.tech/News/Blog/Articles/2014/September/The-Life-Expectancy-of-Electronics.aspx.
[15] Christian Fuchs, Digital Labor and Karl Marx (London: Routledge, 2014).
[16] “This Is What We Die For: Human Rights Abuses in the Democratic Republic of the Congo Power the Global Trade in Cobalt” (London: Amnesty International, 2016), https://www.amnesty.org/download/Documents/AFR6231832016ENGLISH.PDF. Para uma descrição antropológica desses processos de mineração, ver: Jeffrey W. Mantz, “Improvisational Economies: Coltan Production in the Eastern Congo,” Social Anthropology 16, no. 1 (February 1, 2008): 34–50, https://doi.org/10.1111/j.1469-8676.2008.00035.x.
[17] Julia Glum, “The Median Amazon Employee’s Salary Is $28,000. Jeff Bezos Makes More Than That in 10 Seconds,” Time, May 2, 2018, http://time.com/money/5262923/amazon-employee-median-salary-jeff-bezos/.
[18] Frank Pasquale, The Black Box Society: The Secret Algorithms That Control Money and Information (Cambridge, MA: Harvard University Press, 2016).
[19] Mark Graham e Håvard Haarstad, “Transparency and Development: Ethical Consumption through Web 2.0 and the Internet of Things,” Information Technologies & International Development 7, no. 1 (March 10, 2011): 1.
[20] “Intel’s Efforts to Achieve a ‘Conflict Free’ Supply Chain” (Santa Clara, CA: Intel Corporation, May 2018), https://www.intel.com/content/www/us/en/corporate-responsibility/conflict-minerals-white-paper.html.
[21] “We Are Working to Make Our Supply Chain ‘Conflict-Free,’” Philips, 2018, https://www.philips.com/a-w/about/company/suppliers/supplier-sustainability/our-programs/conflict-minerals.html.
[22] David S. Abraham, The Elements of Power: Gadgets, Guns, and the Struggle for a Sustainable Future in the Rare Metal Age, Reprint edition (Yale University Press, 2017), 89.
[23] “Responsible Minerals Sourcing,” Dell, 2018, http://www.dell.com/learn/us/en/uscorp1/conflict-minerals?s=corp.
[24] “Apple Supplier Responsibility 2018 Progress Report” (Cupertino CA: Apple, 2018), https://www.apple.com/supplier-responsibility/pdf/Apple_SR_2018_Progress_Report.pdf.
[25] Alexander Klose, The Container Principle: How a Box Changes the Way We Think, trans. Charles Marcum II (Cambridge, MA: The MIT Press, 2015).
[26] “Review of Maritime Transport 2017” (New York and Geneva: United Nations, 2017), http://unctad.org/en/PublicationsLibrary/rmt2017_en.pdf.
[27] Zoë Schlanger, “If Shipping Were a Country, It Would Be the Sixth-Biggest Greenhouse Gas Emitter,” Quartz, April 17, 2018.
[28] John Vidal, “Health Risks of Shipping Pollution Have Been ‘Underestimated,’” The Guardian, April 9, 2009, sec. Environment, http://www.theguardian.com/environment/2009/apr/09/shipping-pollution.
[29] “Containers Lost At Sea – 2017 Update” (World Shipping Council, July 10, 2017), http://www.worldshipping.org/industry-issues/safety/Containers_Lost_at_Sea_-_2017_Update_FINAL_July_10.pdf.
[30] Rose George, Ninety Percent of Everything: Inside Shipping, the Invisible Industry That Puts Clothes on Your Back, Gas in Your Car, and Food on Your Plate (New York: Metropolitan Books, 2013), 22. Similar to our habit to neglect materiality of internet infrastructure and information technology, shipping industry is rarely represented in popular culture. Rose George calls this condition, “sea blindness” (2013, 4).
[31] id., 175.
[32] Ibid., Ib 176.
[33] Chris Lo, “The False Monopoly: China and the Rare Earths Trade,” Mining Technology, August 19, 2015, https://www.mining-technology.com/features/featurethe-false-monopoly-china-and-the-rare-earths-trade-4646712/.
[34] Kate Hodal, “Death Metal: Tin Mining in Indonesia,” The Guardian, November 23, 2012, http://www.theguardian.com/environment/2012/nov/23/tin-mining-indonesia-bangka.
[35] Cam Simpson, “The Deadly Tin Inside Your Smartphone,” Bloomberg, August 24, 2012, https://www.bloomberg.com/news/articles/2012-08-23/the-deadly-tin-inside-your-smartphone.
[36] Marcus Wohlsen, “A Rare Peek Inside Amazon’s Massive Wish-Fulfilling Machine,” Wired, June 16, 2014, https://www.wired.com/2014/06/inside-amazon-warehouse/.
[37] Wurman, Peter R. et al., System and Method for Transporting Personnel Within an Active Workspace, US 9,280,157 B2 (Reno, NV, arquivado 4 de setembro, 2013, e editado em 8 de março, 2016), http://pdfpiw.uspto.gov/.piw?Docid=09280157.
[38] John Tully, “A Victorian Ecological Disaster: Imperialism, the Telegraph, and Gutta-Percha,” Journal of World History 20, no. 4 (December 23, 2009): 559–79, https://doi.org/10.1353/jwh.0.0088.
[39] Ibid., 574.
[40] Ver Nicole Starosielski, The Undersea Network (Durham: Duke University Press Books, 2015).
[41] Gary Cook, “Clicking Clean: Who Is Winning the Race to Build a Green Internet?” (Washington, DC: Greenpeace, January 2017), 30, https://storage.googleapis.com/p4-production-content/international/wp-content/uploads/2017/01/35f0ac1a-clickclean2016-hires.pdf.
[42] Mike Ananny and Kate Crawford, “Seeing without knowing: Limitations of the transparency ideal and its application to algorithmic accountability,” New Media & Society 20.3 (2018): 973-989.
[43] Olga Russakovsky et al., “ImageNet Large Scale Visual Recognition Challenge,” International Journal of Computer Vision 115, no. 3 (December 1, 2015): 216, https://doi.org/10.1007/s11263-015-0816-y.
[44] Ayhan Aytes, “Return of the Crowds: Mechanical Turk and Neoliberal States of Exception,” in Digital Labor: The Internet as Playground and Factory, ed. Trebor Scholz (London: Routledge, 2012), 80.
[45] Jason Pontin, “Artificial Intelligence, With Help From the Humans,” The New York Times, March 25, 2007, sec. Business Day, https://www.nytimes.com/2007/03/25/business/yourmoney/25Stream.html.
[46] Aytes, “Return of the Crowds,” 81.
[47] Jorge Luis Borges, “On Exactitude in Science,” in Collected Fictions, trad. Andrew Hurley (New York: Penguin, 1999), 325.
[48] Jean Francois Lyotard, “Presenting the Unpresentable: The Sublime,” Artforum, April 1982.
[49] Yves Citton, The Ecology of Attention (Cambridge, UK: Polity, 2017).
[50] Shoshana Zuboff, “Big Other: Surveillance Capitalism and the Prospects of an Information Civilization,” Journal of Information Technology 30, no. 1 (March 1, 2015): 75–89, https://doi.org/10.1057/jit.2015.5.
[51] Vandana Shiva, The Enclosure and Recovery of The Commons: Biodiversity, Indigenous Knowledge, and Intellectual Property Rights (Research Foundation for Science, Technology, and Ecology, 1997).
[52] Vandana Shiva, Protect or Plunder: Understanding Intellectual Property Rights (New York: Zed Books, 2001)
[53] Alex Hern, “Royal Free Breached UK Data Law in 1.6m Patient Deal with Google’s DeepMind,” The Guardian, July 3, 2017, sec. Technology, http://www.theguardian.com/technology/2017/jul/03/google-deepmind-16m-patient-royal-free-deal-data-protection-act.