# data[].attributes.body
"The Entrepreneurial State: Debunking Private vs. Public Sector Myths"

Obs: Lembrem de ligar as legendas automáticas traduzidas para facilitar a compreensão. Tenham em mente que a tradução erra em que mais ou menos 10% a 15%.

# data[].attributes.attachment_link.title
The Entrepreneurial State: Debunking Private vs. Public Sector Myths | Mariana Mazzucato

# data[].attributes.headline
15/06 - Leitura da bibliografia obrigatória

# data[].attributes.subject
15/06 - Leitura da bibliografia obrigatória

# data[].attributes.body
1) Mazzucatto (2014) - Caps 3 e 4
MAZZUCATO, M. O Estado Empreendedor: desmascarando o mito do setor público vs setor privado.  São Paulo: Portfolio-Penguin, 2014.
2) Pradella (2017)
PRADELLA, L. The Entrepreneurial Stateby Mariana Mazzucato: A critical engagement. Competition and Change, v. 21, i. 1, pp. 61-69.

# data[].attributes.body
David Noble descreve na parte 1 de seu livro, "Comando e controle", nos capítulos 1 e 2, a formação do complexo militar-industrial-científico americano. Os capítulos chamam "The setting: the war abroad" e "The setting: the war at home". Vale à pena a leitura para quem tiver tempo e interesse.
NOBLE, D. (2011). Forces of Production: a Social History of Industrial Automation. New Brunswick and London: Transaction Publishers.

# data[].attributes.body
Até às 23:59 - depósito no SIGAA (aba tarefas)

# data[].attributes.body
"Karl Marx on Technology and Alienation"

Obs: legendas automáticas. Não compartilhar o link da palestra, pois ainda não foi publicada.

# data[].attributes.attachment_link.title
Ep_5 Amy Wendling _Karl Marx sobre a Tecnologia e a Alienação [legendado]

# data[].attributes.headline
24/06 - Leitura da bibliografia obrigatória

# data[].attributes.subject
24/06 - Leitura da bibliografia obrigatória

# data[].attributes.body
1) Braverman (1998) – caps. 7 e 8;
2) Feenberg (2002) – Introdução até a página 22

# data[].attributes.body
Até às 23:59 - depósito no SIGAA (aba tarefas)

# data[].attributes.body
"A China e a disputa pela hegemonia tecnológica"

Obs: Minha intervenção sobre as TIC enquanto sistema tecnológico ocorre a partir de 27 minutos

# data[].attributes.attachment_link.title
Webinário China atual – 2. a China e a disputa pela hegemonia tecnológica

# data[].attributes.body
1) Majerowicz (2021) - Introdução e Parte I

# data[].attributes.headline
08/07 - Palestra: Esther Majerowicz (UFRN)

# data[].attributes.subject
08/07 - Palestra: Esther Majerowicz (UFRN)

# data[].attributes.body
"Tecnologias de uso civil-militar: a indústria de microchips e a guerra"

# data[].attributes.attachment_link.title
Tecnologias de uso civil-militar: a indústria de microchips e a guerra-Profa. Dra. Esther Majerowicz

# data[].attributes.body
1) Majerowicz e Medeiros (2018)

# data[].attributes.body
"A infraestrutura da tecnologia 5G no Brasil: oportunidades e desafios"

# data[].attributes.attachment_link.title
A infraestrutura da tecnologia 5G no Brasil: oportunidades e desafios | 3º Webinar do Painel China

# data[].attributes.body
1) Majerowicz (2019)

# data[].attributes.body
Até às 23:59 - depósito no SIGAA (aba tarefas)

# data[].attributes.body
1) Pasquinelli e Joler (2020)

O Manifesto Nooscópio: Inteligência Artificial como Instrumento de Extrativismo do Conhecimento

# data[].attributes.attachment_link.readable_text
Este texto é uma tradução livre para o Português, publicada pela Lavits em primeira-mão, do texto "The Nooscope Manifested: AI as Instrument of Knowledge Extractivism" de Matteo Pasquinelli e Vladan Joler.

O Manifesto Nooscópio: Inteligência Artificial como Instrumento de Extrativismo do Conhecimento
*Matteo Pasquinelli e Vladan Joler *Para citação: Matteo Pasquinelli e Vladan Joler, "O manifesto Nooscópio: Inteligência Artificial como Instrumento de Extrativismo do Conhecimento", [Trad. Leandro Módolo & Thais Pimentel] KIM research group (Karlsruhe University of Arts and Design) e Share Lab (Novi Sad), 1 de Maio de 2020. Fonte: https://nooscope.ai
Acesse o Diagrama de erros, viéses e limitações do aprendizado de máquina completo aqui.

O Nooscópio é uma cartografia dos limites da inteligência artificial (IA), destinado a provocar a ciência da computação e as humanidades. Qualquer mapa é uma perspectiva parcial, uma maneira de provocar debates. Da mesma forma, este mapa é um manifesto - um manifesto de dissidentes da IA. Seu principal objetivo é desafiar as mistificações sobre inteligência artificial. Primeiramente quanto a definição técnica de inteligência e, em segundo, quanto a forma política de sua dita autonomia frente à sociedade e ao humano. ¹ Na expressão "inteligência artificial", o adjetivo "artificial" carrega o mito da autonomia da tecnologia: sugere "mentes alienígenas"[1] caricaturais que se auto-reproduzem in sílico, mas, na verdade, mistifica dois processos de alienação: a crescente autonomia geopolítica das empresas de alta tecnologia e a invisibilização da autonomia dos trabalhadores em todo o mundo. O projeto moderno de mecanizar a razão humana claramente se transformou, no séc. XXI, em um regime corporativo extrativista do conhecimento e um colonialismo epistêmico. ² Isso não é surpreendente, uma vez que os algoritmos de aprendizado de máquina [machine learning] são os mais poderosos para a compressão de informações.

O objetivo do mapa Nooscópio é secularizar a IA do seu status ideológico de 'máquina inteligente' para o de instrumento de conhecimento. Em vez de evocar lendas da cognição alienígena, é mais razoável considerar o aprendizado de máquina como um instrumento de ampliação do conhecimento que ajuda a perceber características, padrões e correlações através de vastos espaços de dados que estão além do alcance humano. Na história da ciência e da tecnologia isso não é nenhuma novidade: ele já foi perseguido por instrumentos ópticos ao longo das histórias da astronomia e da medicina. ³ Na tradição da ciência, os algoritmos de aprendizado de máquina é apenas um Nooscópio, um instrumento para ver e navegar no espaço do conhecimento (do grego skopein "examinar, olhar" e noos "conhecimento").

Tomando emprestada a idéia de Gottfried Wilhelm Leibniz, o diagrama Nooscópio aplica a analogia da mídia óptica à estrutura de todos os aparatos de aprendizado de máquina. Discutindo o poder de seu calculus ratiocinator e "números característicos" (a ideia de projetar uma linguagem universal numérica para codificar e resolver todos os problemas do raciocínio humano), Leibniz fez uma analogia com instrumentos de ampliação visual, como o microscópio e o telescópio. Ele escreveu: "Uma vez que os números característicos sejam estabelecidos para a maioria dos conceitos, a humanidade possuirá um novo instrumento que aumentará as capacidades da mente em uma extensão muito maior do que os instrumentos ópticos fortalecem os olhos e substituirá o microscópio e o telescópio, na medida em que a razão é superior à visão." ⁴ Embora o objetivo deste texto não seja reiterar a oposição entre culturas quantitativas e qualitativas, a crença de Leibniz não precisa ser seguida. Controvérsias não podem ser computadas conclusivamente. O aprendizado de máquinas não é a forma definitiva de inteligência.

Instrumentos de medição e percepção sempre vêm com distorções embutidas. Do mesmo modo que as lentes de microscópios e telescópios nunca são perfeitamente curvilíneas e lisas, as lentes lógicas do aprendizado de máquina incorporam falhas e inclinações. Entender o aprendizado de máquina e registrar seu impacto na sociedade é estudar o grau em que os dados sociais são difratados e distorcidos por essas lentes. Isso geralmente é conhecido como o debate sobre o viés (inclinações/predisposições) na IA, mas as implicações políticas da forma lógica do aprendizado de máquina são mais profundas. O aprendizado de máquina não está trazendo uma nova era das trevas, mas uma racionalidade difratada, na qual, como será mostrado, uma episteme de causalidade é substituída por uma de correlações automatizadas. Em geral, a IA é um novo regime de verdade, prova científica, normatividade social e racionalidade, que muitas vezes toma a forma de uma alucinação estatística. Este manifesto diagrama é outra maneira de dizer que a IA, o Rei da computação (uma fantasia patriarcal do conhecimento mecanizado, "algoritmo mestre" e alpha machine) está nu. Aqui, estamos espiando dentro de sua caixa preta.

Sobre a invenção de metáforas como instrumentos de ampliação do conhecimento. Tesauro, Il cannocchiale aristotelico [O telescópio aristotélico], frontispício da edição de 1670, Turim.
[1] N.T - Optamos traduzir "alien" por "alienígena(s)", uma vez que no campo das ciências cognitivas (tal como John Searle, Daniel Dennett, David Chalmers e cia) a expressão é usual e se refere a qualquer "mente" não humana, seja ela maquínica, seja um animal, um ET ou zombie etc.
A história da IA é uma história de experimentos, falhas de máquinas, controvérsias acadêmicas, rivalidades épicas em torno de financiamento militar, popularmente conhecidas como "invernos da IA". ⁵ Embora a IA corporativa hoje descreva seu poder com a linguagem da "magia negra" e da "cognição sobre-humana", as técnicas atuais ainda estão em estágio experimental. ⁶ Ela está agora no mesmo estágio em que estava o motor a vapor quando foi inventado, antes que as leis da termodinâmica necessárias para explicar e controlar seu funcionamento interno fossem descobertas. Da mesma forma, hoje existem redes neurais eficientes para o reconhecimento de imagens, mas não existe uma teoria da aprendizagem para explicar porque elas funcionam tão bem e como elas falham tanto. Como qualquer invenção, o paradigma do aprendizado de máquina se consolidou lentamente, neste caso através do último meio século. Um algoritmo mestre não apareceu da noite para o dia. Ao contrário, houve uma construção gradual de um método de computação que ainda precisa encontrar uma linguagem comum. Manuais de aprendizado de máquina para estudantes, por exemplo, ainda não compartilham uma terminologia comum. Como esboçar, então, uma gramática crítica do aprendizado de máquina que pode ser concisa e acessível, sem participar do jogo paranóico de definir uma Inteligência Geral?

Como instrumento de conhecimento, o aprendizado de máquina é composto de um objeto a ser observado ( conjuntos de dados de treinamento), um instrumento de observação ( algoritmo de aprendizagem) e uma representação final ( modelo estatístico). A montagem desses três elementos é proposta aqui como um diagrama espúrio e barroco de aprendizado de máquina, extravagantemente denominado Nooscópio. 7 Seguindo a analogia da mídia ótica, o fluxo de informações do aprendizado de máquina é como um feixe de luz que é projetado pelos dados de treinamento, comprimido pelo algoritmo e difratado para o mundo pelas lentes do modelo estatístico.

O diagrama Nooscópio tem como objetivo ilustrar dois lados do aprendizado de máquina ao mesmo tempo: como ele funciona e como ele falha - enumerando seus principais componentes, bem como o amplo espectro de erros, limitações, aproximações, inclinações, falhas, falácias e vulnerabilidades que são nativas ao seu paradigma. ⁸ Essa dupla operação enfatiza que a IA não é um paradigma monolítico de racionalidade, mas uma arquitetura espúria feita de técnicas e truques de adaptação. Além disso, os limites da IA não são simplesmente técnicos, mas são imbricados pelo viés humano. No diagrama do Nooscope, os componentes essenciais do aprendizado de máquina estão representados no centro, as intervenções e os vieses humanas à esquerda, e as limitações e os vieses técnicas à direita. As lentes ópticas simbolizam os vieses e aproximações que representam a compressão e distorção do fluxo de informações. O viés total do aprendizado de máquina é representado pela lente central do modelo estatístico através do qual a percepção do mundo é difratada.

As limitações da IA são geralmente percebidas hoje graças ao discurso sobre os vieses - a ampliação das discriminações de gênero, raça, habilidades e classe social por algoritmos. No aprendizado de máquina, é necessário distinguir entre viés histórico, viés do conjuntos de dados e viés algorítmico, os quais ocorrem em diferentes estágios do fluxo de informações. ⁹ O viés histórico (ou visão de mundo) já é aparente na sociedade antes da intervenção tecnológica. No entanto, a naturalização desse viés, que é a silenciosa integração da desigualdade em uma tecnologia aparentemente neutra, é por si só prejudicial. ¹⁰ Parafraseando Michelle Alexander, Ruha Benjamin chamou de New Jim Code: "o emprego de novas tecnologias que refletem e reproduzem as desigualdades existentes, mas que são promovidas e percebidas como mais objetivas ou progressistas do que os sistemas discriminatórios de uma época anterior". ¹¹ O viés do conjunto de dados é introduzido através da preparação do treinamento de dados por operadores humanos. A parte mais delicada do processo é a rotulagem de dados, na qual taxonomias antigas e conservadoras podem causar uma visão distorcida do mundo, deturpando diversidades sociais e exacerbando hierarquias sociais (veja abaixo o caso do ImageNet).

Viés algorítmico (também conhecido como viés de máquina, viés estatístico ou viés de modelo, ao qual o diagrama Nooscópio dá atenção especial) é a ampliação adicional do viés histórico e viés do conjuntos de dados por algoritmos de aprendizado de máquina. O problema do viés se originou principalmente do fato de que os algoritmos de aprendizado de máquina estão entre os mais eficientes para a compressão de informações [data compression], o que engendra problemas de resolução, difração e perda de informações. ¹² Desde os tempos antigos, os algoritmos têm sido procedimentos de natureza econômica, projetados para alcançar um resultado com o menor número de etapas e com o consumo da menor quantidade de recursos: espaço, tempo, energia e trabalho. ¹³ A corrida armamentista das empresas de IA ainda está preocupada em encontrar os algoritmos mais simples e rápidos com os quais capitalizar dados. Se a compressão de informações produz a taxa máxima de lucro na IA corporativa, do ponto de vista da sociedade, produz discriminação e perda de diversidade cultural.

Embora as consequências sociais da IA sejam popularmente entendidas sob a questão do viés, o entendimento comum das limitações técnicas é conhecido como o problema caixa preta. O efeito caixa preta é uma questão real de redes neurais profundas (que filtram tanto informações que sua cadeia de raciocínio não pode ser revertida), mas se tornou um pretexto genérico para a opinião de que os sistemas de IA não são apenas inescrutáveis e opacos, mas até "alienígenas" e fora de controle. ¹⁴ O efeito caixa preta faz parte da natureza de qualquer máquina experimental no estágio inicial de desenvolvimento (já foi observado que o funcionamento do motor a vapor permaneceu um mistério por algum tempo, mesmo depois de ter sido testado com sucesso). O problema atual é a retórica da caixa preta, que está intimamente ligada a sentimentos conspirativos nos quais a IA figura como um poder oculto que não pode ser estudado, conhecido ou controlado politicamente.

A digitalização em massa, que se expandiu com a Internet nos anos 90 e aumentou com os centros de dados nos anos 2000, disponibilizou vastos recursos de dados que, pela primeira vez na história, são gratuitos e não regulamentados. Um regime de extrativismo do conhecimento (então conhecido como Big Data) gradualmente empregou algoritmos eficientes para extrair "inteligência" dessas fontes abertas de dados, principalmente com o objetivo de prever o comportamento do consumidor e vender anúncios. A economia do conhecimento se transformou em uma nova forma de capitalismo, chamada capitalismo cognitivo e, em seguida, capitalismo de vigilância, por diferentes autores. ¹⁵ Foi a Internet que fez transbordar informações, enormes centros de dados, microprocessadores mais rápidos e algoritmos de compressão de dados lançando as bases para o surgimento dos monopólios em IA no século XXI.

Que tipo de objeto técnico e cultural é o conjunto de dados que constitui a fonte da IA? A qualidade dos dados de treinamento é o fator mais importante que afeta a chamada 'inteligência' que os algoritmos de aprendizado de máquina extraem. Há uma perspectiva importante a ser levada em consideração, a fim de entender a IA como um Nooscópio. Os dados são a primeira fonte de valor e inteligência. Algoritmos são os segundos; elas são as máquinas que computam esse valor e inteligência em um modelo. No entanto, os dados de treinamento nunca são brutos, independentes e imparciais (eles próprios já são 'algorítmicos'). ¹⁶ A criação, formatação e edição dos conjuntos de dados de treinamento é uma tarefa trabalhosa e delicada, provavelmente mais significativa para os resultados finais do que os parâmetros técnicos que controlam o algoritmo de aprendizado. O ato de selecionar uma fonte de dados em vez de outra é a marca profunda da intervenção humana no domínio das mentes "artificiais".

O conjunto de dados de treinamento é uma construção cultural, não apenas técnica. Isso deralmente inclui dados de input associados ao output ideal do dados, como imagens com suas descrições, também chamadas de rótulos ou metadados. ¹⁷ O exemplo canônico seria uma coleção de museu e seus arquivos, no qual as obras de arte são organizadas por metadados como autor, ano, meio etc. O processo semiótico de atribuir um nome ou uma categoria a uma imagem nunca é imparcial; essa ação deixa mais uma marca humana profunda no resultado final da cognição da máquina. Um conjunto de dados de treinamento para aprendizado de máquina geralmente é composto pelas seguintes etapas: 1) produção: trabalho ou fenômeno que produz informações; 2) captura: codificação das informações em um formato de dados por um instrumento; 3) formatação: organização dos dados em um conjunto de dados; 4) rotulagem: no aprendizado supervisionado, a classificação dos dados em categorias (metadados).

A inteligência da máquina é treinada em vastos conjuntos de dados que são acumulados de maneiras nem tecnicamente neutras nem socialmente imparciais. Os dados brutos não existem, pois dependem do trabalho humano, de dados pessoais e de comportamentos sociais que se acumulam por longos períodos, por meio de redes estendidas e taxonomias controversas. ¹⁸ Os principais conjuntos de dados de treinamento para aprendizado de máquina (NMIST, ImageNet, Labeled Faces in the Wild etc.) tiveram origem em empresas, universidades e agências militares do Norte Global. Mas, olhando com mais cuidado, descobrimos uma divisão profunda do trabalho que irriga o Sul Global por meio de plataformas de crowdsourcing usadas para editar e validar dados. ¹⁹ A parábola do conjunto de dados ImageNet exemplifica os problemas de muitos conjuntos de dados de IA. O ImageNet é um conjunto de dados de treinamento para Deep Learning [Aprendizagem profunda] que se tornou a referência de facto para algoritmos de reconhecimento de imagem: deveras, a revolução da Deep Learning começou em 2012 quando Alex Krizhevsky, Ilya Sutskever e Geoffrey Hinton venceram o desafio anual do ImageNet com a rede neural convolucional [Convolutional Neural Network] AlexNet. ²⁰ O ImageNet foi iniciado pela cientista da computação Fei-Fei Li em 2006. ²¹ A Fei-Fei Li tinha três intuições para criar um conjunto de dados confiável para o reconhecimento de imagens. Primeiro, faça o download de milhões de imagens gratuitas de serviços web, como Flickr e Google. Segundo, adote a taxonomia computacional WordNet para rótulos de imagens. ²² Terceiro, terceirize o trabalho de rotular milhões de imagens por meio da plataforma de crowdsourcing Amazon Mechanical Turk. No final do dia (e da linha de montagem), trabalhadores anônimos de todo o planeta recebiam poucos centavos por tarefa para rotular centenas de fotos por minuto, de acordo com a taxonomia do WordNet: tal trabalho resultou na engenharia de uma construção cultural controversa. Os estudiosos da IA, Kate Crawford e o artista Trevor Paglen investigaram e divulgaram a sedimentação de categorias racistas e sexistas na taxonomia ImageNet: veja a legitimação da categoria "pessoa fracassada, perdida, iniciante e mal-sucedida" para cem fotos arbitrárias de pessoas. ²³

O voraz extrativismo de dados da IA causou uma reação [backlash] imprevisível à cultura digital: no início dos anos 2000, Lawrence Lessig não podia prever que o grande repositório de imagens online creditadas pelas licenças Creative Commons se tornaria uma década mais tarde um recurso não regulamentado para tecnologias de vigilância por reconhecimento facial. De maneira semelhante, os dados pessoais seguem sendo continuamente incorporados sem transparência aos conjuntos de dados privatizados para aprendizado de máquina. Em 2019, o artista e pesquisador de IA Adam Harvey divulgou pela primeira vez o uso não consensual de fotos pessoais em conjuntos de dados de treinamento para reconhecimento facial. A divulgação de Harvey fez com que a Universidade de Stanford, a Universidade de Duke e a Microsoft retirassem seus conjuntos de dados em meio a um grande escândalo de violação de privacidade. ²⁴ Os conjuntos de dados de treinamento on-line desencadeiam questões de soberania de dados e direitos civis que as instituições tradicionais demoram a combater (consulte o Regulamento Geral sobre Proteção de Dados da União Européia). ²⁵ Se 2012 foi o ano em que a revolução da Deep Learning começou, 2019 foi o ano em que suas fontes foram descobertas vulneráveis e corrompidas.

Padrões combinatórios e Kufic scripts, pergaminho de Topkapi, Irã, 1500 d.C.

A necessidade de desmistificar a IA (pelo menos do ponto de vista técnico) também é entendida no mundo corporativo. O chefe da IA do Facebook e padrinho das redes neurais convolucionais Yann LeCun reitera que os atuais sistemas de IA não são versões sofisticadas de cognição, mas sim de percepção. Da mesma forma, o diagrama Nooscope expõe o esqueleto da caixa preta da IA e mostra que a IA não é um autômato pensante, mas um algoritmo que executa reconhecimento de padrões. A noção de reconhecimento de padrões contém questões que precisam ser elaboradas. A propósito, o que é um padrão? Um padrão é exclusivamente uma entidade visual? O que significa ler comportamentos sociais como padrões? O reconhecimento de padrões é uma definição exaustiva de inteligência? Muito provavelmente, não. Para esclarecer essas questões, seria bom realizar uma breve arqueologia da IA.

A máquina arquetípica para reconhecimento de padrões é a Perceptron de Frank Rosenblatt. Inventada em 1957 no Laboratório Aeronáutico de Cornell, em Buffalo/Nova York, seu nome é uma abreviação de "Percebendo e Reconhecendo o Autômato". ²⁶ Dada uma matriz visual de fotorreceptores com 20 x 20, a Perceptron pode aprender a reconhecer letras simples. Um padrão visual é registrado como uma impressão em uma rede de neurônios artificiais que são acionados em conjunto com a repetição de imagens semelhantes e ativando um único neurônio de output. O neurônio de output dispara 1 = verdadeiro, se uma determinada imagem for reconhecida, ou 0 = falso, se uma determinada imagem não for reconhecida.

A automação da percepção, como uma montagem visual de pixels ao longo de uma linha de montagem computacional, estava originalmente implícita no conceito de redes neurais artificiais de McCulloch e Pitt. ²⁷ Depois que o algoritmo para reconhecimento visual de padrões sobreviveu ao "inverno da IA" e se mostrou eficiente no final dos anos 2000, foi aplicado também a conjuntos de dados não visuais, inaugurando propriamente a era do Deep Learning (a aplicação de técnicas de reconhecimento de padrões a todos os tipos de dados, não apenas visuais). Hoje, no caso de carros autônomos, os padrões que precisam ser reconhecidos são objetos nos cenários das estradas. No caso da tradução automática, os padrões que precisam ser reconhecidos são as sequências de palavras mais comuns nos textos bilíngues. Independentemente de sua complexidade, da perspectiva numérica do aprendizado de máquina, noções como imagem, movimento, forma, estilo e decisão ética podem ser descritas como distribuições estatísticas de padrão. Nesse sentido, o reconhecimento de padrões se tornou verdadeiramente uma nova técnica cultural usada em vários campos. Por motivos de explicação, o Nooscópio é descrito como uma máquina que opera em três modalidades: treinamento, classificação e previsão. Em termos mais intuitivos, essas modalidades podem ser chamadas: extração de padrões, reconhecimento de padrões e geração de padrões.

O Perceptron de Rosenblatt foi o primeiro algoritmo que abriu o caminho para o aprendizado de máquina no sentido contemporâneo. Numa época em que a 'ciência da computação' ainda não havia sido adotada como definição, o campo foi chamado de 'geometria computacional' e especificamente 'conexionismo' pelo próprio Rosenblatt. O negócio dessas redes neurais, todavia, era calcular uma inferência estatística. O que uma rede neural calcula não é um padrão exato, mas a distribuição estatística de um padrão. Apenas raspando a superfície do marketing antropomórfico da IA, encontramos outro objeto técnico e cultural que precisa ser examinado: o modelo estatístico. Qual é o modelo estatístico no aprendizado de máquina? Como é calculado? Qual é a relação entre um modelo estatístico e a cognição humana? Essas são questões cruciais a serem esclarecidas. Em termos do trabalho de desmistificação que precisa ser feito (também para dissipar algumas perguntas ingênuas), seria bom reformular a questão banal "Uma máquina pode pensar?" nas questões teoricamente mais sólidas "Um modelo estatístico pode pensar?", "Um modelo estatístico pode desenvolver uma consciência?", et cetera.

Os algoritmos da IA são frequentemente evocados como fórmulas alquímicas, capazes de destilar formas de inteligência 'alienígenas'. Mas o que os algoritmos de aprendizado de máquina realmente fazem? Poucas pessoas, incluindo os seguidores da Inteligência Artificial Geral [Artificial General Intelligence - AGI], se preocupam em fazer essa pergunta. Algoritmo é o nome de um processo, pelo qual uma máquina faz um cálculo. O produto de tais processos de máquina é um modelo estatístico (mais precisamente denominado "modelo estatístico algorítmico"). Na comunidade de desenvolvedores, o termo 'algoritmo' é cada vez mais substituído por 'modelo'. Essa confusão terminológica surge do fato do modelo estatístico não existir separadamente do algoritmo: de alguma forma, o modelo estatístico existe dentro do algoritmo sob a forma de memória distribuída através de seus parâmetros. Pela mesma razão, é essencialmente impossível visualizar um modelo estatístico algorítmico, como é feito com funções matemáticas simples. Ainda assim, o desafio vale a pena.

No aprendizado de máquina, existem muitas arquiteturas algorítmicas: Perceptron simples, rede neural profunda, Support Vector Machine, rede Bayesiana, cadeia de Markov, autoencoder, máquina de Boltzmann, etc. Cada uma dessas arquiteturas tem uma história diferente (muitas vezes enraizada em agências e corporações militares do Norte Global). As redes neurais artificiais começaram como estruturas de computação simples que evoluíram para estruturas complexas que agora são controladas por alguns hiperparâmetros que expressam milhões de parâmetros.²⁸ Por exemplo, redes neurais convolucionais são descritas por um conjunto limitado de hiperparâmetros (número de camadas, número de neurônios por camada, tipo de conexão, comportamento dos neurônios etc.) que projetam uma topologia complexa de milhares de neurônios artificiais com milhões de parâmetros no total. O algoritmo inicia como uma folha em branco e, durante o processo chamado treinamento, ou 'aprendendo com os dados', ajusta seus parâmetros até atingir uma boa representação dos dados de input. No reconhecimento de imagens, como já visto, a computação de milhões de parâmetros deve ser resolvida em um output binário simples: 1=verdadeiro, uma determinada imagem é reconhecida; ou 0=falso, uma determinada imagem não é reconhecida. ²⁹

Fonte: https://www.asimovinstitute.org/neural-network-zoo

Tentando uma explicação acessível da relação entre algoritmo e modelo, vamos dar uma olhada no complexo algoritmo Inception v3, uma profunda rede neural convolucional para reconhecimento de imagens projetada no Google e treinada no conjunto de dados ImageNet. Diz-se que a v3 tem uma precisão de 78% na identificação do rótulo de uma imagem, mas o desempenho da 'inteligência da máquina' nesse caso também pode ser medido pela proporção entre o tamanho dos dados de treinamento e o algoritmo (ou modelo) treinado. O ImageNet contém 14 milhões de imagens com etiquetas associadas que ocupam aproximadamente 150 gigabytes de memória. Por outro lado, o Inception v3, destinado a representar as informações contidas no ImageNet, tem apenas 92 megabytes. A taxa de compressão entre os dados de treinamento e o modelo descreve parcialmente também a taxa de difração de informações. Uma tabela da documentação da Keras compara esses valores (número de parâmetros, profundidade da camada, dimensão do arquivo e precisão) para os principais modelos de reconhecimento de imagem. ³⁰ Essa é uma maneira grosseira, mas eficaz, de mostrar a relação entre modelo e dados, para mostrar como a 'inteligência' dos algoritmos é medida e avaliada na comunidade de desenvolvedores.
Documentação por modelos individuais
Fonte: keras.io/applications

Os modelos estatísticos sempre influenciaram a cultura e a política. Eles não surgiram apenas com o aprendizado de máquina: este é apenas uma nova maneira de automatizar a técnica da modelagem estatística. Quando Greta Thunberg adverte 'Ouça a ciência', o que ela realmente quer dizer, sendo uma boa aluna de matemática, é 'Ouça os modelos estatísticos da ciência climática'. Sem modelos estatísticos, sem ciência climática - e sem ciência climática, sem ativismo climático. A ciência do clima é realmente um bom exemplo para começar, a fim de entender modelos estatísticos. O aquecimento global foi calculado coletando primeiro um vasto conjunto de dados de temperaturas da superfície da Terra todos os dias do ano, e segundo, aplicando um modelo matemático que traça a curva das variações de temperatura no passado e projeta o mesmo padrão no futuro. ³¹ Modelos climáticos são artefatos históricos que são testados e debatidos na comunidade científica, e hoje, também para além dela. ³² Os modelos de aprendizado de máquina, pelo contrário, são opacos e inacessíveis ao debate da comunidade. Dado o grau de criação de mitos e viés social em torno de suas construções matemáticas, a IA realmente inaugurou a era da ficção científica estatística. Nooscópio é o projetor deste grande cinema estatístico.

"Todos os modelos estão errados, mas alguns são úteis" - o ditado canônico do estatístico britânico George Box há muito encapsula as limitações lógicas da estatística e do aprendizado de máquina. ³³ Essa máxima, no entanto, é frequentemente usada para legitimar o viés da IA corporativa e estatal. Os cientistas da computação argumentam que a cognição humana reflete a capacidade de abstrair e de se aproximar de padrões. Então, qual é o problema das máquinas tambem serem formas aproximadas, e fazerem o mesmo? Dentro desse argumento, é repetido retoricamente que "o mapa não é o território". Isso parece razoável. Mas o que deve ser contestado é que a IA é um mapa fortemente comprimido e distorcido do território e que esse mapa, como muitas formas de automação, não está aberto à negociação da comunidade. AI é um mapa do território sem acesso e consentimento da comunidade. ³⁴

Como o aprendizado de máquina traça um mapa estatístico do mundo? Vamos encarar o caso específico do reconhecimento de imagens (a forma básica do trabalho de percepção, que foi codificado e automatizado como reconhecimento de padrões). ³⁵ Dada uma imagem a ser classificada, o algoritmo detecta as bordas de um objeto como a distribuição estatística de pixels escuros cercados por pixels claros (um padrão visual típico). O algoritmo não sabe o que é uma imagem, não percebe uma imagem como a cognição humana, apenas calcula pixels, valores numéricos de brilho e proximidade. O algoritmo é programado para registrar apenas a borda escura de um perfil (que se ajusta no padrão desejado) e não, exatamente, todos os pixels da imagem (o que resultaria em um superajuste e na repetição de todo o campo visual). Diz-se que um modelo estatístico é treinado com sucesso quando pode ajustar [fit] elegantemente apenas os padrões importantes dos dados de treinamento e aplicar esses padrões também aos novos dados "em estado selvagem". Se um modelo aprende muito bem os dados de treinamento, ele reconhece apenas correspondências exatas dos padrões originais e ignorará aqueles com semelhanças próximas, "em estado selvagem". Neste caso, o modelo é superajustado [overfitting], porque aprendeu meticulosamente tudo (incluindo os ruídos) e não é capaz de distinguir um padrão de seu background. Por outro lado, o modelo é subajustado [underfitting] quando não for capaz de detectar padrões significativos a partir dos dados de treinamento. As noções de superajuste, ajuste e subajuste de dados podem ser visualizadas em um plano cartesiano.

O desafio de proteger a precisão do aprendizado de máquina está na calibração do equilíbrio entre o subajuste e o superajusta dos dados, o que é difícil de executar devido a diferentes vieses da máquina. Aprendizado de máquina é um termo que, tal como "IA", antropomorfiza uma parte da tecnologia: o aprendizado de máquina não aprende nada no sentido apropriado da palavra, como um humano; o aprendizado de máquina simplesmente mapeia uma distribuição estatística de valores numéricos e desenha uma função matemática que, esperançosamente, se aproxima da compreensão humana. Dito isto, o aprendizado de máquina pode, por esse motivo, lançar uma nova luz sobre as maneiras pelas quais os seres humanos compreendem.

O modelo estatístico dos algoritmos de aprendizado de máquina também é uma aproximação no sentido de adivinhar as partes ausentes do gráfico de dados: por meio de interpolação, que é a previsão de um output y dentro do intervalo conhecido do input x no conjunto de dados de treinamento, ou por extrapolação, que é a previsão do output y além dos limites de x, geralmente com altos riscos de imprecisão. Isso é o que "inteligência" significa hoje em inteligência da máquina: extrapolar uma função não linear além dos limites de dados conhecidos. Como Dan McQuillian coloca apropriadamente: "Não há inteligência em inteligência artificial, nem aprender, mesmo que seu nome técnico seja aprendizado de máquina, ela é simplesmente minimização matemática". ³⁶

É importante lembrar que a "inteligência" do aprendizado de máquina não é dirigida por fórmulas exatas de análise matemática, mas por algoritmos de aproximação de força bruta. O formato da função de correlação entre a input x e a output x é calculado algoritmicamente, passo a passo, através de processos mecânicos cansativos de ajuste gradual (como descida do gradiente [gradient descent], por exemplo) que são equivalentes ao cálculo diferencial de Leibniz e Newton. Diz-se que as redes neurais estão entre os algoritmos mais eficientes, porque esses métodos diferenciais podem se aproximar da forma de qualquer função, com camadas suficientes de neurônios e recursos computacionais abundantes. ³⁷ A aproximação gradual de força bruta de uma função é o principal recurso da IA de hoje, e somente dessa perspectiva é possível entender suas potencialidades e limitações - particularmente a escalada da sua pegada de carbono (o treinamento de redes neurais profundas requer quantidades exorbitantes de energia devido à descida do gradiente e algoritmos de treinamento que operam com base em ajustes infinitesimais contínuos). ³⁸

As noções de ajuste, superajuste, subajuste, interpolação e extrapolação podem ser facilmente visualizadas em duas dimensões, mas os modelos estatísticos geralmente operam em espaços multidimensionais de dados. Antes de serem analisados, os dados são codificados em um espaço vetorial multidimensional [ multi-dimensional vector space] que está longe de ser intuitivo. O que é um espaço vetorial e por que é multidimensional? Cardon, Cointet e Mazière descrevem a vetorização dos dados desta maneira:

Uma rede neural requer que os inputs da calculadora assumam a forma de um vetor. Portanto, o mundo deve ser codificado antecipadamente na forma de uma representação vetorial puramente digital. Enquanto certos objetos, como imagens, são naturalmente divididos em vetores, outros objetos precisam ser ´incorporados´ dentro de um espaço vetorial antes que seja possível calculá-los ou classificá-los com redes neurais. Este é o caso do texto, que é o exemplo prototípico. Para inserir uma palavra em uma rede neural, a técnica Word2vec a "incorpora" em um espaço vetorial que mede sua distância de outras palavras no corpus. Assim, as palavras herdam uma posição dentro de um espaço com várias centenas de dimensões. A vantagem de tal representação reside nas inúmeras operações oferecidas por essa transformação. Dois termos cujas posições inferidas estão próximas umas das outras neste espaço são semelhantes semanticamente; diz-se que essas representações estão distribuídas: o vetor do conceito 'apartamento' [-0,2, 0,3, -4,2, 5,1 ...] será semelhante ao de 'casa' [-0,2, 0,3, -4,0, 5,1. ..] (...) Enquanto o processamento de linguagem natural foi pioneiro na "incorporação" de palavras em um espaço vetorial, hoje estamos testemunhando uma generalização do processo de incorporação que se estende progressivamente a todos os campos de aplicativos: graph2vec, textos com paragraph2vec, filmes com movie2vec, significados das palavras com sens2vec, estruturas moleculares com mol2vec, etc. Segundo Yann LeCun, o objetivo dos projetistas de máquinas conexionistas é colocar o mundo em um vetor (world2vec).³⁹

O espaço vetorial multidimensional é outra razão pela qual a lógica do aprendizado de máquina é difícil de compreender. O espaço vetorial é outra técnica cultural nova, com a qual vale a pena se familiarizar. O campo das Humanidades Digitais, em particular, tem abordado a técnica de vetorização através da qual nosso conhecimento coletivo é invisivelmente renderizado e processado. A definição original de William Gibson de ciberespaço profetizou, muito provavelmente, a chegada de um espaço vetorial em vez da realidade virtual: "Uma representação gráfica de dados abstraídos dos bancos de todos os computadores do sistema humano. Complexidade impensável. Linhas de luz variavam no não-espaço da mente, aglomerados [clusters] e constelações de dados. Como as luzes da cidade, recuando." ⁴⁰

A direita: espaço vetorial de sete palavras em três contextos ⁴¹

Deve-se enfatizar, no entanto, que o aprendizado de máquina ainda se assemelha mais a um artesanato do que a matemática exata. A IA ainda é uma história de "hacks and tricks", em vez de intuições místicas. Por exemplo, um truque de compressão de informações é a redução dimensional, usada para evitar a Maldição da Dimensionalidade, que é o crescimento exponencial da variedade de recursos no espaço vetorial. As dimensões das categorias que mostram baixa variação no espaço vetorial (ou seja, cujos valores flutuam apenas um pouco) são agregadas para reduzir os custos de cálculo. A redução dimensional pode ser usada para agrupar significados de palavras (como no modelo word2vec), mas também pode levar à redução categorial, que pode ter um impacto na representação da diversidade social. A redução dimensional pode reduzir as taxonomias e introduzir viés, normalizando ainda mais a diversidade mundial e obliterando identidades únicas. ⁴²

A maioria das aplicações contemporâneas do aprendizado de máquina pode ser descritas de acordo com duas modalidades a de classificação e a de previsão, que descrevem os contornos de uma nova sociedade de controle e governança estatística. A classificação é conhecida como reconhecimento de padrões, enquanto a previsão pode ser definida também como geração de padrões. Um novo padrão é reconhecido ou gerado ao interrogar o núcleo interno do modelo estatístico.

A classificação de aprendizado de máquina geralmente é empregada para reconhecer um sinal, um objeto ou um rosto humano e atribuir uma categoria correspondente (etiqueta) de acordo com a taxonomia ou convenção cultural. Um arquivo de input (e.g. um tiro na cabeça capturado por uma câmera de vigilância) é executado no modelo para determinar se ele está dentro da sua distribuição estatística ou não. Em caso positivo, é atribuída a etiqueta de output correspondente. Desde os tempos da Perceptron, a classificação tem sido a aplicação originária das redes neurais: com a Deep Learning, essa técnica é onipresente em classificadores de reconhecimento de rosto, que são implantados por forças policiais, assim como por fabricantes de smartphones.

A previsão de aprendizado de máquina é usada para projetar tendências e comportamentos futuros de acordo com os passados, ou seja, para completar uma informação conhecendo apenas uma parte dela. Na modalidade de previsão, uma pequena amostra de dados de input (um iniciador) é usada para prever a parte ausente das informações, seguindo mais uma vez a distribuição estatística do modelo (pode ser a parte de um gráfico numérico orientado para o futuro ou o parte ausente de uma imagem ou arquivo de áudio). Aliás, existem outras modalidades de aprendizado de máquina: a distribuição estatística de um modelo pode ser visualizada dinamicamente por meio de uma técnica chamada exploração espacial latente e, em algumas aplicações recentes de design, também exploração de padrões [pattern exploration]. ⁴³

A classificação e a previsão de aprendizado de máquina estão se tornando técnicas onipresentes que constituem novas formas de vigilância e governança. Alguns aparelhos, como veículos autônomos e robôs industriais, podem ser uma integração de ambas as modalidades. Um veículo autônomo é treinado para reconhecer diferentes objetos na estrada (pessoas, carros, obstáculos, placas) e prever ações futuras com base em decisões que um motorista humano tomou em circunstâncias semelhantes. Mesmo que reconhecer um obstáculo na estrada pareça um gesto neutro (não é), identificar um ser humano de acordo com categorias de gênero, raça e classe (e na recente pandemia do COVID-19 como doente ou imune), como instituições estatais cada vez mais o fazem, é o gesto de um novo regime disciplinar. A soberba da classificação automatizada causou o renascimento das técnicas lombrosianas reacionárias que se pensava terem sido consignadas à história, técnicas como o Reconhecimento Automático de Gênero (AGR), "um subcampo de reconhecimento facial que visa identificar algoritmicamente o gênero de indivíduos a partir de fotografias ou vídeos". ⁴⁴

Recentemente, a modalidade generativa de aprendizado de máquina teve um impacto cultural: seu uso na produção de artefatos visuais foi recebido pelos meios de comunicação de massa como a idéia de que a inteligência artificial é "criativa" e pode autonomamente fazer arte. Uma obra de arte que se diz ter sido criada pela IA sempre oculta um operador humano, que aplica a modalidade generativa de uma rede neural treinada em um conjunto de dados específico. Nesta modalidade, a rede neural é executada ao contrário (movendo-se da menor camada de output em direção à maior camada de input) para gerar novos padrões após ser treinada para classificá-los, um processo que geralmente se move da maior camada de input para a menor camada de output. A modalidade generativa, no entanto, tem algumas aplicações úteis: pode ser usada como uma espécie de verificação da realidade para revelar o que o modelo aprendeu, ou seja, para mostrar como o modelo "vê o mundo". Pode ser aplicado ao modelo de um carro autônomo, por exemplo, para verificar como o cenário da estrada é projetado.

Uma maneira famosa de ilustrar como um modelo estatístico "vê o mundo" é o Google DeepDream. O DeepDream é uma rede neural convolucional baseada no Inception (treinada no conjunto de dados ImageNet mencionado acima) que foi programada por Alexander Mordvintsev para projetar padrões alucinatórios. Mordvintsev teve a idéia de "virar a rede de cabeça para baixo", ou seja, transformar um classificador em um gerador, usando algum ruído aleatório ou imagens genéricas da paisagem como output. ⁴⁵ Ele descobriu que "redes neurais treinadas para discriminar entre diferentes tipos de imagens também possuem bastante da informação necessária para gerar imagens". Nos primeiros experimentos do DeepDream, penas de pássaros e olhos de cães começaram a surgir em toda parte, à medida que as raças de cães e as espécies de pássaros são amplamente super-representadas no ImageNet. Também foi descoberto que a categoria 'haltere' era aprendida com um braço humano surreal sempre ligado a ele. Prova de que muitas outras categorias do ImageNet são deturpadas.

As duas principais modalidades de classificação e geração podem ser montadas em outras arquiteturas, como nas Redes Adversárias Generativas (GANs). Na arquitetura GAN, uma rede neural com o papel de discriminador (um classificador tradicional) precisa reconhecer uma imagem produzida por uma rede neural com o papel de gerador, em um loop de reforço que treina os dois modelos estatísticos simultaneamente. Para algumas propriedades convergentes de seus respectivos modelos estatísticos, as GANs se mostraram muito boas em gerar imagens altamente realistas. Essa habilidade provocou seu abuso na fabricação de 'falsificações profundas' [deep fakes] ⁴⁶. Em relação aos regimes da verdade, uma aplicação controversa semelhante é o uso de GANs para gerar dados sintéticos em pesquisas sobre câncer, nas quais redes neurais treinadas em conjuntos de dados desequilibrados de tecidos cancerígenos começaram a alucinar o câncer onde não havia. ⁴⁷ Nesse caso, "em vez de descobrir coisas, estamos inventando coisas", observa Fabian Offert, "o espaço da descoberta é idêntico ao espaço de conhecimento que a GAN já tinha.(...) Enquanto nós pensamos que estamos vendo através da GAN - olhando para algo com a ajuda de uma GAN - estamos na verdade vendo dentro de uma GAN. A visão da GAN não é realidade aumentada, é realidade virtual. GANs obscurecem a descoberta e a invenção". ⁴⁸ A simulação GAN de câncer no cérebro é um exemplo trágico de alucinação científica movido a IA.

Joseph Paul Cohen, Margaux Luck and Sina Honari. ' Distribution Matching Losses Can Hallucinate Features in Medical Image Translation ', 2018. Cortesia dos autores.

O poder normativo da IA no século XXI tem de ser analisada nestes termos epistemológicos: o que significa enquadrar conhecimento coletivo como padrões, e o que significa desenhar espaços vetoriais e distribuições estatísticas de comportamentos sociais? Segundo Foucault, no início da França moderna, o poder estatístico já era usado para medir normas sociais, discriminando comportamento normal e anormal. ⁴⁹ A IA amplia facilmente o "poder da normalização" das instituições modernas, como a burocracia, a medicina e a estatística (originalmente, o conhecimento numérico possuído pelo Estado sobre sua população), que agora passam para as mãos das corporações de IA. A norma institucional tornou-se computacional: a classificação do sujeito, de corpos e comportamentos parece não ser mais um assunto para registros públicos, mas para algoritmos e centro de dados. ⁵⁰ "A racionalidade centrada nos dados", concluiu Paula Duarte, "deve ser entendida como uma expressão da colonialidade do poder." ⁵¹

Uma lacuna, um atrito, um conflito, no entanto, sempre persiste entre os modelos estatísticos da IA e o sujeito humano que deve ser medido e controlado. Essa lacuna lógica entre os modelos estatísticos da IA e a sociedade é geralmente debatida como viés. Foi amplamente demonstrado como o reconhecimento facial deturpa as minorias sociais e como os bairros negros, por exemplo, são ignorados pelo serviço de logística e entrega movido a IA. ⁵² Se as discriminações de gênero, raça e classe são amplificadas pelos algoritmos de IA, isso também faz parte de um problema maior de discriminação e normalização no núcleo lógico do aprendizado de máquina. A limitação lógica e política da IA é a dificuldade da tecnologia no reconhecimento e previsão de um novo evento. Como o aprendizado de máquina lida com uma anomalia verdadeiramente única, um comportamento social incomum, um ato inovador de interrupção? As duas modalidades de aprendizado de máquina exibem uma limitação que não é meramente uma questão de viés.

Um limite lógico da classificação de aprendizado de máquina, ou reconhecimento de padrões, é a incapacidade de reconhecer uma anomalia única que aparece pela primeira vez, como uma nova metáfora na poesia, uma nova piada na conversa cotidiana ou um obstáculo incomum (um pedestre? um saco de plástico?) no cenário da estrada. A não detecção do novo (algo que nunca 'foi visto' por um modelo e, portanto, nunca foi classificado antes em uma categoria conhecida) é um problema particularmente perigoso para carros autônomos e que já causou mortes. A previsão de aprendizado de máquina, ou geração de padrões, mostra falhas semelhantes na adivinhação de tendências e comportamentos futuros. Como uma técnica de compressão de informações, o aprendizado de máquina automatiza a ditadura do passado, de taxonomias e padrões comportamentais do passado, sobre o presente. Esse problema pode ser chamado de regeneração do antigo - a aplicação de uma visão espaço-temporal homogênea que restringe a possibilidade de um novo evento histórico.

Curiosamente, no aprendizado de máquina, a definição lógica de um problema de segurança também descreve o limite lógico de seu potencial criativo. Os problemas característicos da previsão do novo estão logicamente relacionados aos que caracterizam a geração do novo, porque a maneira como um algoritmo de aprendizado de máquina prevê uma tendência em um gráfico de tempo é idêntica à maneira como gera um novo trabalho artístico a partir de padrões aprendidos. A pergunta banal "A IA pode ser criativa?" deve ser reformulado em termos técnicos: o aprendizado de máquina é capaz de criar obras que não são imitações do passado? O aprendizado de máquina é capaz de extrapolar além dos limites estilísticos de seus dados de treinamento? A 'criatividade' do aprendizado de máquina é limitada à detecção de estilos a partir dos dados de treinamento e, em seguida, à improvisação aleatória dentro desses estilos. Em outras palavras, o aprendizado de máquina pode explorar e improvisar apenas dentro dos limites lógicos definidos pelos dados de treinamento. Para todas essas questões, e seu grau de compressão de informações, seria mais preciso denominar aprendizado de máquina como arte estatística.

Lewis Fry Richardson, Previsão do Tempo por Processo Numérico, Cambridge University Press, 1922.

Outro erro implícito do aprendizado de máquina é que a correlação estatística entre dois fenômenos é frequentemente adotada para explicar a causa de um para o outro. Nas estatísticas, é comumente entendido que a correlação não implica causalidade, o que significa que apenas uma coincidência estatística não é suficiente para demonstrar a causalidade. Um exemplo trágico pode ser encontrado no trabalho do estatístico Frederick Hoffman, que em 1896 publicou um relatório de 330 páginas para companhias de seguros para demonstrar uma correlação racial entre ser um americano negro e ter uma expectativa de vida curta. ⁵³ Na mineração superficial de dados, o aprendizado de máquina pode construir qualquer correlação arbitrária que é, então, percebida como real. Em 2008, essa falácia lógica foi orgulhosamente adotada pelo diretor da Wired, Chris Andersen, que declarou o "fim da teoria" porque "o dilúvio de dados torna obsoleto o método científico". ⁵⁴ Segundo Andersen, ele próprio não especialista em método científico e inferência lógica, a correlação estatística é suficiente para o Google administrar seus negócios de anúncios; portanto, também deve ser bom o suficiente para descobrir automaticamente paradigmas científicos. Até a Judea Pearl, pioneira em redes bayesianas, acredita que o aprendizado de máquina é obcecado por "ajuste de curvas", registrando correlações sem fornecer explicações. ⁵⁵ Tal falácia lógica já se tornou política, se considerarmos que as forças policiais em todo o mundo adotaram algoritmos de policiamento preditivo. ⁵⁶ Segundo Dan McQuillan, quando o aprendizado de máquina é aplicado à sociedade dessa maneira, ele se transforma em um aparato biopolítico de preempção, que produz subjetividades que podem ser posteriormente criminalizadas. ⁵⁷ Por fim, o aprendizado de máquina obcecado por "ajuste de curvas" impõe uma cultura estatística e substitui a episteme tradicional de causalidade (e responsabilidade [accountability] política) por uma de correlações cegamente conduzidas pela automação da tomada de decisão.

Até agora, as difrações e alucinações estatísticas do aprendizado de máquina foram seguidas passo a passo através das múltiplas lentes do Nooscópio. Nesse ponto, a orientação do instrumento precisa ser revertida: as teorias científicas, tanto quanto os dispositivos computacionais, tendem a consolidar uma perspectiva abstrata - a "visão científica do lugar nenhum", que geralmente é apenas o ponto de vista do poder. O estudo obsessivo da IA pode levar o estudioso a um abismo da computação e a ilusão de que a forma técnica ilumina a social. Como Paola Ricaurte observa: "O extrativismo de dados assume que tudo é uma fonte de dados". ⁵⁸ Como nos emancipar de uma visão do mundo centrada em dados? É hora de perceber que não é o modelo estatístico que constrói o sujeito, mas o sujeito que estrutura o modelo estatístico. Os estudos internalistas e externalistas da IA precisam embaçar: as subjetividades fazem a matemática do controle a partir de dentro, não de fora. Seguindo o que Guattari disse sobre as máquinas em geral, a inteligência das máquinas também é constituída de "formas hiper-desenvolvidas e hiper-concentradas de certos aspectos da subjetividade humana". ⁵⁹

Em vez de estudar apenas como a tecnologia funciona, a investigação crítica estuda também como ela quebra, como os sujeitos se rebelam contra seu controle normativo e os trabalhadores sabotam suas engrenagens. Nesse sentido, uma maneira de soar os limites da IA é observar as práticas de hackers. O hacking é um método importante de produção de conhecimento, uma investigação epistêmica crucial na obscuridade da IA. ⁶⁰ Os sistemas de aprendizagem profunda para reconhecimento facial desencadearam, por exemplo, formas de ativismo de contra-vigilância. Através de técnicas de ofuscação facial, os seres humanos decidiram tornar-se ininteligíveis à inteligência artificial: isto é, tornarem-se, eles próprios, caixas pretas. As técnicas tradicionais de ofuscação contra a vigilância adquirem imediatamente uma dimensão matemática na era do aprendizado de máquina. Por exemplo, o artista e pesquisador de IA Adam Harvey inventou um tecido de camuflagem chamado HyperFace que engana os algoritmos de visão de computador para ver vários rostos humanos onde não há nenhum. ⁶¹ O trabalho de Harvey provoca a pergunta: o que constitui uma face para um olho humano, por um lado, e para um algoritmo de visão computacional, por outro? As falhas neurais do HyperFace exploram essa lacuna cognitiva e revelam qual é a aparência de um rosto humano para uma máquina. Essa lacuna entre a percepção humana e da máquina ajuda a introduzir o crescente campo de ataques adversariais.

Adam Harvey, padrão HyperFace, 2016

Os ataques adversariais[2] exploram pontos cegos e regiões fracas no modelo estatístico de uma rede neural, geralmente para enganar um classificador e fazê-lo perceber algo que não existe. No reconhecimento de objetos, um exemplo adversarial pode ser uma imagem manipulada de uma tartaruga, que parece inócua para o olho humano, mas é classificada erroneamente por uma rede neural como um rifle. ⁶² Exemplos adversariais podem ser percebidos como objetos 3D e até adesivos para sinais de trânsito que podem desencaminhar carros autônomos (que podem ler um limite de velocidade de 120 km/h onde na verdade é de 50 km/h). ⁶³ Exemplos adversariais são projetados sabendo o que uma máquina nunca viu antes. Esse efeito é obtido também pela engenharia reversa do modelo estatístico ou poluindo o conjunto de dados de treinamento. Nesse último sentido, a técnica de envenenamento de dados tem como alvo o conjunto de dados de treinamento e apresenta dados medicados. Ao fazer isso, altera a precisão do modelo estatístico e cria uma porta dos fundos que pode eventualmente ser explorada por um ataque adversarial. ⁶⁴

O ataque adversarial parece apontar para uma vulnerabilidade matemática comum a todos os modelos de aprendizado de máquina: "Um aspecto intrigante dos exemplos adversariais é que um exemplo gerado para um modelo é frequentemente classificado erroneamente por outros modelos, mesmo quando eles têm arquiteturas diferentes ou foram treinados em conjuntos de treinamento desconexos." ⁶⁵ Ataques adversariais nos lembram a discrepância entre a percepção humana e da máquina, e que o limite lógico do aprendizado de máquina também é político. O limite lógico e ontológico do aprendizado de máquina é o sujeito indisciplinado ou evento anômalo que escapa à classificação e ao controle. O sujeito do controle algorítmico contra-ataca. Ataques adversariais são uma maneira de sabotar a linha de montagem do aprendizado de máquina, inventando um obstáculo virtual que pode deixar o aparelho de controle em desacordo. Um exemplo adversarial é a sabotagem na era da IA.
[2] N.T - Optamos por traduzir "adversarial" por adversarial e adversariais com vista ao uso corrente no campo técnico da Inteligência Artificial, vide "Artificial Intelligence: A Modern Approach" (4ºEd., 2020) de Stuart J. Russell.e Peter Norvig.
As naturezas do input e output do aprendizado de máquina devem ser esclarecidas. Os problemas de IA não são apenas sobre viés de informação, mas também sobre trabalho. A IA não é apenas um aparelho de controle, mas também um aparelho produtivo. Como acabamos de mencionar, uma força de trabalho invisível está envolvida em cada etapa de sua linha de montagem (composição do conjunto de dados, supervisão de algoritmo, avaliação de modelo etc.). Pipelines de infinitas tarefas irrigam do Norte Global para o Sul Global; plataformas de trabalhadores da Venezuela, Brasil e Itália, por exemplo, são cruciais para ensinar os carros autônomos alemães a "como ver". ⁶⁶ Contra a idéia de inteligência alienígena no trabalho, deve-se enfatizar que, em todo o processo de computação da IA o trabalhador humano nunca saiu do circuito, ou, com mais precisão, nunca saiu da linha de montagem. Mary Gray e Siddharth Suri cunharam o termo ' trabalho fantasma ' para o trabalho invisível que faz a IA parecer artificialmente autônoma.
Além de algumas decisões básicas, a inteligência artificial de hoje não pode funcionar sem humanos no circuito. Seja na entrega de um feed de notícias relevante ou na execução de um pedido complicado de pizza, quando a inteligência artificial (IA) tropeça ou não consegue terminar o trabalho, milhares de empresas chamam as pessoas para concluir o projeto silenciosamente. Essa nova linha de montagem digital agrega o input coletivo de trabalhadores distribuídos, envia peças de projetos em vez de produtos e opera em diversos setores econômicos em todos os momentos do dia e da noite.
Automação é um mito porque as máquinas, incluindo a IA, pedem constantemente ajuda humana, alguns autores sugeriram substituir 'automação' pelo termo mais preciso heteromação. ⁶⁷ Heteromação significa que a narrativa familiar da IA como perpetuum mobile só é possível graças a um exército de reserva de trabalhadores.

No entanto, existe uma maneira mais profunda pela qual o trabalho constitui a IA. A fonte de informações do aprendizado de máquina (qualquer que seja o nome: dados de input, dados de treinamento ou apenas dados) é sempre uma representação de habilidades, atividades e comportamentos humanos, da produção social em geral. Todos os conjuntos de dados de treinamento são, implicitamente, um diagrama da divisão do trabalho humano que a IA precisa analisar e automatizar. Os conjuntos de dados para reconhecimento de imagem, por exemplo, registram o trabalho visual que os motoristas, guardas e supervisores geralmente executam durante suas tarefas. Até conjuntos de dados científicos dependem de trabalho científico, planejamento de experimentos, organização de laboratórios e observação analítica. ⁶⁸ Em resumo, a origem da inteligência das máquinas é a divisão do trabalho e seu principal objetivo é a automação do trabalho .

Os historiadores da computação já salientaram os primeiros passos da inteligência de máquina no projeto do século XIX de mecanizar a divisão do trabalho mental, especificamente a tarefa de cálculo a mão. ⁶⁹ O empreendimento da computação desde então tem sido uma combinação de vigilância e disciplina do trabalho, do cálculo ótimo de mais-valia e do planejamento de comportamentos coletivos. ⁷⁰ A computação foi estabelecida por, e ainda segue assim impondo, um regime de visibilidade e inteligibilidade, não apenas de raciocínio lógico. A genealogia da IA como um aparato de poder é confirmada hoje por seu amplo emprego em tecnologias de identificação e predição, mas a principal anomalia que sempre precisa ser computada é a desorganização do trabalho.

Como tecnologia de automação, a IA terá um tremendo impacto no mercado de trabalho. Se a Deep learning tiver uma taxa de erro de 1% no reconhecimento de imagens, por exemplo, significa que aproximadamente 99% do trabalho de rotina baseado em tarefas visuais (por exemplo, segurança aeroportuária) pode ser potencialmente substituído (restrições legais e oposição sindical permitindo). O impacto da IA no trabalho é bem descrito (da perspectiva dos trabalhadores, finalmente) em um documento do European Trade Union Institute, que destaca as "sete dimensões essenciais que a futura regulamentação deve abordar para proteger os trabalhadores": 1) salvaguardar a privacidade dos trabalhadores e proteção de dados; 2) abordar o problema da vigilância, rastreamento e monitoramento; 3) tornar transparente o objetivo dos algoritmos de IA; 4) garantir o exercício do 'direito à explicação' em relação às decisões tomadas por algoritmos ou modelos de aprendizado de máquina; 5) preservar a segurança e a proteção dos trabalhadores nas interações homem-máquina; 6) aumentar a autonomia dos trabalhadores nas interações homem-máquina; 7) permitir que os trabalhadores se tornem alfabetizados em IA." ⁷¹

Por fim, o Nooscópio se manifesta por uma nova "Questão das máquinas" na era da IA. A Questão das máquinas foi um debate provocado na Inglaterra durante a revolução industrial, quando a resposta ao emprego de máquinas e o subsequente desemprego tecnológico dos trabalhadores foi uma campanha social para mais educação sobre máquinas, que assumiu a forma do Movimento do Instituto de Mecânica. ⁷² Hoje, é necessária uma Questão das Máquinas Inteligentes para desenvolver mais inteligência coletiva sobre 'inteligência de máquina', mais educação pública em vez de 'máquinas aprendizes' e seu regime de extrativismo do conhecimento (o que reforça antigas rotas coloniais, basta olharmos o mapa da rede das plataformas de crowdsourcing hoje). Também no Norte Global, essa relação colonial entre a IA corporativa e a produção de conhecimento como um bem comum deve ser destacada. O objetivo do Nooscópio é expor a sala oculta da corporação Mechanical Turk e iluminar o trabalho invisível do conhecimento que faz a inteligência da máquina parecer ideologicamente viva.

Notas

1. Sobre a autonomia da tecnologia, veja: Langdon Winner, Autonomous Technology: Technics Out-of-Control as a Theme in Political Thought. Cambridge, MA: MIT Press, 2001.

2. Sobre a extensão do poder colonial nas operações de logística, algoritmos e finanças, consulte: Sandro Mezzadra e Brett Neilson, The Politics of Operations: Excavating Contemporary Capitalism. Durham: Duke University Press, 2019. Sobre o colonialismo epistêmico da IA, veja: Matteo Pasquinelli, 'Three Thousand Years of Algorithmic Rituals' e-flux 101, 2019.

3. Humanidades digitais denominam uma técnica semelhante chamada leitura distante [distant reading], que gradualmente envolve análise de dados e aprendizado de máquina na história literária e da arte. Veja: Franco Moretti, Distant Reading. London: Verso, 2013.

4. Gottfried W. Leibniz, 'Preface to the General Science', 1677. In: Phillip Wiener (ed.) Leibniz Selections. New York: Scribner, 1951, 23.

5. Para uma história concisa da IA, veja: Dominique Cardon, Jean-Philippe Cointet and Antoine Mazières, 'Neurons Spike Back: The Invention of Inductive Machines and the Artificial Intelligence Controversy.' Réseaux 211, 2018.

6. Alexander Campolo and Kate Crawford, 'Enchanted Determinism: Power without Control in Artificial Intelligence.' Engaging Science, Technology, and Society, 6, 2020.

7. O uso da analogia visual também visa registrar a distinção entre imagem e lógica, representação e inferência, na composição técnica da IA. Os modelos estatísticos de aprendizado de máquina são representações operativas (no sentido das imagens operativas de Harun Farocki).

8. Para um estudo sistemático das limitações lógicas do aprendizado de máquina, consulte: Momin Mailk, 'A Hierarchy of Limitations in Machine Learning.' Arxiv preprint, 2020. https://arxiv.org/abs/2002.05193

9. Para obter uma lista mais detalhada dos vieses de IA, consulte: John Guttag e Harini Suresh, 'A Framework for Understanding Unintended Consequences of Machine Learning.' Arxiv preprint, 2019. https://arxiv.org/abs/1901.10002 Veja também: Aram Galstyan, Kristin Lerman, Ninareh Mehrabi, Fred Morstatter e Nripsuta Saxena, 'A Survey on Bias and Fairness in Machine Learning.' Arxiv preprint, 2019. https://arxiv.org/abs/1908.09635

10. Virginia Eubanks, Automating Inequality. New York: St. Martin's Press, 2018. Veja também: Kate Crawford, 'The Trouble with Bias.' Keynote lecture, Conference on Neural Information Processing Systems, 2017.

11. Ruha Benjamin, Race After Technology: Abolitionist Tools for the New Jim Code. Cambridge, UK: Polity, 2019, 5.

12. Cientistas da computação argumentam que a IA pertence a um subcampo do processamento [signal processing ] de sinais, que é a compressão de dados.

13. Matteo Pasquinelli, The Eye of the Master. London: Verso, no prelo.

14. Projetos como Explainable Artificial Intelligence, Interpretable Deep Learning e Heatmapping, entre outros, demonstraram que é possível invadir a 'caixa preta' do aprendizado de máquina. No entanto, a total interpretabilidade e explicabilidade dos modelos estatísticos de aprendizado de máquina continua sendo um mito. Veja: Zacharay Lipton, 'The Mythos of Model Interpretability.' ArXiv preprint, 2016. https://arxiv.org/abs/1606.03490

15. A. Corsani, B. Paulré, C. Vercellone, J.M. Monnier, M. Lazzarato, P. Dieuaide e Y. Moulier-Boutang, 'Le Capitalisme cognitif comme sortie de la crise du capitalisme industriel. Un programme de recherché', Paris: Laboratoire Isys Matisse, Maison des Sciences Economiques, 2004. Veja também : Zuboff, Shoshana, The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power. London: Profile Books, 2019.

16. Lisa Gitelman (ed.), "Raw Data" Is an Oxymoron, Cambridge, MA: MIT Press, 2013.

17. Na aprendizagem supervisionada. O aprendizado auto-supervisionado também mantém formas de intervenção humana.

18. Sobre a taxonomia como forma de conhecimento e poder, veja: Michel Foucault, The Order of Things. London: Routledge, 2005.

19. Como o Amazon Mechanical Turk, cinicamente denominado "inteligência artificial artificial" por Jeff Bezos. Veja: J. Jason Pontin, 'Artificial Intelligence, With Help from the Humans.' The New York Times, 25 Março 2007.

20. Embora a arquitetura convolucional remonta ao trabalho de Yann LeCunn no final dos anos 80, a aprendizagem profunda começa com este artigo: Geoffrey Hinton, Alex Krizhevsky e Ilya Sutskever, 'ImageNet Classification with Deep Convolutional Neural Networks.' Communications of the ACM 60(6), 2017.

21. Para uma avaliação acessível (não muito crítica) do desenvolvimento do ImageNet, consulte: Melanie Mitchell, Artificial Intelligence: A Guide for Thinking Humans. London: Penguin, 2019.

22. O WordNet é"um banco de dados lexical de relações semânticas entre palavras", iniciado por George Armitage na Universidade de Princeton, em 1985. Ele fornece uma rígida estrutura em árvores para definições.

23. Kate Crawford e Trevor Paglen, 'Excavating AI: The Politics of Training Sets for Machine Learning.' 19 September 2019. https://excavating.ai

24. Adam Harvey e Jules LaPlace, Megapixel project, 2019. https://megapixels.cc/about/ e : Madhumita Murgia, 'Who's Using Your Face? The Ugly Truth About Facial Recognition.' Financial Times, 19 April 2019.

25. O GDPR (General Data Protection Regulation) que foi aprovado pelo Parlamento Europeu em maio de 2018 é, no entanto, uma melhoria em comparação com o regulamento que está faltando nos Estados Unidos.

26. Frank Rosenblatt, 'The Perceptron: A Perceiving and Recognizing Automaton.' Cornell Aeronautical Laboratory Report 85-460-1, 1957.

27. Warren McCulloch e Walter Pitts, 'How We Know Universals: The Perception of Auditory and Visual Forms.' The Bulletin of Mathematical Biophysics 9(3): 1947.

28. Os parâmetros de um modelo que são aprendidos com os dados são chamados de "parâmetros", enquanto os parâmetros que não são aprendidos com os dados e são corrigidos manualmente são chamados de 'hiperparâmetros' (estes determinam o número e as propriedades dos parâmetros).

29. Este valor também pode ser um valor percentual entre 1 e 0.

30. https://keras.io/applications (documentação para modelos individuais).

31. Paul Edwards, A Vast Machine: Computer Models, Climate Data, and The Politics of Global Warming. Cambridge, MA.

32. Veja o "Modelo do Sistema Terrestre Comunitário" [Community Earth System Model] (CESM) desenvolvido pelo Centro Nacional de Pesquisa Atmosférica em Bolder, Colorado, desde 1996. O CESM é uma simulação numérica totalmente acoplada do sistema terrestre que consiste em atmosfera, oceano, gelo, superfície terrestre, ciclo do carbono e outros componentes. O CESM inclui um modelo climático que fornece simulações de última geração do passado, presente e futuro da Terra." http://www.cesm.ucar.edu

33. George Box, 'Robustness in the Strategy of Scientific Model Building.' Technical Report #1954, Mathematics Research Center, University of Wisconsin-Madison, 1979.

34. As escolas pós-coloniais e pós-estruturalistas de antropologia e etnologia enfatizaram que nunca há território em si, mas sempre um ato de territorialização.

35. O reconhecimento de padrões é uma entre muitas outras economias de atenção. "Olhar é trabalhar", como nos lembra Jonathan Beller. In. Jonathan Beller, The Cinematic Mode of Production: Attention Economy and the Society of the Spectacle. Lebanon, NH: University Press of New England, 2006, 2.

36. Dan McQuillan, 'Manifesto on Algorithmic Humanitarianism.' Presented at the symposium Reimagining Digital Humanitarianism, Goldsmiths, University of London, February 16, 2018.

37. Conforme comprovado pelo Teorema da Aproximação Universal.

38. Ananya Ganesh, Andrew McCallum e Emma Strubell, 'Considerações sobre energia e políticas para aprendizado profundo em PNL'. Pré-impressão do ArXiv, 2019. https://arxiv.org/abs/1906.02243

39. Cardon et al., 'Neurons Spike Back'.

40. William Gibson, Neuromancer. Nova York: Ace Books, 1984, 69.

41. Fonte: corpling.hypotheses.org/495

42. Jamie Morgenstern, Samira Samadi, Mohit Singh, Uthaipon Tantipongpipat e Santosh Vempala, 'The Price of Fair PCA: One Extra Dimension.' Advances in Neural Information Processing Systems 31, 2018.

43. Veja a ideia de criação assistida e generativa em: Roelof Pieters e Samim Winiger, 'Creative AI: On the Democratisation and Escalation of Creativity' , 2016. http://www.medium.com/@creativeai/creativeai-9d4b2346faf3

44. Os Keyes, 'The Misgendering Machines: Trans/HCI Implications of Automatic Gender Recognition.' Proceedings of the ACM on Human-Computer Interaction 2(88), November 2018. https://doi.org/10.1145/3274357

45. Alexander Mordvintsev, Christophe Olah e Mike Tyka, 'Inceptionism: Going Deeper into Neural Networks.' Google Research blog, June 17, 2015. https://ai.googleblog.com/2015/06/ inceptionism-going-deeper-into-neural.html

46. Falsificações profundas [deep fakes] são mídias sintéticas, como vídeos nos quais o rosto de uma pessoa é substituído pelos traços faciais de outra pessoa, geralmente com o objetivo de criar notícias falsas.

47. Joseph Paul Cohen, Sina Honari e Margaux Luck, 'Distribution Matching Losses Can Hallucinate Features in Medical Image Translation.' International Conference on Medical Image Computing and Computer-Assisted Intervention. Cham: Springer, 2018. arXiv:1805.08841

48. Fabian Offert, Neural Network Cultures panel, Transmediale festival and KIM HfG Karlsruhe. Berlin, 1 February 2020. http://kim.hfg-karlsruhe.de/events/neural-network-cultures

49. Michel Foucault, Abnormal: Lectures at the Collège de France 1974-1975. New York: Picador, 2004, 26.

50. Sobre normas computacionais, veja: Matteo Pasquinelli, 'Arcana Mathematica Imperii: The Evolution of Western Computational Norms.' In: Maria Hlavajova et al. (eds), Former West. Cambridge, MA: MIT Press, 2017.

51. Paola Ricaurte, 'Data Epistemologies, The Coloniality of Power, and Resistance.' Television & New Media, 7 March 2019.

52. David Ingold e Spencer Soper, 'Amazon Doesn't Consider the Race of its Customers. Should It?', Bloomberg, 21 April 2016. https://www.bloomberg.com/graphics/2016-amazon-same-day

53. Cathy O'Neil,Weapons of Math Destruction. New York: Broadway Books, 2016, ch9.

54. Chris Anderson, 'The End of Theory: The Data Deluge Makes the Scientific Method Obsolete.' Wired, 23 June 2008. Para uma crítica, consulte: Fulvio Mazzocchi, 'Could Big Data Be the End of Theory in Science? A Few Remarks on the Epistemology of Data-Driven Science.' EMBO Reports 16(10), 2015.

55. Judea Pearl e Dana Mackenzie, The Book of Why: The New Science of Cause and Effect. New York: Basic Books, 2018.

56. Experiências do Departamento de Polícia de Nova York desde o final dos anos 80. Veja: Pasquinelli, 'Arcana Mathematica Imperii'.

57. Dan McQuillan, 'People's Councils for Ethical Machine Learning.' Social Media and Society 4(2), 2018.

58. Ricaurte, 'Data Epistemologies.'

59. Felix Guattari, Schizoanalytic Cartographies. London: Continuum, 2013, 2.

60. A relação entre IA e hackers não é tão antagônica quanto pode parecer: geralmente se resolve em um ciclo de aprendizado, avaliação e reforço mútuos.

61. Adam Harvey, projeto HyperFace, 2016. https://ahprojects.com/hyperface

62. Anish Athalye et al., 'Synthesizing Robers Adversarial Examples'. Pré-impressão do ArXiv, 2017. https://arxiv.org/abs/1707.07397

63. Nir Morgulis et al., 'Fooling a Real Car with Adversarial Traffic Signs.' ArXiv preprint, 2019. https://arxiv.org/abs/1907.00374

64. O envenenamento por dados também pode ser empregado para proteger a privacidade, inserindo informações anônimas ou aleatórias no conjunto de dados.

65. Ian Goodfellow et al., 'Explaining and Harnessing Adversarial Examples.' ArXiv preprint, 2014. https://arxiv.org/abs/1412.6572

66. Florian Schmidt, 'Crowdsourced Production of AI Training Data: How Human Workers Teach Self-Driving Cars to See.' Düsseldorf: Hans-Böckler-Stiftung, 2019.

67. Hamid Ekbia e Bonnie Nardi, Heteromation, and Other Stories of Computing and Capitalism. Cambridge, MA: MIT Press, 2017.

68. Para a idéia de inteligência analítica, veja: Lorraine Daston, 'Calculation and the Division of Labour 1750-1950.' Bulletin of the German Historical Institute 62, 2018.

69. Simon Schaffer, 'Babbage's Intelligence: Calculating Engines and the Factory System', Critical Inquiry 21, 1994. Lorraine Daston, 'Enlightenment calculations'. Critical Inquiry 21, 1994. Matthew L. Jones, Reckoning with Matter: Calculating Machines, Innovation, and Thinking about Thinking from Pascal to Babbage. Chicago: University of Chicago Press, 2016. 62, 2018.

70. Matteo Pasquinelli, 'On the Origins of Marx's General Intellect.' Radical Philosophy 2.06, 2019.

71. Aida Ponce, 'Labour in the Age of AI: Why Regulation is Needed to Protect Workers.' ETUI Research Paper - Foresight Brief 8, 2020. http://dx.doi.org/10.2139/ssrn.3541002

72. Maxine Berg, The Machinery Question and the Making of Political Economy. Cambridge, UK: Cambridge University Press, 1980. De fato, até o Economist alertou recentemente sobre 'o retorno da questão das máquinas' na era da IA. Veja: Tom Standage, 'The Return of the Machinery Question.' The Economist, 23 June 2016.

# data[].attributes.attachment_link.title
O Manifesto Nooscópio: Inteligência Artificial como Instrumento de Extrativismo do Conhecimento

# data[].attributes.attachment_link.description
Este texto é uma tradução livre para o Português, publicada pela Lavits em primeira-mão, do texto "The Nooscope Manifested: AI as Instrument of Knowledge Extractivism" de Matteo Pasquinelli e Vladan Joler. *Matteo Pasquinelli e Vladan Joler *Para citação: Matteo Pasquinelli e Vladan Joler, "O manifesto Nooscópio: Inteligência Artificial como Instrumento de Extrativismo do Conhecimento", [Trad.

# data[].attributes.body
2) Crawford e Joler (2018)

Anatomy of an AI System:

The Amazon Echo as an anatomical map of human labor, data and planetary resources

# data[].attributes.body
"On the Logical and Political Form of Machine Learning"

É só para assistir a partir de 52:52

# data[].attributes.attachment_link.title
Machines, culture subjectivité - Mario Klingerman & Matteo Pasquinelli

# data[].attributes.body
Até às 23:59 - depósito no SIGAA (aba tarefas)

# data[].attributes.body
"Ciberguerra e Militarismo Comunicativo"

# data[].attributes.attachment_link.title
Ep_4 Svitlana Matviyenko _Ciberguerra e Militarismo Comunicativo [legendado]

# data[].attributes.body
1)  Graham (2011) - Introdução e capítulo 3

Cities Under Siege: The New Military Urbanism

# data[].attributes.body
1)  Graham (2011) - capítulo 4

Cities Under Siege: The New Military Urbanism

# data[].attributes.body
Até às 23:59 - depósito no SIGAA (aba tarefas)

# data[].attributes.body
Fontes (2017)

"Capitalismo em tempos de uberização: do emprego ao trabalho"

# data[].attributes.attachment_link.title
Capitalismo em tempos de uberização: do emprego ao trabalho - Profa. Dra. Virgínia Fontes (6/11/18)

# data[].attributes.headline
19/08 - Leitura obrigatória: Huws (2019) - capítulo 7

# data[].attributes.subject
19/08 - Leitura obrigatória: Huws (2019) - capítulo 7

# data[].attributes.attachment_link.title
Plataformas digitais, mundo do trabalho e desigualdades

# data[].attributes.body
https://youtu.be/ld0QXc9-87o

# data[].attributes.attachment_link.title
Ep_3 Aaron Benanav _Automação e o Futuro do Trabalho [legendado]

# data[].attributes.attachment_link.title
Aaron Benanav, Automation and the Future of Work 1, NLR 119, September October 2019 (1)

# data[].attributes.attachment_link.title
Aaron Benanav, Automation and the Future of Work 2 (1)

# data[].attributes.body
Shoshana Zuboff, The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power (London: Profile Books, 2019), chapter 5, p. 126-170.

# data[].attributes.body
Morozov (2019) - parte 1

# data[].attributes.attachment_link.readable_text
22 de abril de 2019
Paulo Faltay traz a primeira parte da tradução da longa e contundente resenha de Evgeny Morozov ao novo livro de Shoshana Zuboff, The Age of Surveillance Capitalism. Fundamentado em um pensamento crítico de esquerda - com pitadas marxistas - o texto passeia, ora dialogando, ora enfrentando, pelas perspectivas dos autonomistas italianos e, num embate frontal, pelo liberalismo progressista de Zuboff. A resenha, às vezes excessivamente ácida, às vezes prolixa, percorre tanto a produção intelectual da autora, como apresenta um panorama da imaginação e das formulações teóricas sobre a formação e desenvolvimento do regime tecnopolítico contemporâneo.

Para acessar a segunda parte, clique aqui.

//
As novas roupas do capitalismo O novo livro de Shoshana Zuboff sobre "capitalismo de vigilância" enfatiza a segunda às custas do primeiro
Por Evgeny Morozov. Tradução de Paulo Faltay. Originalmente publicado na The Baffler, aqui
I.
Em uma série de artigos notavelmente premonitórios, o primeiro dos quais publicado no jornal alemão Frankfurter Allgemeine Zeitung no verão de 2013, Shoshana Zuboff apontou um fenômeno alarmante: a digitalização de tudo deu às empresas de tecnologia um imenso poder social. Das iniciais, e modestas, armadilhas colocadas em nossos navegadores, eles conquistaram, no estilo Blitzkrieg, nossas casas, carros, torradeiras e até colchões. Escovas de dentes, tênis, aspiradores de pó: nossos antigos e idiotas companheiros domésticos tornaram-se nossos chefes "inteligentes". Esses modelos de negócios converteram os dados digitais em ouro e favoreceram, assim, sua expansão.

O Google e o Facebook estavam reestruturando o mundo, não apenas resolvendo os problemas deles. O público em geral, seduzido por jovens encapuzados que eram embaixadores do mundo da tecnologia e lobotomizados pelas palestras do TED Talk, não tinha ideia de tudo isso. Zuboff observou uma lógica nessa bagunça digital; empresas de tecnologia seguiam racionais - e aterrorizantes - imperativos. Atacá-los por violações de privacidade significava perder a perspectiva da escala da transformação - um erro de cálculo trágico que afetou muito do ativismo contra os gigantes de tecnologia ( Big Techs) que observamos hoje.

Esse erro analítico também levou muitas pessoas inteligentes e bem intencionadas a insistirem que o Vale do Silício deveria - e poderia - se arrepender. Insistir, como fazem esses críticos, que o Google deveria começar a proteger nossa privacidade é, para Zuboff, "como pedir a Henry Ford para fabricar manualmente cada carro ou pedir a uma girafa para encurtar seu pescoço". Os imperativos do capitalismo de vigilância são quase sempre evolutivos: nenhuma política inteligente, mesmo no Congresso (americano), conseguiu encurtar o pescoço da girafa.

O cirúrgico termo que Zuboff usou para descrever este regime, o "capitalismo de vigilância" tornou-se popular. Que este termo tenha sido usado anteriormente - e de uma maneira muito mais crítica - por marxistas na Monthly Review é um pequeno inconveniente genealógico para Zuboff. Seu novo e muito aguardado livro The Age of Surveillance Capitalismo documenta exaustivamente suas sinistras operações. Do Pokemon Go às cidades inteligentes, da Amazon Echo às bonecas inteligentes, os imperativos do capitalismo de vigilância, assim como seus métodos - caracterizados pelas constantes mentiras, ocultamentos e manipulações - se tornaram onipresentes. Os velhos tempos de encher a cara solitariamente se foram: até mesmo as garrafas de vodka tornaram-se inteligente e possuem conectividade à internet. Já quanto aos termômetros retais inteligentes também mencionados no livro, você provavelmente não vai querer saber. Apenas torça para que a sua carteira digital tenha bitcoins suficientes para satisfazer os hackers.

nenhuma política inteligente, mesmo no Congresso (americano), conseguiu encurtar o pescoço da girafa

O livro de Zuboff deixa claro que as promessas feitas pelos "capitalistas de vigilância" são tão doces quanto seu lobby é implacável. As empresas tecnológicas, sob a fachada pomposa de reconfigurar tudo para o benefício de todos, desenvolveram uma série de truques retóricos e políticos que os isolam de qualquer pressão vinda de baixo. Também ajuda, é claro, que a única pressão vinda de baixo seja aquela que dos botões e telas dos seus dispositivos de extração de dados.

Se Donald Trump não tivesse sido eleito presidente - supostamente por causa do acidental bruxo de dados que é Steve Bannon, por seus colegas da Cambridge Analytica e por um grupo de russos que conseguiram usar o Facebook da forma como sempre foi planejado para ser usado - o poder do Vale do Silício poderia ter permanecido como uma questão de nicho: bom para a tagarelice e brincadeiras nerds no Twitter do circuito renegado de think tanks, mas inútil para qualquer outro assunto.

Zuboff entrou nessa conversa que estava ocorrendo em todo o mundo há cinco anos, quando os primeiros sinais de descontentamento com o poder das Big Techs estavam fervilhando. O Vale do Silício não era estranho a críticas, mas o de Zuboff não era uma crítica asual. Uma das primeiras mulheres a ter um cargo de professora na Harvard Business School, ela também trabalhou como colunista da Fast Company e da Businessweek, dois bastiões do tecno-otimismo que não são exatamente conhecidos por terem sentimentos anticapitalistas. Se os membros do establishment começaram a atacar o Vale do Silício, aparentemente, algo estava realmente podre no reino digital. O que era?
II.
Enquanto o uso de Zuboff da frase "capitalismo de vigilância" apareceu pela primeira vez em 2014, as origens de sua crítica são anteriores. Elas podem ser encontradas no final dos anos 1970, quando ela começou a estudar o impacto da tecnologia da informação nos locais de trabalho - um projeto de quarenta anos que, além de resultar em vários livros e artigos, a inundou com esperanças utópicas e decepções amargas. O descompasso entre o possível e o real moldou o contexto intelectual no qual Zuboff - antes uma otimista cautelosa em relação ao capitalismo e à tecnologia - construiu sua teoria do capitalismo de vigilância, a ferramenta mais obscura e distópica dentro de seu arsenal intelectual até hoje.

As conclusões deprimentes de seu último livro estão longe do que Zuboff estava dizendo há uma década atrás. Ainda em 2009, ela argumentou que empresas como Amazon, eBay e Apple estavam "liberando grandes quantias de valor ao oferecer às pessoas o que elas queriam em seus próprios termos e em seu próprio espaço". Zuboff chegou a esse diagnóstico ensolarado através de uma análise abrangente de como a tecnologia da informação estava mudando a sociedade; a esse respeito, ela fazia parte de um grupo de pensadores caracterizado por argumentar que uma nova era - alguns a chamavam de "pós-industrial", outros "pós-fordistas" - já estava presente entre nós.

É dentro dessa análise - e das expectativas otimistas iniciais que ela gerou - que a atual crítica de Zuboff ao capitalismo de vigilância surgiu. Esta é também a razão pela qual seu último tomo muitas vezes se aventura, tanto em conteúdo quanto em linguagem, no campo melodramático: Zuboff, junto com todo o establishment empresarial americano, inebriado pelas promessas da Nova Economia, esperava que algo muito diferente fosse acontecer.

Seu primeiro livro, In the Age of the Smart Machine, foi muito aclamado em 1988. Nele, Zuboff formulou um aparato conceitual e um conjunto de questões que reapareceriam em todos os seus escritos posteriores. Com base em anos de trabalho etnográfico em ambientes industriais e de escritório, o livro pintou um futuro ambíguo. De acordo com o argumento de Zuboff, a tecnologia da informação poderia exacerbar as piores características da automação, privar os trabalhadores de sua autonomia e condená-los a tarefas indignas. Mas, quando usada ​​com sabedoria, poderia ter o efeito oposto: aumentar as capacidades dos trabalhadores para o pensamento abstrato e imaginativo e reverter esse processo de desqualificação criticado por marxistas em suas análises sobre o trabalho sob o capitalismo.

Estruturada em torno da tecnologia da informação, as empresas modernas, no julgamento do Zuboff, tiveram que escolher entre "automatizar" ou "informatizar". Este último foi o termo dela para descrever a capacidade inovadora de coletar dados - o "texto eletrônico" - relacionados ao trabalho mediado por computadores. Sob a era anterior da gestão científica de Frederick W. Taylor, esses dados foram coletados manualmente, por meio da observação ou de estudos de tempo e movimento. Ao extrair o conhecimento tácito dos trabalhadores sobre o processo de trabalho, os administradores, auxiliados por engenheiros, poderiam racionalizá-lo, reduzindo drasticamente os custos e elevando os padrões de vida.

Graças aos avanços na tecnologia da informação, a criação do texto eletrônico tornou-se barata e onipresente. Se este texto fosse disponibilizado aos trabalhadores, poderia até mesmo minar a base do controle gerencial: a suposição de que o gerente sabe mais e melhor. O texto eletrônico gerou o que Zuboff, seguindo Michel Foucault, descreveu como "poder panótico". Conjugada com as práticas autoritárias do antigo local de trabalho altamente centralizado, esse poder reforçaria, provavelmente, as hierarquias existentes; os gerentes se esconderiam atrás dos números e governariam remotamente, em vez de arriscar a ambiguidade da comunicação pessoal. Ampliado por um ambiente de trabalho democrático e por regras igualitárias de acesso ao texto eletrônico, este poder poderia permitir aos trabalhadores questionar as interpretações dos gerentes sobre suas próprias atividades e conquistassem algum poder institucional para si próprios.

In the Age of the Smart Machine, um livro sobre o futuro do trabalho e também, inevitavelmente, sobre o seu passado, manteve um enorme silêncio sobre o capitalismo. Deixando de lado sua extensa bibliografia, este volume ambicioso de quase quinhentas páginas menciona a palavra "capitalismo" apenas uma vez - em uma citação de Max Weber. Isso foi estranho, já que Zuboff não era uma defensora das empresas que estudava. Ela não tinha ilusões sobre a natureza autoritária do local de trabalho moderno, raramente apresentado como um local para a auto-realização dos trabalhadores, e ela se deleitava em atacar fortemente gerentes obcecados por si mesmos e sedentos pelo poder.

As conclusões deprimentes de seu último livro estão longe do que Zuboff estava dizendo há uma década atrás

Apesar de tais comentários críticos ocasionais, Zuboff treinou sua lente analítica para analisar os conflitos institucionais que ocorreram em torno do conhecimento e o papel deles na perpetuação ou enfraquecimento das hierarquias organizacionais. A propriedade privada, classe, os meios de produção - a fonte dos primeiros conflitos relacionados ao trabalho - foram excluídas em sua estrutura de análise. E isso foi deliberado e não um descuido. Afinal, o objeto de estudo foi entender o futuro do ambiente de trabalho mediado pela tecnologia da informação. A abordagem etnográfica de Zuboff era simplesmente mais adequada para entrevistar gestores e trabalhadores sobre que os separava do que delinear os imperativos econômicos que ligavam cada empresa com a economia global. Assim, a máquina inteligente da imaginação de Zuboff operava em grande parte fora das restrições invisíveis que o capitalismo impunha aos gerentes e proprietários.

Embora a palavra "capital" tenha alcançado melhores resultados - o livro menciona algumas vezes -, Zuboff não a vê, como muitos fazem na esquerda marxista costumam fazer, como uma relação social ou um elemento eternamente antagônico ao trabalho. Em vez disso, ele seguiu os economistas neoclássicos ao entendê-lo como maquinário ou dinheiro atrelado a investimentos; "Trabalho", por sua vez, foi tratado principalmente como atividade física. Embora Zuboff também tenha mencionado o papel histórico dos sindicatos, seus leitores não compreenderiam necessariamente o caráter antagônico de "trabalho" e "capital" - em vez disso, ouviram todos os tipos de histórias sobre conflitos circunstanciais em locais de trabalho individuais entre trabalhadores e administradores.

Isto não surpreende: Zuboff não era marxista. Além disso, ela era uma aspirante a professora na Harvard Business School. No entanto, sua defesa de locais de trabalho mais justos e dignos sugeriu que ela poderia ser, pelo menos em algumas questões, uma simpatizante de causas esquerdistas. O que a diferenciava das vozes mais radicais nesses debates era sua insistência contínua nos efeitos ambíguos da tecnologia da informação. A escolha entre "automatizar" e "informatizar" não era apenas um subproduto analítico de seus marcos conceituais ou uma mera proposição retórica. Em vez disso, ela apresentou-a como uma escolha real, existencial que as empresas modernas enfrentaram quando lidavam com a tecnologia da informação.

Tais escolhas binárias - entre o "capitalismo distribuído" e o "capitalismo gerencial" e entre " advocacy-oriented capitalism"[1] e "o capitalismo de vigilância" - também motivariam os livros posteriores de Zuboff. Mas mesmo neste estágio inicial, não estava claro se havia embasamento para o salto analítico, a partir da observação com base em trabalho etnográfico, de que algumas das empresas estudadas efetivamente tiveram que fazer a escolha entre "automatizar" e "informatizar", e daí para a conclusão mais geral de que as condições externas do capitalismo moderno, e cada vez mais o capitalismo da alta tecnologia, universalizaram essa escolha para todas as empresas, representando um novo ponto crítico no desenvolvimento capitalista.

Aceita pelo valor de face, a possibilidade de uma escolha real, em vez de uma postulação, entre "automatizar" e "informatizar" enfraqueceu as críticas tradicionais ao capitalismo como um sistema de exploração estrutural (e, portanto, inevitável) e de desqualificação do trabalho. Na nova era digital de Zuboff, uma aliança sagaz e harmoniosa entre trabalhadores e gerentes poderia permitir que firmas inteligentes e esclarecidas destravassem o poder emancipador da "informatização".

Aqui poderíamos vislumbrar os contornos mais amplos da abordagem de Zuboff sobre o capitalismo: seus males, alguns dos quais ele alegremente reconhecia, não eram o subproduto inevitável das forças sistêmicas, como a busca pela lucratividade. Em vez disso, elas eram a consequência evitável de determinados arranjos organizacionais, os quais, embora fizessem algum sentido em épocas anteriores, poderiam se tornar obsoletos devido à tecnologia da informação. Essa conclusão esperançosa foi derivada quase inteiramente da observação de empresas capitalistas, já que o próprio capitalismo - considerado como uma estrutura histórica, não como uma mera agregação de atores econômicos - estava quase sempre ausente da análise.
III.
Uma das chaves para entender a mais recente teoria do capitalismo de vigilância de Zuboff é a noção de "excedente comportamental", um termo mais sofisticado do que o vulgar "escapamento de dados" [data exhaust], usado por muitos na indústria de tecnologia. Isso remete à distinção entre informatização e automação exposta em seu primeiro livro. Lembre-se que o texto eletrônico, que reaparece em seu último livro como o "texto oculto" [shadow text], tem imenso valor para os diferentes, e muitas vezes antagônicos, atores. Quando as "empresas orientadas para a ajuda" a implementam para "empoderar" os clientes - como a Amazon, por exemplo, faz com as recomendações de livros extraídas de compras de milhões de clientes -, o texto eletrônico segue o caminho utópico da "informatização", alimentando o que Zuboff chama de "ciclo de reinvestimento comportamental". Já quando as empresas de tecnologia usam os dados extraídos para direcionar propagandas e modificar comportamentos, elas criam um excedente comportamental - e esse desenvolvimento fundamental cria o "capital de vigilância.

O Google é o grande exemplo da teoria de Zuboff. Em seus primeiros anos, quando ainda precisava de um modelo de negócios - o licenciamento da sua tecnologia de busca a outros sites foi um dos primeiros, mas insuficientes, geradores de receita - o Google tinha o potencial de se tornar a empresa "orientada para a ajuda" favorita de Zuboff: seu único incentivo para coletar dados era a melhoria do serviço. Depois que ele adotou a publicidade personalizada, as coisas mudaram. Agora, o Google queria que mais dados de usuários para vender anúncios, não apenas para melhorar os serviços. Os dados que acumulam para além da necessidade objetivamente determinada para atender os usuários - uma importante limiar que The Age of Surveillance Capitalism introduz, mas nunca teoriza explicitamente - é o excedente comportamental de Zuboff. Como uma empresa capitalista, o Google quer maximizar essa mais-valia expandindo-se em profundidade - penetrando ainda mais em nossos lares e nossas almas -, mas também em amplitude, oferecendo novos serviços em novas esferas e diversificando seus "ativos de vigilância".

Ao longo de mais de setecentas páginas, Zuboff descreve esse "ciclo da expropriação" em toda a sua ignomínia: somos regularmente roubados, nossas experiências são sequestradas e expropriadas, nossas emoções são saqueadas, por "mercenários da personalidade". Ela vividamente retrata o insuportável "entorpecimento psíquico" induzido pelos capitalistas de vigilância. "Esqueça o clichê de que, se for de graça, 'você é o produto'", ela atiça. "Você não é o produto; você é o cadáver abandonado. O 'produto' é derivado do excedente que é tirado da sua vida". No entanto, o pior ainda está por vir, argumenta ela, a medida em que os gigantes tecnológicos deixam de prever o comportamento e passam a projetá-lo. "Já não é suficiente automatizar o fluxo de informações sobre nós", adverte; "O objetivo agora é nos automatizar ".

Essa nova infraestrutura global para direcionar o comportamento humano produz "poder instrumental", já que o "poder panóptico" do primeiro livro de Zuboff transcende as paredes da fábrica e penetra toda a sociedade. Ao contrário do poder totalitário, evita a violência física; inspirado pelos rudimentares insights behavioristas de B.F. Skinner, em vez disso, nos conduz a resultados desejados (pense em companhias de seguros que cobram planos mais caros para clientes que apresentam um risco maior). "A computação substitui, assim, a vida política da comunidade como a base da governança", conclui Zuboff. Em vez de fundar um jornal fascista, o atual Benito Mussolini provavelmente estaria perseguindo capital de risco, lançando aplicativos e dominando a arte marcial de growth hacking.

somos regularmente roubados, nossas experiências são sequestradas e expropriadas, nossas emoções são saqueadas, por "mercenários da personalidade"

Zuboff compra muitas brigas, culpando por essa emergente "tirania" a assistência de intelectuais do Vale do Silício, um bando de idiotas úteis e empreendedores desonestos empoleirados em instituições para-acadêmicas como o MIT Media Lab. Nomear esse sistema devastador pelo que é, ela argumenta, é o pré-requisito para uma contra-estratégia eficaz, pois sua "normalização nos deixa cantando em nossas correntes*". Não é tarefa fácil, já que o poder ideológico exercido pelas gigantes da tecnologia - com seus think tanks, lobistas e conferencistas - é imenso.

Os atuais debates políticos e regulatórios, no entanto, não conseguem compreender a dimensão sistêmica do problema. Importa se nosso comportamento é modificado por dez ou por dois "capitalistas de vigilância"? Insistir em "criptografia avançada, no aprimoramento do anonimato de dados ou na propriedade de dados" está equivocado, argumenta Zuboff, já que "tais estratégias apenas reconhecem a inevitabilidade da vigilância comercial".

Ainda assim, Zuboff propõe algumas linhas de ação, repetindo a demanda de seu livro anterior por um direito ao refúgio, bem como insistindo em um direito ao "futuro". O direito ao esquecimento europeu - que permite aos usuários solicitar que certas informações obsoletas ou errôneas desapareçam dos resultados de pesquisas - move-se nessa direção. Zuboff também tem esperança que um novo movimento social pressione por instituições democráticas mais fortes e garanta que a experiência humana não seja reduzida a uma "mercadoria fictícia" - como os "movimentos duplos" anteriores, descritos por Karl Polanyi em The Great Transformation, que desafiaram a mercantilização do trabalho, da terra e do dinheiro. Capitalistas iluminados, como a Apple, se encarregam do resto.
IV.
Mais do que apenas listar as vítimas do capitalismo de vigilância, o novo livro de Zuboff busca decifrar seu significado histórico de maneira mais ampla. Em uma frase: "O Google inventou e aperfeiçoou o capitalismo de vigilância da mesma forma que um século atrás a General Motors inventou e aperfeiçoou o capitalismo gerencial". Essa frase não tenta sugerir que o que é bom para o Google também é bom para os Estados Unidos - embora essa proposta tenha gerado um amplo consenso entre muitas pessoas do governo Obama. Em vez disso, Zuboff argumenta que o capitalismo de vigilância não é o mesmo capitalismo de sempre, acrescido apenas de maiores ferramentas de vigilância; ao contrário, é uma nova "ordem econômica", uma "forma de mercado", uma "lógica de acumulação".

Para compreender o funcionamento interno desse novo regime, devemos entender também as do seu predecessor. Alfred Chandler, o bardo do "capitalismo gerencial" de Harvard, foi um interlocutor importante e frequente nos primeiros trabalhos de Zuboff. Embora ele mal tenha sido mencionado em seu último livro, sua estrutura conceitual, postulando uma ruptura entre o capitalismo gerencial e seu sucessor baseado na vigilância, é inequivocamente Chandleriana.

Um professor de business history, Chandler argumentou que, a partir de meados do século XIX, a "mão invisível" do mercado, então composta de pequenas empresas predominantemente familiares, estava sendo cada vez mais dominada pela "mão visível" de administradores profissionais contratados por grandes corporações. Chandler se mostrou muito interessado nessa transformação: a coordenação administrativa de cima para baixo dentro de grandes corporações modernas reduziu drasticamente os custos de coordenação, o que possibilitou o tipo de atividade econômica que era difícil de realizar em um caótico mercado de pequenos produtores que tinham que negociar principalmente entre si.

A narrativa de Chandler tinha enorme poder explicativo. Sustentava que, a partir da década de 1850, as empresas de setores intensivos em capital aproveitaram o rápido desenvolvimento das tecnologias de transporte e comunicação para aumentar drasticamente a escala de suas operações. A revolução tecnológica permitiu-lhes acessar mercados novos e cada vez mais homogêneos, assegurar um maior e contínuo fornecimento de matérias-primas, bem como automatizar partes do processo de produção. Essa escala maior, por sua vez, levou a reduções drásticas nos custos de produção, resultando em preços mais baixos, para o deleite de novas gerações de consumidores.

Tal expansão corporativa exigia uma gestão cuidadosa e ativa, especialmente quando ficou claro que muitas funções anteriormente externas à empresa - da distribuição ao marketing, anteriormente delegadas a prestadores independentes de serviços específicos - poderiam agora ser feitas de forma mais eficaz e segura se fossem trazidas para dentro das empresas, em um processo conhecido como "integração vertical". Os proprietários capitalistas, se esperassem permanecer no jogo, não tinham outra escolha senão recorrer à ajuda externa contratada.

É assim que nasceu a classe gerencial dos EUA. Sua premissa operacional, desde o início, era simples, mas poderosa: alcançar maior eficiência significava se tonar maior. Esses malditos marxistas, sempre falando sobre algo chamado "capitalismo monopolista", simplesmente nunca haviam encontrado o tipo de líderes charmosos e conscientes que passaram pelas aulas de estratégia de Chandler na Harvard Business School. Seu poder de mercado era o ganho da sociedade. Marx, ao postular que a classe trabalhadora representava os interesses universais da humanidade, se equivocou: obviamente, para Chandler, era a classe gerencial.

Chandler foi aluno do grande sociólogo americano Talcott Parsons, que promoveu a abordagem funcionalista na sociologia. Segundo suas premissas, os sistemas sociais tinham certas necessidades, e sua realização - empreendida pelas várias partes constituintes - era parte integrante do funcionamento contínuo de tais sistemas. À medida que ocorre uma mudança histórica mais ampla, as necessidades dos sistemas sociais também mudam - assim como as funções e operações de suas partes constituintes. Um processo de adaptação começa. Os historiadores que trabalham na perspectiva parsoniana geralmente estudam esse processo narrando os muitos sucessos ou fracassos de adaptação diante do ambiente externo em mutação.

Como um bom parsoniano, Chandler fez exatamente isso ao afirmar que o capitalismo gerencial - a resposta evolucionária correta ao ambiente cambiante de meados do século XIX - surgiu à medida que as empresas seguiam os imperativos da mudança tecnológica. Eles o fizeram redefinindo a fronteira entre o mercado e a empresa (por meio da integração vertical) e inventando novas estruturas organizacionais (como a empresa multidivisional) com o objetivo de atingir uma maior eficiência. No caso norte-americano, essa adaptação aconteceu apenas em empresas que conseguiram alcançar o que Chandler chamou de "economias de velocidade". Essas empresas poderiam aproveitar melhor a capacidade de produção existente simplesmente assegurando o fornecimento contínuo de matérias-primas e a distribuição mais rápida do produto final. Os mercados foram menos eficazes nessas duas tarefas; assim, essas funções tinham que ser incorporadas internamente - isto é, sob o controle dos gerentes.

Como Chandler descobriu, no entanto, outros países desenvolveram suas próprias formas de capitalismo gerencial, que não foram marcados pela presença de "economias de velocidade". Sua teoria se expandiu para a perspectiva mais convencional de "economias de escala" e "alcance" (em que, por exemplo, uma empresa poderia fazer melhor uso de suas "capacidades organizacionais" existentes expandindo constantemente sua linha de produtos). As empresas que exploraram totalmente essas economias ganharam a vantagem de serem as primeiras e dominaram suas indústrias, o que, segundo Chandler, impulsionou a eficiência e a inovação de modo geral.

É importante entender o direcionamento geral do argumento de Chandler antes de retornar ao de Zuboff. Chandler começa concentrando-se no que parece ser um fenômeno inegável: a existência de grandes empresas com estruturas organizacionais semelhantes - o material do "capitalismo gerencial". Supõe-se que esse arranjo social é mais eficiente do que o anterior - capitalismo familiar. Essa eficiência, por sua vez, é explicada pelo tamanho maior das empresas estudadas, enquanto o tamanho em si é explicado pela capacidade dos gerentes de coordenar melhor as coisas do que os mercados.

Vestindo o manto do historiador, o teórico dos negócios chandleriano se arrisca nos arquivos - para ilustrar o modelo analítico elaborado em outro lugar. A história dos negócios escrita dessa maneira é, na verdade, uma sociologia funcionalista disfarçada - e é de um tipo um tanto vulgar. São usadas grandes quantidades de evidências históricas apenas para encontrar provas da validade de modelos analíticos pré-selecionados e nunca questionados, organizados sob rubricas como o capitalismo gerencial.

Isso não é história, mas fishing expedition[2]. Afinal, o que mais poderia ser quando não é permitido a nenhuma evidência histórica refutar a relação causal original que sustenta o modelo analítico - aquele que postula que a mudança é impulsionada pela adaptação e evolução, não por lutas de poder e revoluções? Como resultado desse obstáculo analítico autoimposto, as relações de poder quase sempre desaparecem de vista. O calmo impulso formalista do modelo Chandler-Parsons de história nos coloca em uma espécie de democracia bizarra, na qual todos são forçados a se adaptar sem que nenhum esforço coletivo organizado surja para fazer com que alguns atores históricos se adaptem mais ou melhor que outros.

A história dos negócios de Chandler é apenas história por se basear em dados históricos para provar o que postula, ou seja, que o capitalismo gerencial é impulsionado pelos imperativos do capitalismo gerencial e sobrevive quem e aqueles que se agarram e se adaptam a estes imperativos. Podemos, é claro, encontrar muitas evidências históricas para ilustrar essa tese. No entanto, se as grandes empresas e seus gerentes não forem escrutinados pela lente analítica do capitalismo gerencial desde o início, poderemos descobrir muitas outras narrativas históricas e modelos analíticos para explicar a existência deles. Os historiadores normalmente testariam esses modelos uns contra os outros, estabelecendo aquele que com menos pode explicar mais. Mas os Chandlerianos geralmente pulam essa etapa - uma omissão crucial que muitas vezes se torna invisível à medida que eles montam fluxos de dados, gráficos, tabelas e definições para descrever o funcionamento interno do único regime que eles escolheram analisar.
V.
O método de Zuboff, tanto em seu último livro quanto nos dois que o precederam, é Chandleriano ao pé da letra. No capitalismo de vigilância, como seu antecessor gerencial, supõe-se que haja imperativos que os capitalistas de vigilância bem-sucedidos devem seguir. São os imperativos: extrair dados e prever o comportamento. Aqueles que fazem isso bem - Google e Facebook - impulsionam as economias de escala (extraindo o máximo de dados possível), o escopo (obtendo dados de fontes variadas) e a ação (produzindo resultados desejados, como fazer com que os usuários cliquem em um anúncio ou tenham sua atenção dirigida à notificação de aplicativo fitness). Grande parte da The age of surveillance capitalism está dedicada a explorar detalhadamente esses imperativos e economias. Zuboff elabora a dinâmica deles com gráficos reveladores e modelos lúcidos, mostrando como eles moldam as estratégias de negócios das empresas.

A explicação histórica de Zuboff para o surgimento e consolidação do capitalismo de vigilância também é de espírito Chandleriano. Assim como as empresas do século XIX enfrentaram uma escolha entre o capitalismo familiar e o capitalismo gerencial, a "civilização da informação" do início do século XXI encarou a escolha entre o advocacy-oriented capitalism e o capitalismo de vigilância. Este último triunfou devido a afinidades seletivas entre os imperativos dos capitalistas de vigilância, as necessidades de informação do Pentágono pós-11/9 e o ambiente propício criado pela desregulamentação neoliberal. Adeptos do advocacy-oriented capitalism, enquanto isso, não foram capazes de organizar a luta política para alicerçar o seu modelo em instituições políticas e sociais.

A nova escolha entre o capitalismo de ajuda e o capitalismo de vigilância não foi resultado da mudança tecnológica ou da concorrência nos negócios. Em vez disso, argumenta Zuboff, ela surgiu da mudanças nas necessidades dos consumidores. Ela se apoia aqui no trabalho de Joseph Schumpeter, outro dos mentores de Chandler, para colocar o consumidor no centro da mudança histórica: as mudanças nas necessidades dos consumidores desencadeiam novas estratégias de adaptação entre as empresas. Tais estratégias, no entanto, só se tornarão sustentáveis ​​- transformando-se em uma nova forma de mercado - se forem fortalecidas por novas leis e instituições.

Paradoxalmente, essa pressão para institucionalizar novas formas de mercado nem sempre vem dos consumidores, mas, sim, dos "movimentos duplos" daqueles afetados negativamente pelo processo de adaptação. (Os trabalhadores têm estado tradicionalmente à frente de tais lutas.) O paradoxo é facilmente resolvido, no entanto, uma vez que se presume que os interesses dos consumidores estejam alinhados com os dos trabalhadores que trabalham em grandes fábricas que impulsionam a eficiência; os segundos produzem produtos de consumo mais baratos que também são consumidos pelos próprios trabalhadores. Zuboff endossa integralmente a conclusão de Schumpeter de que "o processo capitalista, não por coincidência, mas em virtude de seu mecanismo, eleva progressivamente o padrão de vida das massas". Marx é entendido mal novamente: os administradores não representam mais os interesses universais da humanidade, agora eles têm que dar seu papel aos consumidores.

Curiosamente, Zuboff não segue Schumpeter em sua previsão de que a combinação da indústria chandleriana de grande escala e da democracia de massa resultará no colapso do capitalismo, à medida que o empreendedorismo é domado pelo excesso de burocracia e pelas constantes demandas por mais bem-estar social. Em vez disso, ela vê os vários tipos de emancipação social alcançados pelos movimentos duplos como uma força estabilizadora que permitirá que cada nova forma de mercado, rica em potencial revolucionário, cumpra suas promessas iniciais.

De fato, ela argumenta que isso é exatamente o que aconteceu sob o capitalismo gerencial. Esse regime se baseava em reciprocidades mútuas entre capitalistas e sociedade: os trabalhadores recebiam salários decentes, mantinham-se calados e recebiam produtos relativamente baratos em troca. Esse regime, no entanto, não era algo definitivo e Zuboff acreditava na possibilidade de mudança e melhoria dentro do capitalismo, guiado pelas necessidades dos consumidores.

Por que renegociar algo que tem sido tão eficaz? Segundo Zuboff, o segredo obscuro por trás do capitalismo gerencial era o uso agressivo do marketing. Os deuses das vendas e do marketing fizeram produtos padronizados, como o Modelo T da Ford, para os consumidores que tiveram que padronizar a si mesmos. Mas a revolução da informação da década de 1990 prefigurou o fim de tal padronização forçada, especialmente quando os consumidores emancipados, pós-1968, se tornaram mais sofisticados e exigiram novas experiências. A decepção de Zuboff com o capitalismo de vigilância vem desta esperança anteriormente depositada em um regime que sucessederia e melhoraria o capitalismo gerencial. Seu livro de 2002, The Support Economy, em co-autoria com seu marido James Maxmin, argumentava que uma ordem econômica emergente muito diferente, "capitalismo distribuído", seria justamente esse sucessor. E mudanças rápidas na tecnologia da informação tornaram isso ainda mais provável.

Uma empresa gerou bilhões com essa retórica contracultural de empoderamento individual e autodeterminação, exortando todos nós a "pensar diferente" - de preferência enquanto pagávamos por seus caros produtos

Assim como a ferrovia nos deu a "sociedade totalmente administrada" de Adorno, a web nos daria uma economia que apoia, não administra. Poderia até mesmo ressuscitar federações de firmas semelhantes a corporações, as que Chandler havia condenado ao lixo da história, cujas funções foram superadas por corporações centralizadas e verticalmente integradas. O futuro do capitalismo distribuído aumentava a des integração vertical: as empresas não mais administravam seus próprios sistemas de contabilidade, folha de pagamento ou logística, mas simplesmente os agrupavam em uma única plataforma online compartilhada, acessível a todos os membros da federação. A desintegração vertical também significou que os conflitos sobre o conhecimento que surgiram no primeiro livro de Zuboff logo desapareceriam: as empresas grandes e centralizadas que deram origem a tais conflitos se dissolveriam gradualmente, transformando-se em entidades enxutas e horizontais sem aquela classe geraencial sempre faminta por poder.

A maioria das empresas, argumentou Zuboff e Maxmin, ainda estavam pensando em termos obsoletos ​​da produção em massa; eles usaram a tecnologia da informação para roubar a autonomia de seus clientes e tratá-los com condescendência. Em vez disso, essas empresas precisavam abraçar o "capitalismo distribuído" e cultivar consumidores sofisticados e multidimensionais. Isso era do interesse das empresas, aproximando-as de onde o valor estava agora. Sob o capitalismo gerencial, o valor foi produzido no "espaço organizacional" da firma; sob o capitalismo distribuído, deveria ser encontrado no exterior, no "espaço individual". A tarefa da firma era capturá-lo:

Uma vez que o valor é considerado como inerente a indivíduos, tudo muda. As empresas não mais "criam" valor; eles só podem se esforçar para perceber o valor que já existe no espaço individual. Desta forma, o capitalismo distribuído expande ainda mais o conceito de propriedade. Não apenas a propriedade das ações está dispersa, mas o próprio valor está disperso. Indivíduos "possuem" as fontes de valor, como todo valor se origina de suas necessidades, e todos os fluxos de caixa advêm da realização dessas necessidades (...) Como origem do valor e da fonte de todo o fluxo de caixa, os indivíduos não podem mais ser reduzidos a meros "consumidores" anônimos que se situam no extremo oposto da cadeia de valor, se alimentando do valor criado pelos gestores e garantido pelos acionistas. Em vez disso, eles são partes interessadas ( stakeholders) nas novas estruturas colaborativas, já que estão fundamentalmente alinhados com os requisitos de realização de valor que essa relação possui.

Traduzida para a linguagem de hoje, a premissa central de The Support Economy era que as empresas inteligentes deveriam aproveitar a oportunidade para oferecer " LaaS": Life as a Service (A vida como um serviço). Essa foi uma resposta racional aos indivíduos modernos que abriram seus talões de cheques e passaram seus cartões de crédito não porque foram enganados pelos imperativos da produção em massa, mas porque, encorajados pelo aparato de apoio dos capitalistas iluminados, eles foram afinal "pioneiros em novos tipos de experiências de consumo, na esperança de encontrar o que buscavam".

"Os atuais sonhadores da autodeterminação psicológica", argumentou Zuboff e Maxmin, "querem comprar algo que nunca esteve à venda - o apoio para a inovação e o sustento de uma vida única". As virtudes do capitalismo distribuído e sua superioridade sobre o capitalismo gerencial eram bastante óbvias: "Não mais uma abstração anônima, o indivíduo como a origem de todo valor e a fonte de todo o dinheiro desfruta de oportunidades estruturais para expressar a sua voz e participar das formas de governança".

Uma empresa gerou bilhões com essa retórica contracultural de empoderamento individual e autodeterminação, exortando todos nós a "pensar diferente" - de preferência enquanto pagavamos por seus caros produtos. A partir de seu famoso anúncio de 1984, a Apple fez o melhor que pôde para convencer o público de que seus produtos eram as armas mais eficazes na rebelião global contra a rigidez da sociedade de massa. Zuboff acredita que o marketing era autêntico e que havia algo genuinamente sério na proposta da Apple de lançar uma nova modernidade. Em The Support Economy, ela já estava ansiando por "uma Federação da Apple", que poderia "atrair indivíduos e grupos de interesse para o seu estilo tão inteligente quanto extravagante e seus valores criativos e de alta tecnologia".

Tal Applefilia também permeia seu último livro. A empresa por um período manteve a promessa, escreve Zuboff, de "um capitalismo da terceira modernidade convocado pelas aspirações autodeterminadas de indivíduos nativos do meio digital". Lamentavelmente, não surgiu nenhum appleismo correspondendo ao fordismo de Ford - a real tragédia dos anos 2000. Em vez disso, o modelo do Google venceu; o capitalismo gerencial foi seguido pelo capitalismo de vigilância, não pelo capitalismo distribuído.
VI.
As pressuposições de fundo presentes no argumento de Zuboff podem agora ser apresentadas mais explicitamente: "capitalismo gerencial", consolidado por um pacto social entre capitalistas e sociedade, foi útil até certo ponto, mas, no início dos anos 2000, era hora de tentar algo novo. O capitalismo distribuído - reinventado em seu último livro como o advocacy-oriented capitalism - era seu herdeiro natural. A Apple poderia ter liderado um novo pacto social, mas fracassou nessa missão. O Google, por sua vez, se beneficiou das ansiedades em torno de vigilância, informação e dados digitais do pós 11 de setembro, ao mesmo tempo que décadas de vitórias políticas do neoliberalismo tornaram mais fácil evitar qualquer regulamentação. À medida que o capitalismo de vigilância triunfou sobre o tipo "orientado para a ajuda", um duplo movimento deveria emergir para criar as condições institucionais que permitiriam ao appleismo preencher os espaços políticos e econômicos desocupados pelo fordismo.

Antes de avaliar a validade e a importância desses argumentos, é importante lembrar o quanto eles devem à estrutura chandleriana. A narrativa de Zuboff se sustenta porque é capaz de postular a existência de três regimes diferentes, cada um com seu próprio conjunto de diferentes imperativos e economias. Esses regimes descrevem as operações de grandes agentes econômicos: General Motors e Ford no caso do capitalismo gerencial; Google e Facebook no caso do capitalismo de vigilância; Apple e, anteriormente os protótipos da Alexa, da Amazon, no caso do advocacy-oriented capitalism.

Por si só, no entanto, tais descrições têm pouco peso, pois podemos encontrar muitas maneiras alternativas de delinear a realidade econômica e política. Tais abordagens alternativas podem invocar diferentes conjuntos de imperativos, mas ainda podem oferecer melhores relatos sobre o que impulsiona esses mesmos atores econômicos. O modelo analítico chandleriano, baseado em explicações funcionalistas, não admite facilmente a existência de narrativas alternativas. Seu forte poder explicativo deriva em parte de de sua postura autoimposta de funcionalismo onisciente; os chandlerianos frequentemente não se incomodam em usar explicações alternativas de qualquer maneira, mesmo que apenas para apontá-las como imprecisas. Como resultado, os tipos de questões relevantes que normalmente moldam a escolha dos esquemas explicativos - o modelo analítico escolhido explica a realidade melhor que os alternativos? tem muito poder preditivo alto? - raramente são perguntados.

Assim, os leitores de The Age of Surveillance Capitalism buscarão, em vão, a abordagem de Zuboff sobre o "capitalismo de plataforma" ou "capitalismo cognitivo" ou "biocapitalismo" - algumas das formas alternativas já estabelecidas de enquadrar o mesmo conjunto de problemas políticos. Que esses modelos analíticos rivais não explicam o "capitalismo de vigilância", como Zuboff define, é óbvio; que eles não descrevem alguns dos mesmos fenômenos que ela coloca sob esse rótulo não é nada óbvio. E ainda assim a discussão de Zuboff sobre explicações e conceitos alternativos nunca chega. Talvez setecentas páginas não foram suficientes.

O mesmo problema afetou seus livros anteriores. The Support Economy não faz menção dos longos debates sobre o pós-fordismo (um termo que nunca aparece no livro). In the Age of Smart Machines, da mesma forma, ignora as críticas à automação, bem como as sugestões abundantes para o uso da tecnologia da informação de maneiras mais humanas e não automatizadas - sugestões que já haviam sido feitas pela já esquecida disciplina de cibernética e administração ( management cybernetics). Zuboff trabalha em um estilo muito diferente: ela descreve o que ela acredita ser um fenômeno único, descrevendo-o em profundidade, mas sem construir nenhuma ponte (nem que seja para queimá-las) com as concepções alternativas desse mesmo fenômeno.

O mundo precisa de um novo Chandler para entender a transformação do capitalismo na era digital? Se sim, Zuboff é a candidata favorita. Mas as grandes tendência de mudanças históricas indicam fortemente que precisamos de menos Chandler, não de mais. O arcabouço chandleriano, apesar de todas as suas sacadas analíticas, demonstra uma cegueira crônica em relação às relações de poder - resultado de sua inata falta de curiosidade por explicações não-funcionalistas. Isso, por sua vez, limita as oportunidades de os chandlerianos detectarem imperativos frequentemente tácitos, mas inevitáveis, impostos pelo sistema capitalista. Como resultado, todas essas teorias - de "capitalismo gerencial", " advocacy-oriented capitalism ", "capitalismo de vigilância" - têm muito a dizer sobre cada um dos adjetivos que os qualificam, mas silenciam sobre questões do próprio capitalismo, geralmente reduzindo-o a algo relativamente banal, como o fato de haver mercados, commodities e pactos sociais ocasionais entre os capitalistas e o resto da sociedade.

A recepção do trabalho de Chandler é um exemplo disso. Para seus críticos, o relato de Chandler sobre o capitalismo gerencial era apenas um conto de fadas elaborado, que permitia às elites americanas legitimar suas normas e padrões com mitos que rivalizavam com os que agora surgem do Vale do Silício. Chandler elogiou os quadros gerenciais dos Estados Unidos, os supostos defensores da eficiência, por servir não aos interesses do capital, mas aos interesses da sociedade. Zuboff bebeu muito na fonte de Chandler, criticando apenas a durabilidade do capitalismo gerencial frente às mudanças tecnológicas, seu impacto negativo nos consumidores e sua cultura organizacional altamente hierárquica, narcisista e sexista.

Os críticos de Chandler, em contraste, acusaram-no do crime metodológico de reverter a causalidade da explicação histórica. O que impulsionou a expansão da indústria americana foi uma busca por lucro e poder, não uma busca por eficiência; a eficiência, onde surgiu, era o subproduto desta busca. Com foco na rentabilidade de longo prazo, as empresas tentaram aumentar sua participação de mercado por meio de práticas anticompetitivas, como descontos, propinas e contratos exclusivos. Os preços baixos não foram apenas alcançados, ou não majoritariamente, através da eficiência, mas também externalizando os custos de produção na sociedade (por exemplo, poluição), suprimindo direitos trabalhistas e obstruindo modelos alternativos de organização social não comerciais.

E ainda assim a discussão de Zuboff sobre explicações e conceitos alternativos nunca chega. Talvez setecentas páginas não foram suficientes.

Essas novas atividades, às vezes subversivas, exigiam uma nova classe gerencial. No entanto, o lobby, a sabotagem e o ativismo anti-trabalhista de fora da empresa importavam tanto quanto o que fazia a administração inteligente dentro dela. Tais ações dificilmente foram impulsionadas por preocupações com a eficiência, mesmo que aumentassem o tamanho das empresas. Muitas das fusões horizontais celebradas por Chandler foram, da mesma forma, movidas apenas pela necessidade de consolidar o poder, ou simplesmente sobreviver; muitas vezes, elas até reduziram a eficiência. As grandes empresas precisam ser avaliadas não apenas em termos de eficiências produzidas, mas também em termos de eficiências suprimidas.

Para os críticos, a questão principal não era se as mãos que coordenavam a sociedade eram visíveis (à la Chandler) ou invisíveis (à la Adam Smith), mas sim se estavam sujas. E, na maior parte, eles estavam - especialmente quando se tratava de obter um fornecimento contínuo de matérias-primas do exterior. Nesse contexto, as louvações de Chandler ao capitalismo gerencial eram apenas o outro lado das teorias do subdesenvolvimento defendidas por economistas críticos da América Latina: o bom funcionamento do capitalismo gerencial americano se deu às custas de economias estrangeiras, tornando-as altamente disfuncionais e lentas em seu desenvolvimento. Essas economias tornaram-se meros apêndices do sistema de produção americano, incapazes de desenvolver sua própria indústria.

A discordância mais importante surge, assim, sobre quem "construiu" o capitalismo gerencial. Para Chandler, o impulso exógeno do desenvolvimento tecnológico e os imperativos da sociedade de massa. Para seus críticos - que preferiam termos como "liberalismo corporativo" -, foram os capitalistas que, encontrando aliados no aparato estatal, se apropriaram de tecnologias abertas a diversos usos as usando para interesses corporativos limitados e restritos. Os gerentes eram a consequência, e não a causa, de tais desenvolvimentos.

Dado que Zuboff, como Chandler, não precisou lidar com essas críticas, ela pôde se dar ao luxo de sentir nostalgia, em seu trabalho anterior, sobre as "reciprocidades construtivas de consumidores e produtores" do capitalismo gerencial. A tese do "liberalismo corporativo" não era desconhecida de Zuboff, ela cita Martin Sklar, um dos principais defensores da tese, em The Support Economy. E ainda assim ela não fez uso de tais críticas. Em vez disso, ela continuou a ver o capitalismo gerencial como um compromisso ganha-ganha entre consumidores, trabalhadores e produtores; uma construção erguida por meio de instituições democráticas, mas, infelizmente, ainda sem oportunidades para a autorrealização individual.

Uma análise completa dos métodos e custos do capitalismo gerencial, no entanto, deve olhar para além do eixo consumidor-produtor-trabalhador. O que significou para as relações raciais, as estruturas familiares, o meio ambiente, o resto do mundo? O que acontece com a autodeterminação das pessoas fora do mercado? Não deveria o suposto regime que o sucedeu - quer esteja enraizado no advocacy-oriented ou na vigilância - ser avaliado nesta escala muito maior de custos potenciais? Essas considerações adicionais, no entanto, nunca entram realmente em cena, já que o teor funcionalista geral do argumento já dita os próprios critérios nos quais a atratividade do novo regime deve ser avaliada.
VII.
É muito mais fácil lidar com os paradoxos do pensamento de Zuboff se a considerarmos como uma contraparte americana do marxismo autonomista italiano. Se Toni Negri lecionasse na Harvard Business School, provavelmente ele soaria como Shoshana Zuboff. Ao examinar as ruínas da sociedade industrial no final dos anos 1970, os italianos - mais conhecidos através do trabalho de Negri, mas compreendendo muitos outros pensadores interessantes - chegaram a conclusões muito semelhantes às dela. Como Zuboff, eles viam a tecnologia da informação como uma força potencialmente libertadora, algo que poderia ajudar a liberar as habilidades cognitivas e comunicativas dos trabalhadores após o longo período de repressão a que se expuseram sob o regime físico-trabalhista do taylorismo.

Assim como o consumidor de massa padronizado de Zuboff foi substituído pelo consumidor idiossincrático e individualizado que cria valor fora da fábrica, também o "trabalhador de massa" taylorista dos autonomistas foi superado pelo "trabalhador social". Essa figura recém-criada também criou valor fora da empresa, no que os autonomistas chamaram de "fábrica social". Essa suposição aparentemente inócua desafiava as teorias ortodoxas da esquerda que restringiam a adesão da classe trabalhadora aos trabalhadores das fábricas, ignorando o imenso trabalho nas margens invisíveis da fábrica social - por exemplo, o trabalho doméstico das mulheres, que era essencial para a continuidade da produção.

Quando os trabalhadores assalariados começaram a se rebelar na década de 1970, os capitalistas foram expulsos das fábricas. Eles não sofreram muito, e logo aprenderam a se apropriar do valor escondido à margem da "fábrica social", mercantilizando muitas das atividades que antes eram oferecidas pelo estado de bem-estar social ou por acordos informais. Assim nasceu a economia do serviço.

Mas aqui os programas normativos divergem. Zuboff esperava anteriormente que os mais esclarecidos entre os capitalistas pudessem inaugurar o próximo estágio humano - o da "economia de apoio". Os autonomistas, então marginalizados ou exilados após décadas de protestos e turbulências políticas, viam a extração de valor da fábrica social como apenas outra forma de usura: um imposto desnecessário sobre a atividade social da "multidão" autônoma e desobediente, seu sujeito político coletivo preferido. Eles pressentiram outros problemas. Como o trabalho era cada vez mais colaborativo e intangível, não era mais possível pagar aos trabalhadores - muito menos àqueles que se encontravam à margem da fábrica social, que raramente eram compensados ​​- por sua contribuição individual e facilmente visível para a produção. Para restaurar a justiça, os autonomistas italianos exigiram renda básica universal.

Eles não postulavam os mesmos imperativos que Zuboff, mas o pressuposto de sua teoria era uma suposição tão funcionalista quanto as de Chandler ou de Parsons: o que impulsionava o capitalismo não era tanto sua necessidade de expandir, mas, antes, a capacidade do trabalho de estar sempre um passo à frente do capital, ameaçando seu predomínio a cada movimento. Assim como Zuboff postulava que os consumidores desejavam e, então, os capitalistas se adaptavam, os autonomistas sustentam que os trabalhadores avançam e os capitalistas se adaptam - geralmente recuando. Essa explicação das coisas tinha grande poder retórico, mas foi de pouca ajuda para traçar estratégias políticas: entender o período entre 1970 e 2010 como um recuo do capitalismo desorganizado diante de uma multidão bem organizada requer muita imaginação criativa. Os autonomistas tinham uma grande tese, com imperativos e tudo, e recorreram à história e aos assuntos atuais para encontrar evidências suficientes para provar isso. Mas como foi o caso dos funcionalistas chandlerianos, a relação deles com explicações alternativas muitas vezes deixava muito a desejar.

Quando as fábricas reais começaram a fechar e se mudar para oriente, os italianos também mudaram de foco. Depois de um tempo, eles produziram uma teoria do "capitalismo cognitivo", que pregava a emancipação iminente de trabalhadores cognitivos e imateriais dos antigos vínculos do taylorismo. Não havia mais nenhum porto seguro para os capitalistas se retirarem: a digitalização de tudo significava que a multidão havia vencido a guerra. E, como os habitantes da fábrica social estavam esperando por suas reparações, por que não defender medidas transitórias como uma renda básica universal?

entender o período entre 1970 e 2010 como um recuo do capitalismo desorganizado diante de uma multidão bem organizada requer muita imaginação criativa

Em seu segundo livro, Zuboff também parecia ter perdido o interesse pela produção. Embora dedicasse muitas páginas sobre o poder das federações de empresas, The Support Economy tornou a produção quase invisível. Seria uma admissão tácita de que a ambiguidade de seu primeiro livro havia sido resolvida - e não em favor dos trabalhadores? Talvez. Nem o trabalho administrativo nem a produção industrial haviam adotado a "informatização". Trabalhadores de outros setores logo se viram presos em novos templos de "poder panóptico", como os armazéns da Amazon. Trabalhadores administrativos não se saíram muito melhor, com alguns acorrentados digitalmente a "smart desks" que monitoraram todos os seus movimentos. A indústria 4.0 da Alemanha - a iniciativa mais avançada do mundo em produção digitalizada - é o ápice do taylorismo, não da democracia no local de trabalho.

Com a produção em grande parte fora de cena, a natureza mutável do consumo foi a responsável por justificar o otimismo inicial dos muitos profetas da sociedade pós-industrial. Nossa vida profissional pode não ter nos empoderado muito, mas poderíamos, talvez, recuperar alguma dignidade por meio do "consumo individualizado" - um dos conceitos-chave de The Support Economy. Você não precisava estar na Harvard Business School para contemplar essas mudanças. De fato, muitos da esquerda se juntaram ao movimento. Marxism Today, a finada publicação teórica do Partido Comunista da Grã-Bretanha, foi a mais exuberante, eventualmente abrindo o espaço parra a "Terceira Via" de Tony Blair, caminho entre o neoliberalismo piedoso e anti-thatcherista e o amável comunitarismo consumista.

Os italianos não foram tão longe, mas ampliaram o conceito da fábrica social para incluir o consumo: em seu esquema, os consumidores eram na verdade "prosumidores", envolvidos em "trabalho imaterial", como, por exemplo, produzindo involuntariamente o valor intangível de marcas. O "prosumo", no entanto, não foi a única função social atribuída aos membros da "multidão"; nem algo a ser celebrado. Diagnosticar o prosumo como fonte de extração de valor não era endossá-lo, mas argumentar que as formas padrões de contabilizar o valor, incluindo aquelas facilitadas por muitos marxistas ortodoxos, eram inadequadas.

Aqui as diferenças normativas aparecem mais uma vez. Para Zuboff, professora de administração, uma reorientação do ethos corporativo era o correto; a condescendência da produção em massa seria substituída pelo apoio e defesa dos interesses dos consumidores. Os consumidores emancipados pagariam em dinheiro para satisfazer suas necessidades, enquanto os capitalistas esclarecidos ajustavam seus modelos de negócios de acordo: não havia indício de conflito social porque o "prosumo" e seus equivalentes ( The Support Economy nunca usa esse termo) é, na teoria de Zuboff, o que os consumidores desejavam o tempo todo.

Os italianos discordaram e insistiram em encontrar maneiras de redistribuir parte do valor àqueles que trabalhavam na fábrica social. Além de uma RBU, eles queriam mais bem-estar (a precondição de um desenvolvimento social sólido), mas o reinventaram como "comum", com um modelo administrativo radicalmente democratizado no qual os cidadãos - e não os burocratas - estariam no comando.
VIII.
O que fazer com essas teorias em 2019? O maior desafio para os italianos tem sido a dificuldade de implementar sua utopia de auto-empoderamento coletivo por meio de instituições horizontais, descentralizadas e não estatais. Embora as policlínicas ou escolas autogeridas fossem fáceis de imaginar, especialmente na década de 1970, como é possível supor que uma Inteligência Artificial ou uma infraestrutura de computação em nuvem autogerida surgisse, especialmente na ausência de um suporte do Estado, há muito desprezado? E, na ausência de infraestrutura de informática gerida pelas cidadãos, o que é uma escola autogerida que seria totalmente dependente do Google?

A premissa chave da teoria autonomista italiana - de que o capital estava se tornando externo ao trabalho, permitindo que trabalhadores cognitivos capacitados, agora dispersos pela fábrica social, se auto-empoderassem - parece cada vez mais questionável. A concepção dos tecnocapitalistas como rentistas passivos e autônomos, por parte dos autonomistas, é difícil de ser conciliada com os maciços investimentos bilionários realizados pelos gigantes da tecnologia de hoje. Se estes são os rentistas, então quem são os capitalistas?

Contudo, os autonomistas forneceram uma visão utópica de proporções quase bíblicas: o capital, em sua transição para a economia de serviço, libera inadvertidamente os trabalhadores, transformando os capitalistas em pequenos parasitas dentro de redes globais mais amplas de cooperação social. Dado que alguns meios de produção imaterial - por exemplo, software livre ou Wikipedia - estão agora fora do controle capitalista, a multidão, ao contrário dos trabalhadores da produção em massa, pode fugir de suas prisões e prosperar de forma autônoma. A fábrica social se transforma em uma grande e feliz acampamento.

Como a maioria das instituições alternativas da sociedade emancipada não surgiram, a visão italiana, encolhida a slogans vulgares, agora sobrevive principalmente na ideia de que usuários de plataformas tecnológicas produzem valor e devem ser pagos por isso, através de uma renda básica ou garantida de alguma outra forma . Algumas recentes propostas européias para instituir um novo tipo de imposto sobre serviços digitais usam proposições similares, insistindo que os dados fornecidos por seus usuários é o que explica o imenso sucesso comercial desses serviços e, portanto, eles devem ser tributados de acordo.

Localizada muito mais perto da sede administrativa do que da fábrica social global, Zuboff, em contraste, não via os capitalistas se tornarem supérfluos. Nem tampouco desejava torná-los dispensáveis, a julgar pelo seu trabalho anterior a The Age of Surveillance Capitalism. Seria muito melhor para a sociedade moderar os capitalistas, argumenta Zuboff, exigindo algum tipo de humanismo corporativo barato. Além disso, não havia motivo para insistir em que os dados e outros tipos de elementos intangíveis fornecidos pelos consumidores exigiam arranjos tributários específicos, muito menos novos esquemas de redistribuição, como a renda básica. Defender isto significaria um retrocesso para o capitalismo distribuído: afinal, a total realização das necessidades dos consumidores não seria possível sem haver a apropriação desses dados. No capitalismo distribuído, os consumidores satisfizeram a maioria de suas complexas necessidades - dessa forma, são eles que devem realmente pagar.

Mas em 2013, quando Zuboff publicou o artigo no Frankfurter Allgemeine Zeitung, que culminaria em sua teoria do capitalismo de vigilância, os motivos para seu otimismo inicial haviam desaparecido. O capitalismo distribuído não havia chegado. Em vez disso, a pior faceta do capitalismo gerencial - o método taylorista de extrair conhecimento tácito para controlar os trabalhadores - se tornou a racionalização de toda a fábrica social, não apenas de seus setores produtivos. Agora invadiu e ultrapassou uma parte fundamental da economia capitalista - o consumo - que antes animava Zuboff. (Por mais inovadora que a revolução neotaylorista de Zuboff possa parecer em 2019, vale a pena notar que alguns dos observadores mais radicais do capitalismo de alta tecnologia - como o sociólogo britânico Frank Webster - postularam a chegada do "taylorismo social" impulsionado pela vigilância já no final dos anos 80).

Se o taylorismo extraiu e racionalizou o conhecimento tácito do trabalhador, o capitalismo de vigilância extrai e racionaliza o conhecimento tácito do consumidor supostamente emancipado. Como observa Zuboff, "o foco mudou de máquinas que ultrapassam os limites dos corpos para máquinas que aproveitam todo os tipos de informações para modificar o comportamento de indivíduos, grupos e populações a serviço dos objetivos do mercado". O "capitalismo gerencial" perseguia e automatizava o corpo; o "Capitalismo de vigilância" persegue e automatiza a mente.

Enquanto o poder do taylorismo era bruto e seus métodos visíveis, o novo regime esconde seus rastros, criando uma ilusão de autonomia genuína. Mas, por trás da fábrica social de hoje, há uma complexa rede de processos algorítmicos e de extração de dados que transformam nossa existência cotidiana em mais um tipo de matéria-prima. Assim, a assustadora previsão do primeiro livro de Zuboff, de que a tecnologia poderia aumentar o "poder panóptico" dos gerentes, não apenas aconteceu, mas foi realizada em uma escala muito maior - e no próprio espaço individual, fora das empresas, que seu segundo livro havia postulado como um potencial local de libertação. Assim, a tarefa de seu livro mais recente é documentar a natureza destrutiva dessa expansão, bem como insistir que um retorno ao capitalismo mais humano e advocacy-oriented ainda é possível: a fábrica social pode informar, não apenas automatizar .

Vista através das lentes do capitalismo de vigilância, a utopia italiana dos trabalhadores cognitivos fugindo das amarras do capitalismo estava destinada ao fracasso desde sempre: nossas instituições digitais estão surdas às demandas da multidão, marchando ao ritmo do capitalismo de vigilância. O que, de forma traiçoeira, estrutura todas as nossas interações sociais com apenas um objetivo: extrair mais dados, vender anúncios, nos levar a resultados sociais mais "positivos" - mas positivos para quem? À medida que os smart capitalistas digitalizaram a fábrica social, ela se transformou novamente na fábrica que sempre foi. Aqui, o valor é gerado não pela extração de renda ou dividendos, como os italianos ainda defendem hoje quando, por exemplo, discutem finanças ou o algoritmo de PageRank do Google. Não, em vez da figura quase pré-capitalista do rentista alavancar os direitos de propriedade para apropriar-se da mais-valia social, estamos lidando com empresas capitalistas normais sujeitas a leis e imperativos padronizados.

Quaisquer que sejam as semelhanças, há uma diferença fundamental entre Zuboff e os italianos: aonde eles tendem a pensar em termos da multidão, por mais ambíguo e enganoso que esse conceito possa ser, Zuboff pensa em termos de singularidade - a do consumidor soberano. Sua versão digital da fábrica social lembra o Go, o supermercado automatizado, sem caixa, que a Amazon está lançando agora em todo os Estados Unidos: o único ator social visível que existe é o consumidor. Todos os movimentos sociais que ela invoca servem ao papel secundário de meramente ajudar este consumidor na busca da sua autorrealização; as esparsas referências ao estado em The Age of Surveillance Capitalism também aparecem neste mesmo contexto. Previsivelmente, portanto, as escolhas são poucas: permitir que o consumidor tire proveito do advocacy-oriented capitalismo para a sua autorrealização, ou se render à pilhagem dos capitalistas de vigilância, que irão sequestrar a mente do consumidor na busca de seus próprios objetivos.
//
[1] Escolho aqui deixar no original pela difícil tradução. Algumas traduções o colocam como "capitalismo orientado à ajuda" ou "capitalismo orientado ao bem-estar". Porém, tais traduções não dão conta dos sentidos e nuances da expressão. Advocacy é um termo muito específico que remete a uma série de práticas de defesa dos interesses de algum grupo, possuindo, assim, uma dimensão de ativismo. Compartilho da leitura de Morozov em colocar a construção teórica de Zuboff como ancorada em um "liberalismo progressista", como veremos a seguir. Assim, o termo advocacy faz parte do entendimento da autora de que uma relação de reciprocidade entre consumidores e empresas, com os indivíduos pagando "livremente" para realizar suas necessidades e desejos, representaria algum empoderamento, uma possibilidade de emancipação individual por meio do mercado.

[2] fishing expedition é um termo que designa uma investigação especulativa, sem objeto certo ou determinado, cujo objetivo é "pescar" algum indício, prova ou evidência que embase uma hipótese previamente formulada.

Essa tradução integra o projeto ECONOMIA PSÍQUICA DOS ALGORITMOS: RACIONALIDADE, SUBJETIVIDADE E CONDUTA EM PLATAFORMAS DIGITAIS, coordenado pela profª Fernanda Bruno, com a apoio do CNPq.

# data[].attributes.attachment_link.title
#Dobras 28 // As novas roupas do capitalismo | Parte 1

# data[].attributes.attachment_link.description
22 de abril de 2019 Paulo Faltay traz a primeira parte da tradução da longa e contundente resenha de Evgeny Morozov ao novo livro de Shoshana Zuboff, The Age of Surveillance Capitalism. Fundamentado em um pensamento crítico de esquerda - com pitadas marxistas - o texto passeia, ora dialogando, ora enfrentando, pelas perspectivas dos autonomistas italianos e, num embate frontal, pelo liberalismo progressista de Zuboff.

# data[].attributes.body
Morozov (2019) - parte 2

# data[].attributes.attachment_link.title
Ep_1 Cédric Durand _Tecnofeudalismo: Crítica à Economia Digital [legendado]

# data[].attributes.attachment_link.title
Ep_6 Cecilia Rikap _Capitalismo, Poder e Inovação: Capitalismo Monopolista Intelectual Desvelado