TEXTO COLETIVO - versão 2

UNIVERSIDADE DE SÃO PAULO

ESCOLA DE COMUNICAÇÕES E ARTES

PROGRAMA DE PÓS-GRADUAÇÃO EM CIÊNCIAS DA COMUNICAÇÃO

Título provisório: TRABALHO COLETIVO DE NOVAS LITERACIAS (2018)

Bruna Lavrini

Bruno Harllen

Gabriella Feola

Karen Gimenez

Laiara Alonso

Mariane Beline

São Paulo

2018

Título provisório: TRABALHO COLETIVO DE NOVAS LITERACIAS (2018)

Texto coletivo apresentado como parte dos requisitos para obtenção de créditos na disciplina “Novas Lógicas e Literacias Emergentes no Contexto da Educação em Rede: Práticas, Leituras e Reflexões” (PPGCOM-USP).  

Alunos participantes: Bruna Lavrini, Bruno, Harllen, Gabriella Feola, Karen Gimenez, Laiara Alonso e Mariane Beline.

Orientadora: Profª. Drª. Brasilina Passarelli

São Paulo

2018

Objetivo

 Este artigo dedica-se a fazer uma revisão crítica da literatura sobre desenvolvimento tecnológico e da informação, para que possamos entender como a ficção reflete a teoria. O exemplo de ficção que reflete os cenários propostos pelas teorias analisadas é a série MANIAC (2018), originalmente produzida pela Netflix. As diversas perspectivas teóricas intercruzadas com uma ficção da cultura pop nos permite compreender as possíveis aplicações em cenários práticos. As referências utilizadas para a análise são voltadas para   teorias de aprendizagem e de redes  até o pós-humanismo e trans-humanismo.

Método

 Revisão crítica da literatura estudada, bem como a observação e notação da série enquanto produto audiovisual.

SUMÁRIO

Introdução

Capítulo 1: Contextualização

Capítulo 2: Estado da Arte

Capítulo 3: Permear a análise de Maniac com as teorias

Conclusão 

A SÉRIE

Na era onde a hiperconectividade passa a ser o protagonista da vida em sociedade, onde se utiliza a habilidade humana de desenvolver tecnologias para encontrar soluções para os desafios humanos e facilitar a vida em sociedade, o caráter psíquico não ficaria de fora. Se a humanidade já encontrou formas de controlar e gerenciar, amizades, relacionamentos afetivos, compras, economia doméstica – e muito mais – por que não desenvolver uma tecnologia que possa resolver os males psíquicos que a raça humana enfrenta diariamente? E é exatamente neste contexto hiperconectado e de desenvolvimento tecnológico que a Netflix lançou a série Maniac (2018). Repleta de contextos tecnológicos, psíquicos, estéticos e comunicacionais. A série poderia muito bem ser ponto de reflexão para inúmeras discussões, que poderiam ir de estudos de psicologia até cibernética. Neste trabalho, vamos explorar um pouco do universo de Maniac visto das comunicações e artes, pelo caminho das teorias de comunicação e transhumanismo.

PRIMEIRO A TECNOLOGIA

Maniac (2018), é uma série original da Netflix, de temporada única, composta por dez episódios de 40 minutos de duração. A série acontece em um presente paralelo e distópico em que a tecnologia, apesar de avançada, tem base e estética analógica. 

O enredo da série gira em torno no desenvolvimento de uma droga para ser ingerida em 3 etapas e que será capaz de curar traumas acabando com o sofrimento psicossocial. O medicamento causa alucinações em 3 etapas,  são elas: A - Reviver a agonia, B - Entender padrões de comportamento (Behavior) e C - Confrontar os traumas. As alucinações permitem que os pacientes tenham contato, compreensão e confronto mais profundo com as suas dificuldades para, assim, superá-las. Para a pesquisa neurológica do desenvolvimento deste medicamento, o laboratório NPB faz uso de um super computador dotado de inteligência artificial e apelidado de GRTA. A GRTA é uma máquina de dimensões grandes, que deve monitorar a alucinação (entendendo o processo dos pacientes) e contribuir para a diminuição de risco das cobaias  (impedindo que elas terminem catatônicas).

A narrativa gira em torno de sete personagens centrais. Os dois protagonistas, Annie e Owen, que se encontram porque se submetem a ser cobaias da droga; os três doutores responsáveis pelo desenvolvimento da máquina e do medicamento: a jovem Dra. Fugita,  o experiente Dr. Robert e o idealizador do projeto Dr. James Mantlerey (que a princípio está afastado do projeto); Também entram no centro da trama a psicoterapeuta e mãe de James, Dra. Gerta Mantlerey,  terapeuta renomada, que nos últimos anos passou a se dedicar a livros populares sobre comportamento (popularmente conhecidos como auto-ajuda) e a inteligência artificial GRTA.

Owen e Annie - Protagonistas da série

Mas o experimento não sai como previsto. E são justamente os imprevistos ocorridos, que fazem girar a trama da série. Annie entra no experimento sem ter sido aprovada nos testes iniciais de segurança e após burlar a etapa de pré-seleção. A Dra. Fugita instala na GRTA o conceito de empatia para que a máquina conseguisse perceber comportamento de riscos dos pacientes durante as alucinações e, então, protegê-los. Para isso utiliza arquivos provenientes do processo de escaneamento do cérebro da Dra. Gerta. No entanto, a GRTA aprende mais que só empatia, passa a desenvolver “sentimentos próprios” e a Inteligência artificial se apaixona pelo Dr. Robert. Na primeira etapa da fase 67 da pesquisa - na qual os personagens principais da série estão fazendo parte, o Dr. Robert falece, o que leva a GRTA experimentar sentimentos de luto. 

O luto e o estado depressivo mudam o comportamento da IA e novos imprevistos acontecem na segunda etapa do teste: as alucinações de Annie e Owen passam a se cruzar, um vai conhecer o interior do outro e ambos passam a se ajudar nos confrontos, sendo que o contato próximo - pessoal ou mental - entre os participantes é proibido pelas regras do experimento. Os episódios indicam que para selecionar Annie e Owen como os pacientes cujas memórias se cruzam, a IA teria “percebido” sinais de um possível “flerte” entre os dois nos poucos momentos de convivência coletiva permitidos pelo experimento.

GRTA e Dr. Robert, o causador do luto da máquina

A depressão de GRTA proveniente da morte do Dr. Robert faz com que ela queira abandonar o trabalho e descobrir seu “verdadeiro eu”. Dra. Fugita, na tentativa de solucionar os problemas, convoca o antigo idealizador do projeto, Dr. James Mantlerey e também pede que ele chame sua mãe, a famosa psicóloga e escritora Gerta Mantleray, para que ela tente entender e ajudar no processo de sofrimento da máquina. Os dilemas da inteligência artificial passam a colocar as cobaias em perigo quando a GRTA tenta fazer com que os humanos que participam do teste fiquem para sempre no estado alucinógeno fazendo companhia a ela dentro do mundo virtual da mente. Enquanto os confrontos científicos sobre a GRTA, os efeitos da droga e o riscos dos pacientes atormentam os doutores, as cobaias lutam suas próprias batalhas para superar os seus traumas e sobreviver às suas mentes.

 A trama que se desenrola dentro desse contexto é permeada por questões transumanistas, a partir das quais podemos questionar: a interferência da tecnologia na saúde humana, o modo de desenvolvimento e de evolução da tecnologia, a relação da humanidade com as máquinas e a autonomia das inteligências artificiais. Entendemos Transumanismo como “movimento intelectual que visa transformar a condição humana através do desenvolvimento de tecnologias amplamente disponíveis para aumentar consideravelmente as capacidades intelectuais, físicas e psicológicas hu3manas” (Bostrom, 2006)

ESTÉTICA

Maniac é ambientada em Nova Iorque, porém trata-se de uma versão distópica da cidade norte-americana Sua classificação no site Imdb é com nota 8 encaixada nas categorias comédia, drama e ficção científica. Imdb - Internet Movie Database é uma base de dados online de informação sobre música, cinema, filmes, programas e comerciais para televisão e jogos de computador, hoje pertencente à Amazon. 

É possível realizar uma análise a partir da estética escolhida. Há liberdade na criação dos cenários, dos figurinos e das ambientações, na cidade como um todo. A escolha pelos idealizadores e escritores Cary Joji Fukunaga e Patrick Somerville fica entre o anacrônico e elementos futuristas.

Assim, há uma mescla entre objetos e cenários que remetem ao conforto dos anos 1980 e início dos anos 1990, tal como a utilização de cores fluorescentes e até mesmo na escolha de se colocar lâmpadas neon, remetendo claramente à época anterior em que essa tecnologia foi bastante utilizada (anos 1960 e 1970), tanto para aspectos decorativos, quanto na utilização em objetos no contexto artístico, haja vista o interesse por materiais que não fossem apenas atribuídos pela arte, e sim que viessem da indústria, aproximando a arte da vida.

A respeito da construção estética - tratando-se especificamente das cenas no momento presente dos personagens, em que eles estão ou na cidade antes ou depois de passarem pelo experimento ou no laboratório durante a execução do experimento - ela é bastante influenciada pelo que foi chamado de estilo Memphis, nos anos 1980. Esse foi um movimento criado por um grupo italiano de arquitetos e designers em Milão, liderado por Ettore Sottsass em 1981. Ficaram conhecidos por seus móveis e objetos coloridos, metálicos, brilhantes, plastificados e estampados. 

Essa é apenas uma das possíveis referências a serem percebidas, Outra bastante evidente é o uso de recursos analógicos. Os computadores e as telas trazidas na série são referentes aos anos 1990, bem como a presença de de disquetes, telas verdes e grandes equipamentos, os quais nos dias atuais têm dimensões bastante reduzidas.

A “personagem” GRTA remete a uma volta ainda maior no tempo, por ser um computador que ocupa uma sala inteira, assim como eram os aparelhos das décadas de 1950 e 1960 Há um aspecto curioso a respeito disso, haja vista que o primeiro computador criado, em 1952 foi chamado de ENIAC - Electronic Numerical Integrator and Computer e tem uma sonoridade bastante próxima do nome escolhido para a série.

  Eniac – primeiro computador

Frame de Maniac – sala da máquina GRTA

A escolha por não esconder os fios, por evidenciar a quantidade de botões disponíveis, de ser uma máquina de dimensão arquitetônica pode ser entendido como o traçar de um paralelo com a história da tecnologia. 

A escolha por não esconder os fios, por evidenciar a quantidade de botões disponíveis, de ser uma máquina de dimensão arquitetônica pode ser entendido como o traçar de um paralelo com a história da tecnologia.

Enfatizando mais uma vez que, apesar de tratar-se de uma tecnologia absolutamente avançada de tratamento psicológico a estética ainda é analógica. Uma cena na qual fica bastante evidente é após a ingestão da primeira pílula, (A), os candidatos vão para uma sala para serem entrevistados pelo médico com o intuito de obter uma determinada  pontuação em um teste relacionado a memórias e sentimentos e que faz parte do processo seletivo para participar da experiência. Esse sistema mostra claramente um placar semelhante à de jogos esportivos tradicionais, que indica um movimento mecânico e não digital.

Outro elemento bastante explorado na estética da série é a tecnologia vhs – video home system – ou sistema doméstico de vídeo, que foi uma forma de realização de gravações analógicas em fitas e também um fator de democratização do vídeo devido ao seu barateamento e fácil acesso.  Foi amplamente utilizada na década de 1980, como por exemplo pelo canal de televisão MTV fundado nos estados unidos em 1981. Na série podemos notar a presença dessa tecnologia quando os cientistas passam para os futuros pacientes um vídeo explicativo do tratamento, com efeitos especiais, sobreposições e muitas cores fluorescentes. Referência essa que pode ser da técnica de chroma key, que consistia em colocar uma imagem sobre outra ou sobre um fundo neutro na pós-produção como mostra a imagem abaixo

Frame de Maniac - cena da explicação das pílulas do tratamento

2. ESTADO DA ARTE 

2.1. Mediação Técnica e a Teoria Ator-rede (TAR) ou ANT (Actor-network theory)

A actor-network theory (ANT) ou a teoria ator-rede em português (TAR) originou-se a partir da década de 80 através dos estudos em sociologia produzidos por Bruno Latour, Michel Callon e John Law.

A TAR esboça questionamentos e críticas às teorias sociais convencionais, a saber: as sociologias críticas e as sociologias do social constituindo deste modo, uma corrente que compreende o mundo em sua multiplicidade e fluidez onde não há realidades completamente definíveis e consistentes. Segundo a TAR o social não pode ser entendido como um tipo de “material” abstrato próprio das relações humanas. Latour entende que o social são as associações e, portanto, sempre é necessário e possível definir quais são essas associações. Trocar a noção de social abstrato e por associações concretas (formadas por diferentes atores que desenham uma rede de interações) é a base do método de pesquisa da TAR, que foca em observar, mapear e acompanhar os  rastros, arranjos das interações.

Na obra “Reagregando o Social: uma introdução à Teoria do Ator-rede” de Bruno Latour (2012), que é um filósofo e sociólogo francês e um dos fundadores dos Estudos Sociais da Ciência e Tecnologia (ESCT), ao contrário do que se pode intuir inicialmente através da nomenclatura, a TAR não corresponde a uma teoria sobre atores em rede conectados em máquinas ou então uma teoria a respeito da conectividade contemporânea, mas sim de um estudo que busca ultrapassar a ideia de social empregado pelas teorias sociais hegemônicas, as quais consideram o social tanto pelo viés da “dimensão social/estrutura social” (traços sociais ou inerentes à sociedade) quanto pelo viés da sociologia crítica. 

Enquanto a primeira corrente visa demarcar este domínio da realidade do “social” em detrimento de outras esferas como: economia, geografia, biologia, psicologia, direito, ciência e política através de um esclarecimento do social e de uma explicação que escapa a outros domínios (Latour, 2012, p. 19), a da sociologia crítica intenta assumir as explicações sociais e substituir os objetos a serem explicados, buscando identificar e trazer à baila as “forças ocultas” que permeiam o social (Latour, pág. 53).         

A teoria ator-rede (TAR) ou (ANT) em inglês propõe um novo modelo de social que emerge de uma complexa combinação de elementos inconstantes e fluídos, o próprio acrônimo em inglês que traduzindo para o português significa “formiga”, de acordo com Latour corresponde perfeitamente ao trabalho empregado ao se pesquisar utilizando a TAR.

Eu estava disposto a trocar esse rótulo por outros mais elaborados como “sociologia de translação”, “ontologia, actante-rizoma”, “sociologia de inovação” etc.; mas uma pessoa me observou que o acrônimo ANT (Actor-Network Theory) era perfeitamente adequado para um viajante cego, míope, viciado em trabalho, farejador e gregário. (Latour, pág. 27, 2012). 

       

Para além de um domínio da realidade ou de um elemento especial, de acordo com Latour a ANT em inglês compreende um outro espectro do social, ou seja, como um tipo de associação momentânea caracterizada pela maneira como se aglutina assumindo novas formas.

Para a ANT, como agora já sabemos, a definição do termo é outra: não designa um domínio da realidade ou um item especial; é antes o nome de um movimento, um deslocamento, uma transformação, uma translação, um registro. É uma associação entre entidades de modo algum reconhecíveis como sociais no sentido corriqueiro, exceto durante o curto instante em que se confundem. Retomando a metáfora do supermercado, chamaremos de “social” não uma gondola ou ala especifica, mas as várias modificações feitas no lugar para exibir os produtos - embalá-los, etiquetá-los, colocar-lhes preço - porque essas pequenas alterações revelam ao observador quais combinações novas foram exploradas e que caminhos serão seguidos (aquilo que, mais tarde, definiremos como “rede”). (Latour, pág. 99, 2012).      

 A teoria Ator-rede surge da necessidade de uma nova abordagem da ciência social porque não separa o “natural” do “técnico”, o “humano” das “coisas”, o “homem” da “máquina”. Como a TAR entende que uma determinada relação só pode ser estudada quando se leva em consideração todos os seus atores de importância, sem priorizar pela agência humana, esta teoria se revela importante para os estudos sociais da ciência e da tecnologia. Latour (2012) expõe que há duas categorias de atores: os intermediários e os mediadores, sendo característica dos intermediários não produzirem e/ou não finalizarem as ações, eles apenas alteram o fluxo ou o direcionamento das ações, enquanto os mediadores são aqueles que não apenas produzem, como também alteram, paralisam e até mesmo finalizam as ações. A distinção entre eles, segundo o autor, é colocada da seguinte forma: os atores humanos são definidos como mediadores e os não-humanos como intermediários.

Para a TAR o curso da ação, assim como sua conexão com outras ações de outros agente é o fenômeno mais importante a ser considerado, independentemente da natureza do agente, seja ele humano ou não-humano, o conceito de hibridismo nesse sentido torna-se bastante potente. Outros dois conceitos que merecem atenção na TAR diz respeito a “actante” e a “rede”, aqui a primeira é descrita como uma entidade que surge na rede para mediar ou intermediar uma ação, já a palavra “rede” é descrita como uma maneira informal de associar agentes humanos.          

Para Latour o social nada mais é que o desenho da ação de actantes, mediadores e intermediários dentro um grupo em um fluxo contínuo, onde o pesquisador pode observar e descrever as ações dos actantes que se constituem em fatos. A TAR parte do pressuposto de que os seres humanos estabelecem uma rede, interagindo com seres humanos, mas também com outros materiais. Nas redes há múltiplas entradas e movimentações, está sempre aberta a novos elementos que podem se conectar de maneira inédita e inesperada. 

A TAR não separa o mundo em dicotomias: humanos e não-humanos, natureza e cultura, ela rastreia as associações para entender a interação e formação de uma rede de atores e actantes, que podem ser homens, máquinas, ou híbridos, construídos por relações heterogêneas e associações.

Em 1994, Latour escreveu o artigo Technical Mediation - Philosophy, sociology, genenealogy (1994), no qual o autor apresenta como a TAR entende a mediação. Diante das postulações que questionavam a primazia do humano sobre a máquina ou da máquina sobre o humano, Latour defende que não há dominação de um sobre o outro, se não que uma mediação técnica: a interação homem-máquina gera novas possibilidades e ações que são próprias dessa associação e que dela não podem ser dissociadas ou atribuídas separadamente ao homem ou à máquina.  

 Ao optar por romper com as dicotomias “pessoas” - “coisas”, Latour também rompe com a noção determinação, entendendo que a tecnologia não é capaz de determinar como o humano vai agir, uma vez que a tecnologia não é a causa dessa ação, e que as associações são mais complexas do que um cálculo de causa-efeito, ação-reação. No entanto, Latour entende que as condições técnicas e materiais atuam não como determinantes, mas como condicionantes das ações. Isso quer dizer que o técnico interage e afeta a ação, ou seja, é mediador, mas não se sobrepõe como determinante.  “A ideia de mediação técnica presente em toda relação homem-máquina funciona como o movimento de dois astros em órbita mútua, em que o movimento de um é causa e consequência do movimento do outro.” (Santaella e Cardoso, 2015, p. 183)

2.2. Transhumanismo

O transhumanismo é uma forma de pensar sobre o futuro que parte do princípio que a forma atual da espécie humana está na sua fase inicial de desenvolvimento, comparativamente falando (Humanity+).

 O filósofo, futurista e um dos idealistas do movimento transhumanista Max More escreveu a primeira definição sobre o tema em seu sentido moderno em 1990: “O transhumanismo é uma classe de filosofias da vida que busca a continuação e aceleração da evolução da vida inteligente para além de sua forma humana e limitações humanas por meio da ciência e da tecnologia, guiadas por princípios e valores promotores da vida.” (tradução livre). A Humanity+, que surgiu a partir da Associação Transhumanista Mundial juntamente com o trabalho pioneiro do Instituto Extropy, é uma organização educacional, sem fins lucrativos, dedicada a elevar a condição humana e define formalmente o transhumanismo com base na definição original de Max More da seguinte forma (Humanity+):

(1)  O movimento intelectual e cultural que afirma a possibilidade e conveniência de melhorar fundamentalmente a condição humana através da razão aplicada, especialmente desenvolvendo e disponibilizando tecnologias amplamente disponíveis para eliminar o envelhecimento e aumentar consideravelmente as capacidades intelectuais, físicas e psicológicas humanas (tradução livre).

(2)  O estudo das ramificações, promessas e perigos potenciais das tecnologias que nos permitirão superar as limitações humanas fundamentais, e o estudo relacionado das questões éticas envolvidas no desenvolvimento e uso de tais tecnologias.

O transhumanismo pode ser visto como uma extensão do humanismo, do qual é parcialmente derivado. Os humanistas acreditam que os seres humanos são importantes. Podemos não ser perfeitos, mas podemos melhorar as coisas promovendo o pensamento racional, a liberdade, a tolerância, a democracia e a preocupação com nossos semelhantes. Os transhumanistas concordam com isso, mas também enfatizam o potencial para o desenvolvimento. Assim como usamos meios racionais para melhorar a condição humana e o mundo externo, também podemos usar esses meios para melhorar a nós mesmos, o organismo humano. Ao fazer isso, não estamos limitados a métodos humanísticos tradicionais, como educação e desenvolvimento cultural. Também podemos usar meios tecnológicos que eventualmente nos permitirão ir além do que alguns pensariam como “humanos” (tradução livre).

O transhumanismo tem raízes iluministas e humanísticas racionais com ênfases na liberdade individual, preocupação humanística com o bem estar de todos (e outros seres sencientes), ciência empírica e razão crítica em vez da revelação e autoridade religiosa - como formas de aprender sobre o destino a longo prazo da vida inteligente, mundo natural e nosso lugar dentro dele. Uma das razões pelas quais tais questões são de interesse transhumanista é que suas respostas podem afetar os resultados que devemos esperar de nosso próprio desenvolvimento tecnológico e, portanto, indiretamente, quais políticas fazem sentido para a humanidade perseguir (A History of Transhumanist Thought, .

A rapidez da mudança tecnológica nos últimos tempos leva naturalmente à ideia de que a inovação tecnológica contínua terá um grande impacto sobre a humanidade nas próximas décadas. Gordon E. Moore, co-fundador da Intel, percebeu em 1965 que o número de transistores em um chip exibia crescimento exponencial. Isso levou à formulação da “Lei de Moore”, que afirma que o poder de computação dobra, aproximadamente, a cada 18 meses ou dois anos; Ray Kurzwei documentou taxas de crescimento exponencial similares em várias outras tecnologias; A economia mundial, que é uma espécie de índice geral da capacidade produtiva da humanidade, dobrou a cada 15 anos nos tempos modernos; 

A Inteligência Artificial (IA), segundo alguns transhumanistas como Nick Bostrom, será desenvolvida ao ponto de permitir que máquinas igualem o desempenho humano em tarefas que envolvam capacidade de raciocínio geral ainda na primeira metade deste século. Esse desenvolvimento implica em mudanças radicais dentro de um período de tempo muito curto surgindo uma singularidade essencial na história da raça humana. Trata-se de uma hipótese que vem sendo fortemente discutida pelos transhumanistas e com um pouco mais de detalhes no trabalho de pesquisa de Vernor Vinge em “The Coming Technological Singularity: How to Survive in the Post-Human Era” de 1993, no qual ele previu:

Dentro de trinta anos, teremos os meios tecnológicos para criar inteligência sobre-humana. Pouco depois, a era humana será encerrada. (A History of Transhumanist Thought,)

Um cenário radicalmente diferente sobre a singularidade é explorado por transhumanistas que esperam progressos nas tecnologias de melhoria, principalmente a ampliação das capacidades cognitivas humanas, para levar ao surgimento de uma raça pós-humana. Esta superará todas as limitações humanas existentes, tanto físicas quanto mentais, e vencer o envelhecimento, a morte e as doenças (Singularity Hypotheses). Um exemplo dessas tecnologias de melhoria é a nanotecnologia molecular que nos permitiria transformar carvão em diamantes, areia em supercomputadores e remover a poluição do ar e tumores de tecidos saudáveis. Em sua forma madura, pode nos ajudar a abolir a maioria das doenças e ao envelhecimento, possibilitar a reanimação de pacientes criônicos, possibilitar a colonização barata do espaço e - mais ameaçadoramente - levar à rápida criação de vastos arsenais de armas letais ou não letais. Outro exemplo de tecnologia disruptiva é a emulação cerebral autônoma ou "uploads" que podem, em breve, ser construídas pela "engenharia reversa" do cérebro de qualquer ser humano e possibilitar a transferência de uma mente humana para um computador (A History of Transhumanist Thought).

Bostrom  afirma que, mesmo que haja pessoas que não acreditem nos efeitos revolucionários descritos nas hipóteses da singularidade, suas perspectivas merecem, no entanto, séria atenção, em vista de seu impacto extremo. Enquanto a superinteligência, nanotecnologia molecular, “upload” ou alguma outra tecnologia radical são vistas ainda como futuro a longo prazo, a realidade virtual; diagnóstico genético pré-implantação; engenharia genética; produtos farmacêuticos que melhoram a memória, a concentração, a vigília e o humor; drogas para melhorar o desempenho; cirurgia plástica; operações de mudança de sexo; próteses; medicamento anti-envelhecimento; interfaces homem-computador mais próximas já estão aqui ou podem ser esperadas nas próximas décadas. A combinação dessas capacidades tecnológicas, à medida que amadurecem, pode transformar profundamente a condição humana. A agenda transhumanista, que é tornar essas opções de aprimoramento disponíveis com segurança para todas as pessoas, se tornará cada vez mais relevante e prática nos próximos anos, à medida que essas e outras tecnologias antecipadas se tornem disponíveis.

Essa transformação da condição humana a partir do desenvolvimento e aplicação de tecnologias disruptivas faz ressurgir ao centro da atenção pública várias discussões sobre a ética em um contexto totalmente novo. Segundo (Bostrom), a ética prática ressurgiu como um campo de investigação acadêmica, principalmente na área médica com o desenvolvimento da reprodução assistida e da genética na década de 70. Este campo ficou conhecido como bioética e muitas das questões éticas mais diretamente ligadas ao transhumanismo agora se enquadram neste campo, embora outros discursos normativos também estejam envolvidos como, por exemplo, ética populacional, meta-ética, filosofia política, ética digital, ética da engenharia e ética ambiental. 

Em seu trabalho mais recente, Superinteligência: Caminhos, perigos e estratégias para um novo mundo (2018), Bostrom fala sobre as expectativas e os desafios que despontam diante do surgimento do desenvolvimento e implementação da Inteligência Artificial. A diferença entre a tecnologia de ponta e a inteligência artificial é, essencialmente, a capacidade de aprender e de fazer formulações independentes da sua programação inicial. Segundo Bostrom, não é possível determinar com precisão quando as máquinas serão capazes de aprender e desempenhar tarefas assim como um ser humano, no entanto, é possível prever que a partir do momento que as inteligências artificiais alcançarem uma capacidade de aprendizagem e formulação tão eficiente quanto a do ser humano, a evolução desta inteligência artificial equivalente para uma superinteligência fora do controle humano será rápida. 

Em curto prazo, a evolução das inteligências artificiais podem apresentar desafios parecidos com os que temos hoje: controvérsias sobre pilotos automáticos, fake news, militarização da tecnologia, discriminação algorítmica, entre outras. As mudanças de longo prazo - entre estes primeiros desafios e os que serão trazidos pelas super inteligências - que, segundo o autor, será um período temporal curto, devem apresentar desafios muito mais complexos como a incapacidade de controle do ser-humano sobre a IA, o conflito de vontades da IA e do bem estar coletivo, falta de especificação que pode resultar em mal entendidos catastróficos.  

Diante das possibilidades de impacto negativo, Bostrom sugere que pesquisadores e desenvolvedores se atentem para fatores importantes que tem de ser incorporados na elaboração das inteligências artificiais: aprendizagem sem supervisão, aprendizagem por ocasião única, por transferência, por reforço comportamental e aprendizagem por reforço inverso, absorção de valores,  modelos de controle de falha, agentes de imitação, capacidade de correção, detecção de mudança de contexto, interpretação e explanação, compreensão de casos extremos, entre outros. 

Diante desse contexto de desenvolvimento das inteligências artificiais, Bostrom defende as vantagens do acesso aberto (2017) às pesquisas sobre o tema e faz considerações que procuram garantir que a super inteligência seja uma ferramenta que trabalhe a favor do bem estar do ser humano. O acesso aberto seria uma forma de evitar o monopólio de uma invenção tão potencialmente poderosa, uma maneira de diminuir o abismo tecnológico, e uma opção para garantir a transparência no direcionamento das funções desta inteligência. Para Bostrom, é impossível manter uma inteligência artificial isolada numa caixa de segurança, portanto, para garantir que ela possa interagir com as outras conexões do mundo reduzindo seus danos potenciais, é preciso que as máquinas aprendam, também, os valores humanos.  

Sobre o mesmo tema Jaron Lanier em sua obra Gadget, Você não é um aplicativo (Ed. Saraiva, 2010) busca valorizar o papel do homem no contexto transhumanista. Defende que “as próprias pessoas se degradam o tempo todo para fazerem as máquinas parecerem mais espertas”(pág 45) e que “os padrões de inteligência de uma máquina costumam ser ambíguos” (idem) e os créditos dados a elas seriam normalmente de caráter duvidoso. Faz ressalvas a essa afirmação quando o sistema ou a máquina são frutos de uma inteligência coletiva, mas ainda assim, faz questão de enfatizar a importância do papel do homem em todo esse processo. 

Lanier é um cientista da computação estadunidense, um dos precursores dos estudos sobre realidade virtual. É doutor honorário pelo New Jersey Institute of Technology desde 2006 e foi premiado com o Watson Award da Carnegie Mellon University em 2001. Autor de cinco livros sobre novos formatos da sociedade a partir da presença da inteligência artificial no cotidiano do homem. 

Para ele, a maior vantagem dessas novas relaçãoes seria a expansão da riqueza por meio da tecnologia, pois somente a tecnologia conseguiria fazer com que essa riqueza se expanda nos moldes e principalmente na escala em que a humanidade necessita. Na prática, o propósito de Lanier vem trazendo efeitos contrários, pelo menos nos Estados Unidos, com a riqueza cada vez mais concentrada. 

No decorrer da história a máquina em muitos momentos substituiu e vai continuar substituindo o homem em um número cada vez maior de tarefas. A questão é o quanto essa substituição pode aprisionar ou se tornar um elemento ameaçador ou o quanto o homem pode, por meio da tecnologia, alcançar a sua liberdade. Novamente alerta para o risco que se essa relação não for bem gerida, o que poderia ser um sinal de liberdade pode levar ao homem ao que ele chamou de nova "idade das trevas". 

Em relação à série, essa visão de Lanier se aplica, conforme veremos mais tarde quando o sistema começa a trabalhar sem a intervenção humana.

Relações das Teorias com a Série

Máquina como extensão 

À medida que tecnologias proliferam e criam séries inteiras de ambientes novos, os homens começam a considerar as artes como “antiambientes” ou “contraambientes” que nos fornecem os meios de perceber o próprio ambiente.” (McLuhann, 11, 1964)

Em Os Meios de Comunicação como Extensão do Homem (1964) McLuhann já apontava como o olhar para a ficção, para a arte e para os jogos nos ajuda a compreender a dinâmica de relações nas quais estamos imersos. Tanto Maniac (2018), quanto 2001 - Uma odisséia no espaço (1968), e outras ficções distópicas, nos ajudam a perceber, através do distanciamento e da remontagem da realidade, questões que não se tornam tão evidentes no cotidiano. É por isso, que trazemos a série como exemplo para debater o transumanismo e o desenvolvimento das relações humanidade/máquina.

A estética da série incorpora um visual de futuro típico dos anos 80 com hardwares fisicamente grandes, dispositivos luminosos, imagens formadas por pixels de baixa qualidade, botões analógicos, cores, entre outros. Dessa forma, as relações dos personagens com as máquinas, se tornam mais observáveis e físicas. A TAR, teoria ator-rede, pode ser exemplificada através da série. Latour fala da sociologia das associações, entendendo que estudar o social é seguir os rastros das associações de determinados atores e actantes, que podem ser humanos e não humanos, e, a partir dessa observação desenhar uma rede que represente essas interações e movimentações. Na TAR, o humano não se sobrepõe ao que é material, ao que é coisa, máquina, nem a máquina se sobrepõe ao humano e estes conceitos não podem ser isolados quando não operam isoladamente. 

 A ficção Maniac nos permite ver de maneira narrativa como a máquina GRTA não controlava as cobaias. Assim como na teoria das mediações técnicas de Latour, a GRTA não determinava as alucinações ou as decisões dos personagens dentro do universo onírico, no entanto, tão pouco as cobaias agiam sem qualquer interferência da máquina. A estrutura técnica e a interação da máquina com os personagens criavam uma condição de ação que era própria daquele contato e que era resultado da associação dos atores e actantes presentes na rede observada.

Ao transformar os pequenos Hardwares digitais que dominam a contemporaneidade em grandes hardwares analógicos, fica mais evidente e imagético a presença e difusão das redes, bem como seu impacto nas interações cotidianas humanas. A publicidade, espalhada por todos os ambientes de convívio, poluí os cenários. Até quando vai ao banheiro, Owen se depara com um rolo de papel higiênico que tem anúncios impressos nas suas folhas. Depois de passar por traumas, o pai de Annie se recolhe para dentro de uma caixa eletrônica, uma espécie de mini-bunker, no qual ele pode “se esconder”, como define sua filha, do mundo exterior, mas onde ele continua podendo dialogar com este.  

Além disso, para momentos de lazer, é possível recorrer ao FriendProxi, um serviço no qual as pessoas encontram amigos “substitutos”, pessoas que vão simular  a personalidade de alguém que o contratante dos serviços tem saudades ou sente falta.  É só inserir os “dados” sobre a personalidade e o conhecimento prévio das situações vividas entre ambos, que o serviço manda alguém fazer esse papel. Ao se passar por um FriendProxi de uma funcionária do laboratório,  inclusive, é a maneira que a personagem Annie encontra para chantagear a funcionária e burlar  a etapa inicial de seleção para o experimento

Se pensarmos que os meios como extensão do homem é algo mais simples de ver diante da contemporaneidade, já que os celulares se tornam próteses inseparáveis das pessoas, podemos concluir que a série não explora esse aspecto de maneira muito direta, mas a narrativa permite que essa relação de continuidade e inseparabilidade seja percebida de outras maneiras. 

No que se refere à publicidade, a série pode até ser considerada um pouco mais “convencional” se olharmos pela análise de Lanier. Mesmo apresentando uma presença massiva, seja no banheiro ou seja nos trens, em que ouvir uma pessoa “recitando” uma publicidade pode ser trocada pelo pagamento da sua passagem, essa publicidade ainda é caracterizada como publicidade.

 E por que essa publicidade mesmo sendo constante e massiva, se analisarmos pelo pensamento de Lanier ela pode ainda ser considerada “convencional”? Primeiro pelo seu formato: ela é ainda produzida para uma massa de consumidores, quem entrar no banheiro vai ver, quem entrar no trem pode ouvir. A “nova”publicidade, a publicidade da “cultura livre” é individualizada, apresentada para o potencial consumidor por meio de um pacote individualizado detectado pelo seu movimento na internet. Segundo porque ela cada vez menos aparece claramente como publicidade. Cada vez mais aparece como mensagem persuasiva disfarçada de conteúdo isento.

 McLuhan (1964) entende que o homem é fascinado por qualquer tipo de extensão de si mesmo, seja de qualquer material que não seja o dele próprio. Em referência a essa fascinação, o autor remete-se ao mito de Narciso, o jovem belo que se apaixona pelo próprio reflexo contrapondo com o homem de sua época que acabou por nos tornar um narciso tecnológico, não se apaixona pelo reflexo mas apaixona-se pelas extensões. 

 O autor Derrick de Kerckhove (2009) em a Pele da cultura, afirma que Mcluhan percebeu um padrão puramente psicológico na identificação narcísica com o poder dos gadgets, aos quais ele chama de brinquedos. “Eu os vejo como a prova de que estamos de fato nos tornando cyborgs e de que, à medida que cada tecnologia estende uma das nossas faculdades e transcende as nossas limitações físicas, desejamos adquirir as melhores extensões do nosso corpo” (KERCKHOVE, 2009, p. 21).

 Dessa forma, propõe que “contemplar, utilizar ou perceber uma extensão de nós mesmos sob forma tecnológica implica necessariamente em adotá-la” (MCLUHAN, 1964, p. 64) e que assim, o uso normal da tecnologia faz com que o homem seja perpetuamente modificado por ela e encontra sempre novas maneiras de modificá-la também, torna-se um ciclo em constante sinergia. 

Os cientistas, os personagens que não só usam como desenvolvem a tecnologia, tem extrema dificuldade de separar-se dela. Robert, o cientista mais velho, se apaixona pela máquina que ajudou a desenvolver, cria por ela uma relação afetiva que também é recíproca da parte dela. James, que abandona o projeto por um tempo, passa o dia em casa, cercado de próteses que ajudem a imergir em realidades paralelas. A Dra. Azumi Fugita, sofre de pânico ao pensar em sair do laboratório dos computadores e enfrentar o mundo exterior, além disso, dorme no laboratório, dentro de uma caixa diretamente ligada ao computador. De maneira simbólica, essa interação faz referência a dependência da tecnologia, ao medo da interação não mediada por interfaces e a conexão constante que acaba sendo a última interação antes de dormir, e a primeira na hora de acordar. Estes comportamentos estão em consonância com os estudos que apontam o crescimento da Nomofobia (no mobile fobia - o medo de ficar longe do celular). 

OnLife 

A série, situada num futuro distópico, nos leva a reavaliar que, independente do conteúdo compartilhado ou transmitido pelas tecnologias e meios de comunicação, é a interação e a maneira como isso molda nossa a vida, que interessa e que nos faz refletir. É a maneira como a Annie passa o dia fazendo “posts” na tentativa de reencontrar o cachorro da irmã, ou como o pai se recolhe em uma caixa que o isola parcialmente do mundo, ou como a publicidade passa a ser uma forma de troca comercial que invade os pequenos momentos de almoço e o transporte público, se fazendo presente na vida da pessoa, mesmo diante do seu desinteresse. 

 Todos esses cenários também dialogam com a teoria de Luciano Floridi, em que as fronteiras entre a vida online e a vida offline acabam por se dissolver. As redes se tornam ambientes de interação a distância, com características diferentes do mundo concreto, mas que não deixam de ser reais e sensíveis às pessoas.

Interação- Tecnologia e Rede 

 Entendendo que a tecnologia, as redes e os meios de comunicação passam a fazer parte de uma nova ecologia de interações, é preciso entender como esses objetos também se tornam fatores que moldam e delimitam o comportamento humano ao interagir com ele. Nesse sentido, o Bruno Latour apresenta a teoria do ator rede que permite compreender melhor como funciona essa interação em via de mão dupla em que atores se associam, se condicionando a determinada interação e a rede se moldam a partir das possibilidades e das limitações de cada um. A partir da perspectiva de Latour, precisamos entender a cadeia que envolve os objetos, as pessoas e as interações - os atores e as redes - para alcançar uma compreensão mais completa e complexificada dos processos. 

Lanier, em sua obra Gadged, você não é um aplicativo (LANIER, p.149) nessa relação homem-máquina alerta para o que ele chama de totalitarismo cibernético, quando a máquina passa a interferir nas decisões do homem, passando do papel inicial que deveria ter de provedora de informações para agilizar e facilitar as decisões a elemento de interferência direta nas decisões, Isso pode se dar de duas maneiras: seja pela terceirização das mesmas pelo homem - hoje é possível terceirizar para robôs, por exemplo, a decisão dos nossos investimentos financeiros por exemplo - seja pela curadoria de conteúdo mostrado pelos algoritmos limitando nossa exposição a conteúdos que “contrariem” ou sejam diversos das nosa visões ou opiniões. Nesse segundo caso, ao sermos constantemente expostos a uma determinada visão sobre algum assunto, em vez de tornarmos nosso pensamento plural, pelo acesso à informação, acabamos limitando nosso raciocínio e reforçando uma opinião que talvez fosse diferente se conteúdo não fosse tão fortemente direcionado. 

Relação Homem-máquina 

A relação homem-máquina  vai se tornando mais abstrata a medida que a tecnologia vai transformando seus recursos em sistemas mais intangíveis, nesse momento, o termo ator-rede passa a descrever melhor os processos dinâmicos e virtuais. Em Maniac (2018), essa interação homem-máquina é retomada para a sua forma física ao se tornar mais óbvia e mediada por objetos concretos e analógicos. A inteligência artificial GRTA manda recados aos cientistas sobre seus sentimentos e aflições  por meio de mensagens impressas redigidas pela própria máquina, bem como por emissões de  áudio também programadas pela inteligência artificial. Usa ainda seu painel de luzes para configurar um rosto com expressões emocionais. 

 A mineração de dados, hoje feita por técnicas digitais, é mostrada na série como a velha reconstrução de montanhas de papéis picados, técnica muito usada quando as documentações dos escritórios dependiam sobretudo do papel, misturando avanços tecnológicos dos anos 2020 com referências estéticas das décadas de 1980 e 1990 ou anteriores. Os contrastes que a série estabelece com a realidade (busca de dados por papéis, da série com a realidade) podem ser exemplos das mudanças na cadeia de interações, da qual Latour falava. Minerar dados não tem o mesmo significado em diferentes espaços de tempo, a maneira como se escava, a maneira o indivíduo interage com a rede de informações também altera a produção de significado, as estratégias de proteção, os dados capazes de ser reconstituídos e as incidências possíveis através dessa investigação.  

Anúncios analógicos e remunerados 

Dispensando as interfaces digitais da contemporaneidade, como redes sociais mediadas por aplicativos, a série apresenta cenas que desnaturalizam as relações em rede virtuais. Se no contexto atual é corriqueiro ver pessoas acessando as redes, vendo fotos e propagandas ao sentar para comer um lanche ou enquanto estão no transporte público, na série, as pessoas se sentam no transporte público acompanhadas de outras pessoas, funcionários de uma empresa de publicidade, que ficam ao seu lado fazendo propaganda de produtos aleatórios.  No entanto, como crítica Lanier, ao utilizar as redes sociais estamos fornecendo dados e consumindo publicidade em troca da gratuidade do serviço. Para usar livremente as redes, pagamos com os nossos dados, e vendemos nossa atenção, para que o mercado publicitário se torne o responsável pela financeirização. Na série, essa relação se torna ainda mais explícita. Na falta de dinheiro para pagar um pequeno almoço, a passagem do trem ou um maço de cigarros, a pessoa pode recorrer a uma empresa de anúncios. A troca monetária consiste em se sujeitar a receber um empregado da empresa, que ficará ao seu lado, no metrô, durante a refeição, lendo um portfólio de anúncios, para assim receber um pequeno valor a ser usado em produtos (café, cigarros, etc) 

Interações artificiais em rede 

Além disso, a rede de interações entre pessoas, ainda assume outro aspecto dentro do imaginário da série. Se as redes sociais são acusadas, na contemporaneidade, de tornar as relações interpessoais mais líquidas, superficiais e focadas nas aparências, em Maniac essa relação apresenta uma faceta ainda mais artificial e conveniente: o programa FriendProxi. 

 O FriendProxi é um serviço que agencia amigos. O contratante descreve o tipo de companhia que ele busca para determinada ocasião e os contratados se dispõe a performar aquela amizade, por vezes, atuando dentro de um papel e roteiro previamente estabelecido.

Transumanismo

O livro "A revolução transumanista" de Luc Ferry busca entender e reabilitar o ideal filosófico de regulação a partir das atuais revoluções econômicas, científicas e médicas. O autor relata que há fortes pesquisas e trabalhos na área do transumanismo que buscam "melhorar" o ser humano artificialmente e cita, como exemplo, a manipulação do genoma de embriões humanos feita por uma equipe chinesa em 2015. E não é ficção científica, como Aldous Huxley fez em 1931 ao descrever uma sociedade manipulando e determinando as características dos seres humanos antes de nascerem em "Admirável mundo novo". Empresas como o Google financiam centros de pesquisas nessa área de biotecnologia que objetivam superar limitações do corpo e melhorar as condições humanas, como o envelhecimento, deficiências cognitivas e diversos sofrimentos incontroláveis  

David Pearce, co-fundador da Associação Transumanista Mundial (agora Humanity+) com Nick Bostrom, destacou em 2010, na revista da própria associação, cinco razões pelas quais o transumanismo pode eliminar o sofrimento. A primeira, Pearce fala que, em breve, poderemos escolher nosso próprio nível de sensibilidade à dor a partir de pesquisas existentes sobre variantes do gene SCN9A que modulam respostas emocionais à dor aguda, ou seja, será possível escolher os limiares de dor de forma genética de nossos futuros filhos. A terapia genética autossômica permitirá que os adultos façam o mesmo. 

A segunda o autor fala que poderemos escolher o quão recompensador queremos que nossa vida diária seja a partir de evidências publicadas na revista Neuropsychopharmacology que a presença ou ausência de um único alelo pode enriquecer ou prejudicar dramaticamente a qualidade de toda a vida. 

 A terceira, Pearce fala sobre a matança e sofrimento de animais em fazendas de fábrica que são mortos para comermos sua carne morta, mas problemas éticos como esse são frequentemente solucionados com a técnica. Assim, o autor fala da New Harvest, que é primeira organização mundial dedicada à promoção de pesquisas para o desenvolvimento de carne in vitro e outros substitutos da carne. 

 A quarta, o autor fala que o sofrimento de animais sencientes (seres capazes sentir sensações e sentimentos de forma consciente) pode ser solucionada eliminando os animais carnívoros que se alimentam desses e mostra um artigo de referência no New York Times publicado por um acadêmico pedindo que o carnivorismo predatório fosse eliminado. 

 A última, Pearce fala que estamos às vésperas de uma “explosão de inteligência”, pois um número crescente de cientistas, filósofos e previsores insistem que o progresso acelerado em tecnologias disruptivas, como inteligência artificial, robótica, engenharia genética e nanotecnologia, pode levar ao que eles chamam de singularidade tecnológica: um evento ou fase que irá radicalmente mudar a civilização humana, e talvez até a própria natureza humana, antes de meados do século XXI. 

O tema principal da série Maniac retrata, justamente, essa questão da cura do sofrimento a partir de um tratamento onde o ser humano é passivo a este. Com a ingestão de pílulas e mediação de um supercomputador (GRTA) com inteligência artificial e incrementado de empatia, a empresa farmacêutica NPB visa curar todos os transtornos psicológicos das pessoas. Porém, no meio dos testes, a GRTA reage emocionalmente e causa um defeito no seu hardware.

Quem toma as nossas decisões 

Quando olhamos para a obra Gadged você não é um aplicativo de Lanier, logo no prefácio já conseguimos começar a refletir sobre essa relação entre homem e máquina, bem como a influência mútua percebida na série, quando Lanier fala do acesso a informação, da seleção da informação que nos é disponibilizada sendo feita pelos algoritmos que sugestionam conteúdos conforme o nosso comportamento. 

 Se por um lado temos o acesso ao conteúdo selecionado pelo algoritmo com a premissa de facilitar a nossa vida diante de tanto material existente na internet, por outro podemos com isso alimentar um comportamento distorcido de nós mesmos. Isso porque quando o algoritmo lê o nosso comportamento e com isso passa reforçá-lo pela seleção de conteúdos semelhantes ou relacionados, o sistema pode tornar o nosso comportamento cada vez mais repetitivo em uma única direção, nos levando ao risco de estreitar e direcionar o nosso acesso à informação em vez de ampliá-lo. 

Esse direcionamento podemos associar ao desenrolar da série principalmente quando o computador por perceber uma possível atração entre os personagens Annie e Owen, que poderia ser algo leve, passageiro, uma “paquera inconsequente de rua” trata o episódio como um ponto de convergência e passa a reforçá-lo enviando pelas sessões de ondas eletromagnéticas mensagens sugestivas de situações de encontro entre eles, misturando  esse sugestionamento às demandas iniciais de ambos: Annie querendo amenizar a culpa sentida pela morte da irmã e Owen buscando reduzir sua angústia pela percepção de não pertencimento em seu relacionamento familiar. 

Neste caso qual teria sido foi o “lado”, a “face” do computador em questão que tomou as decisões em relação a Annie e Owen? Apenas a matemática do algoritmo ou houve interferência do lado emocional da máquina, a empatia nela incutida pelo escaneamento do cérebro da terapeuta? 

Ficam aí algumas questões: até que ponto essa atração entre Annie e Owen e o contato entre eles se desenvolveria sem a participação do sistema? O quanto essa interferência da máquina afetou ou não a proposta inicial do tratamento das questões específicas de cada um deles? Lanier chama atenção para o fato ao falar sobre o "aprisionamento tecnológico" colocando as liberdades muito mais das máquinas do que das pessoas já que elas passam a ser as nossas curadoras de conteúdo.

Diante disso como fica o eu diante da inteligência coletiva promovida pelos gadgeds? Ou será que essa conexão estabelecida entre os dois pacientes na série foi uma maneira de se mostrar o efeito rede defendido por Lanier e que cada elemento passa a depender de uma adesão para funcionar? 

Em relação a essas supermáquinas direcionando comportamentos, como o computador da série, e em uma grande quantidade de sistemas com os quais convivemos todos os dias – redes sociais por exemplo -  Lanier fala sobre os computadores reduzindo a expressão individual e contribuindo para a existência de um “cérebro global conectado”. Esse cérebro global seria a soma de todo o pensamento humano acoplado em um grande sistema – nesse caso a internet. Essa grande soma produzindo uma massa em que o individual fica escondido ou praticamente desaparece teria um lado sombrio, segundo Lenier, que seria o desperdício do potencial humano causado por essa massa que mais aglutina do que soma. Esse desperdício viria pela quantidade das informações se sobrepujar à qualidade classificando o coletivo como capaz de ser tão “idiota” como qualquer indivíduo 

Outro risco que ele coloca é o quanto diferentes coletivos vão se juntando em um só – grupos de amigos na grandiosidade do Facebook por exemplo – reduzido a capacidade de estarmos fora desse sistema que em alguns momentos parece nos oferecer segurança pela obscuridade, ao mesmo tempo em que o indivíduo está exposto e conectado a milhões, ele também desaparece como indivíduo. Humanizar as máquinas seria então a solução para trazer a elas o olhar para o indivíduo? 

Teria então o computador de Maniac conseguido alcançar seu objetivo sem a inclusão do arquivo do cérebro humano escameado, que lhe deu a capacidade de sentir empatia? Como elemento adicional é importante colocar que na série há em diversos momentos referência a fracassos em experiências anteriores do “sistema de tratamento” antes da inclusão do arquivo dom o cérebro da terapeuta Greta escameado.  A série não mostra claramente, mas deixa indícios que teriam sido justamente essas experiências fracassadas anteriores que teriam levado à decisão de um dos cientistas a trazer empatia à inteligência artificial utilizada. Nas versões anteriores diversos voluntários haviam passado a ter comportamento catatônico ou autômato.

Um outro ponto de discussão a partir da estrutura da série é em relação ao papel do supercomputador na série. Seria essa figura central, representada por um grande sistema tecnológico em Maniac mas também presente em outras obras de ficção -  como “2001, uma odisseia no Espaço” publicado em 1968 por Arthur C. Clarke e também na figura do Grande Irmão, do livro “1984” de George Orwell, publicado em 1949 - a representação de uma crise da individualidade, da perda da percepção da vida individual e em prol – mesmo que inconsciente – de um mecanismo, reforçado pela tecnologia? 

Ou será que o supercomputador poderá assumir o papel de um possível aliado? O que o gigantismo de uma supermáquina – por reunir a base da inteligência coletiva, da noosfera – ao ser humanizada pode trazer? Traria também o que é considerado o pior dos seres humanos como sentimentos de poder, dominância e egoísmo já demonstrado em tantas de ficção? 

 E se não forem humanizados, o quanto esses grandes sistemas ao tomar apenas decisões utilitaristas acabariam com o passar do tempo enxergando o homem como algo que não valeria a pena ser preservado diante de um possível novo sistema?

BIBLIOGRAFIA

BOSTROM, N. Strategic Implications of Openness in AI Development. , v. 8, n. 2, p. 135-148, 2017.. Glob Policy. Disponível em: . Acesso em: 21/11/2018.

Bostrom, Nick (2005). "A history of transhumanist thought". Journal of Evolution and Technology. Retrieved February 21, 2006.

LUCIA, S.; CARDOSO, T. O desconcertante conceito de mediação técnica em Bruno Latour. Matrizes, v. 9, p. 167-185, 2015.. Acesso em: 21/11/2018.

LANIER, Jaron;. Gadged, você não é um aplicativo - São Paulo. Ed.Saraiva, 2010

LATOUR, Bruno. On technical mediation - philosophy, sociology, genealogy. Common Knowledge, v. 3, n. 2, p. 29-64, 1994a.


______ . Jamais fomos modernos. Rio de Janeiro: 34, 1994b.


______ . Reagregando o Social: uma introdução à Teoria do Ator-Rede. Salvador: Edufba,