Texto coletivo apresentado como parte dos requisitos para obtenção de créditos na disciplina “Novas Lógicas e Literacias Emergentes no Contexto da Educação em Rede: Práticas, Leituras e Reflexões” (PPGCOM-USP).
Alunos participantes: Bruna Lavrini, Bruno Harllen, Gabriella Feola, Karen Gimenez, Laiara Alonso, Mariane Beline.
Orientadora: Profª. Drª. Brasilina Passarelli
RESUMO
Este artigo dedica-se a fazer uma breve análise da série MANIAC (2018), uma série originalmente produzida pela Netflix, a partir de diversas perspectivas teóricas, visitando conceitos que remetem desde a teoria crítica da comunicação (Escola de Frankfurt), teorias de aprendizagem e de redes até o pós-humanismo e trans-humanismo.
A série
Maniac (2018), é uma série original da Netflix que contém dez episódios na primeira e até então única temporada, cada episódio com cerca de 40 minutos de duração. A série acontece em um presente paralelo e distópico em que a tecnologia, apesar de avançada, tem base e estética analógica.
No enredo os dois protagonistas: Annie (Emma Stone) e o Owen (Jonah Hill) - se encontram a partir do momento que decidem participar de um mesmo experimento secreto planejado e executado pelo laboratório farmacêutico denominado NPG. O laboratório está desenvolvendo um tratamento revolucionário que tem como intento curar o sofrimento psicossocial, substituindo a psicoterapia, a psicanálise e outras terapias “esotéricas”.
O tratamento consiste na ingestão de 3 pílulas: A, B e C. Cada uma delas gerará nos participantes do experimento imersões mentais e alucinações oníricas, que farão com que os indivíduos desvelem, compreendam e confrontem seus traumas, a proposta é que ao findar da terceira e última etapa do tratamento os participantes fiquem completamente curados. O tratamento ocorre a partir de 3 fases sequenciais pré-determinadas: fase A - O paciente revive o trauma que origina o seu distúrbio com o intuito de identificar o problema; fase B - O paciente se aprofunda nos seus traumas e medos, conseguindo através de situações inusitadas e oníricas, acessar partes de seus medos, inseguranças e desejos, que podem ficar ocultas em momentos de consciência; fase C - O paciente adentra seu inconsciente, revisitando sentimentos e traumas, em cenários simbólicos para ao findar do tratamento, despertar supostamente curado.
Todas as etapas são monitoradas por um super computador: a GRTA. Além de monitorar, o computador consegue interferir na imersão. No entanto, as interferências passam a tomar rumos não previsto pelos cientistas. Toda a trama que se desenrola dentro desse contexto é permeada por questões transumanistas, a partir das quais podemos questionar: a interferência da tecnologia na saúde humana, o modo de desenvolvimento e de evolução da tecnologia, a relação da humanidade com as máquinas e a autonomia das inteligências artificiais.
Razão Técnica
A escola de Frankfurt, fundada na segunda década do século XX contava com um grupo de pensadores bastante expressivos, entre eles: Max Horkheimer (1895-1973), Theodor W. Adorno, Walter Benjamin (1892-1940), Jürgen Habermas (1929), Herbert Marcuse (1898-1979) e Erich Fromm.
Em oposição aos estudos tradicionais de orientação positivista, os teóricos da escola de Frankfurt se dedicaram a desenvolver a teoria crítica, que se punha a questionar a neutralidade e universalidade das teorias tradicionais, assim como buscava analisar os meios de comunicação de massa e a indústria cultural.
Em Dialética do Esclarecimento, Adorno e Horkeimer apresentam a indústria cultural como um sistema político-econômico que produzem bens culturais materiais e simbólicos a fim de promover a manutenção do status quo de dominação. De acordo com Adorno e Horkeimer (1947, p.17):
As inúmeras agências da produção em massa e da cultura por ela criada servem para inculcar no indivíduo os comportamentos normalizados como os únicos naturais, decentes, racionais. De agora em diante, ele só se determina como coisa, como elemento estatístico, como success or failure[1].
Para além da crítica a cultura de massa há também a crítica à razão, sobretudo a razão técnica-instrumental. Segundo o ideal iluminista do século XVIII, a razão e o progresso tecnológico seriam fatores fundamentais para a libertação do homem de crenças e mitos. Para os teóricos iluministas, somente uma sociedade pautada na razão produziria cidadãos livres e uma sociedade mais democrática. No entanto, a escola de Frankfurt, que tinha entre seus teóricos judeus, pode vivenciar a ascensão nazista na década de 30 que se solidificou em larga escala através da utilização de propagandas e de meios de comunicação com finalidades ideológicas.
Para os frankfurtianos o projeto de uma humanidade emancipada amparada pela racionalidade técnica-instrumental levou a sociedade a uma nova nova espécie de barbárie.
Tanto o mais superficial quanto o mais profundo discernimento já contêm o discernimento de sua distância com relação à verdade que faz do apologeta um mentiroso. O paradoxo da fé acaba por degenerar no embuste, no mito do século vinte, enquanto sua irracionalidade degenera na cerimônia organizada racionalmente sob o controle dos integralmente esclarecidos e que, no entanto, dirigem a sociedade em direção à barbárie. (1947, p.17)
Um dos pontos mais marcantes da série Maniac é o modo como as máquinas são em um primeiro momento, apresentadas como promessas de soluções à questões complexas e inerentemente humanas.
A máquina é então vista como uma aposta revolucionária de cura rápida e precisa para doenças de ordem psicológicas e psiquiátricas, em outras palavras, a proposta é de que com o auxílio da ciência e dos avanços tecnológicos por esta gerada, não seriam mais necessários outras formas de tratamento para os sofrimentos que permeiam os indivíduos. Mais do que isso, a série não traz a baila uma discussão mais aprofundada sobre o sofrimento, ele é portanto apresentado apenas como algo negativo que necessita ser erradicado, ou seja, uma espécie de razão pela razão.
Curiosamente, na sequência dos episódios, os cientistas (Dr. James k. Mantleray e Drª Azumi Fujita) são tomados por uma série de imprevistos, como por exemplo, como o fato do adoecimento emocional da própria máquina. Ao se ver em apuros a dupla de cientistas recorrem à ajuda externa da mãe do cientista (Drª Greta Mantleray) que até então não estava envolvido com a pesquisa, e que é uma psicóloga prestigiada e bastante conhecida no universo publicitário, por outro lado, embora seja bastante famosa e respeitada pelos seus pares, não possui um bom relacionamento com o filho, que mesmo discordando do tratamento aplicado pela mãe a seus pacientes, acaba acatando-a para conter a instabilidade psíquica da máquina.
Ao longo dos episódios, muitas situações fogem do controle e do planejamento dos cientistas colocando em risco, inclusive, a vida dos personagens, trazendo a reflexão os limites éticos da ciência, técnica e da própria razão instrumental.
Máquina como extensão
À medida que tecnologias proliferam e criam series inteiras de ambientes novos, os homens começam a considerar as artes como “antiambientes” ou “contraambientes” que nos fornecem os meios de perceber o próprio ambiente.” (McLuhann, 11, 1964)
Em Os Meios de Comunicação como Extensão do Homem (1964) McLuhann já apontava como o olhar para a ficção, para a arte e para os jogos nos ajuda a compreender a dinâmica de relações nas quais estamos imersos. Tanto Maniac (2018), quanto 2001 - Uma odisséia no espaço (1968), e outras ficções distópicas, nos ajudam a perceber, através do distanciamento e da remontagem da realidade, questões que não se tornam tão evidentes no cotidiano. É por isso, que trazemos a série como exemplo para debater o transumanismo e o desenvolvimento das relações humanidade/máquina.
Ao transformar os pequenos Hardwares digitais que dominam a contemporaneidade em grandes hardwares analógicos, fica mais evidente e imagético a presença e difusão das redes, bem como seu impacto nas interações cotidianas humanas. A publicidade, espalhada por todos os ambientes de convívio, poluí os cenários. Até quando vai ao banheiro, Owen se depara com um rolo de papel higiênico que tem anúncios impressos nas suas folhas. Depois de passar por traumas, o pai de Annie se recolhe para dentro de uma caixa eletrônica, uma espécie de mini-bunker, no qual ele pode “se esconder”, como define sua filha, do mundo exterior, mas onde ele continua podendo dialogar com este.
Além disso, para momentos de lazer, é possível recorrer ao FriendProxi, um serviço no qual as pessoas encontram amigos “substitutos”, pessoas que vão simular
Se pensarmos que os meios como extensão do homem é algo mais simples de ver diante da contemporaneidade em que os celulares se tornam próteses inseparáveis das pessoas, podemos concluir que a série não explora esse aspecto de maneira muito direta, mas percebemos essa relação de continuidade e inseparabilidade de outras maneiras.
Mcluhan (1964) entende que o homem é fascinado por qualquer tipo de extensão de si mesmo, seja de qualquer material que não seja o dele próprio. Em referência a essa fascinação, o autor remete-se ao mito de Narciso, o jovem belo que se apaixona pelo próprio reflexo contrapondo com o homem de sua época que acabou por nos tornar um narciso tecnológico, não se apaixona pelo reflexo mas apaixona-se pelas extensões.
O autor Derrick de Kerckhove (2009) em a Pele da cultura, afirma que Mcluhan percebeu um padrão puramente psicológico na identificação narcísica com o poder dos gadgets, aos quais ele chama de brinquedos. “Eu os vejo como a prova de que estamos de fato nos tornando cyborgs e de que, à medida que cada tecnologia estende uma das nossas faculdades e transcende as nossas limitações físicas, desejamos adquirir as melhores extensões do nosso corpo” (KERCKHOVE, 2009, p. 21).
Dessa forma, propõe que “contemplar, utilizar ou perceber uma extensão de nós mesmo sob forma tecnológica implica necessariamente em adotá-la” (MCLUHAN, 1964, p. 64) e que assim, o uso normal da tecnologia faz com que o homem seja perpetuamente modificado por ela e encontra sempre novas maneiras de modificá-la também, torna-se um ciclo em constante sinergia.
Os cientistas, os personagens que não só usam como desenvolvem a tecnologia, tem extrema dificuldade de separar-se dela. Robert, o cientista mais velho, se apaixona pela máquina que ajudou a desenvolver, cria por ela uma relação afetiva que também é recíproca da parte dela. James, que abandona o projeto por um tempo, passa o dia em casa, cercado de próteses que ajudem a imergir em realidades paralelas. A Dra. Azumi Fugita, sofre de pânico ao pensar em sair do laboratório dos computadores e enfrentar o mundo exterior, além disso, dorme no laboratório, dentro de uma caixa diretamente ligada ao computador. De maneira simbólica, essa interação faz referência a dependência da tecnologia, ao medo da interação não mediada por interfaces e a conexão constante que acaba sendo a última interação antes de dormir, e a primeira na hora de acordar. Estes comportamentos estão em consonância com os estudos que apontam o crescimento da Nomofobia (no mobile fobia - o medo de ficar longe do celular).
OnLife
A série, situada num futuro distópico, nos leva a reavaliar que, independente do conteúdo compartilhado ou transmitido pelas tecnologias e meios de comunicação, é a interação e a maneira como isso molda nossa a vida, que interessa e que nos faz refletir. É a maneira como a Annie passa o dia fazendo “posts” na tentativa de reencontrar o cachorro da irmã, ou como o pai se recolhe em uma caixa que o isola parcialmente do mundo, ou como a publicidade passa a ser uma forma de troca comercial que invade os pequenos momentos de almoço e o transporte público, se fazendo presente na vida da pessoa, mesmo diante do seu desinteresse.
Todos esses cenários também dialogam com a teoria de Luciano Floridi, em que as fronteiras entre a vida online e a vida offline acabam por se dissolver. As redes se tornam ambientes de interação a distância, com características diferentes do mundo concreto, mas que não deixam de ser reais e sensíveis às pessoas.
Interação- Tecnologia e Rede
Entendendo que a tecnologia, as redes e os meios de comunicação passam a fazer parte de uma nova ecologia de interações, é preciso entender como esses objetos também se tornam fatores que moldam e delimitam o comportamento humano ao interagir com ele. Nesse sentido, o Bruno Latour apresenta a teoria do ator rede que permite compreender melhor como funciona essa interação em via de mão dupla em que tanto ambos o ator e a rede se moldam a partir das possibilidades e das limitações de cada um. A partir da perspectiva de Latour, precisamos entender a cadeia que envolve os objetos, as pessoas e as interações - os atores e as redes - para alcançar uma compreensão mais completa e complexificada dos processos.
A relação humano/objeto vai se tornando mais abstrata a medida que a tecnologia vai transformando seus recursos em sistemas mais intangíveis, nesse momento, o termo ator-rede passa a descrever melhor os processos dinâmicos e virtuais. Em Maniac (2018), essa interação humano/objeto é retomada para a sua forma física ao se torna mais óbvia e mediada por objetos concretos e analógicos. A GRTA manda recado através da impressora e fala por áudio, além de, algumas vezes, mostrar sua feição através dos pixel. O escavamento de dados, hoje feito por técnicas digitais complexas, é mostrado na série como a velha reconstrução de montanhas de papéis picados. A partir deste último exemplo, vemos, a partir do contraste da série com a realidade, a mudança na cadeia de interações, da qual Latour falava. Escavar dados não é a mesma coisa em diferentes espaços de tempo, a maneira como se escava, a maneira o indivíduo interage com a rede de informações também altera a produção de significado, as estratégias de proteção, os dados capazes de ser reconstituídos e as incidências possíveis através dessa investigação.
As interações em Rede.
Apesar de dispensar as interfaces digitais, a série coloca algumas simulações que desnaturalizam as relações em rede. No contexto atual, é corriqueiro que se acesse as redes sociais ao sentar para comer um lanche na rua, ou enquanto estamos no transporte público, no caminho de volta para a casa. Enquanto acessamos as redes nas quais interagimos com os colegas, também estamos consumindo conteúdo publicitário, ainda que não percebamos. No entanto, como crítica Lanier, ao utilizar as redes sociais estamos fornecendo dados e consumindo publicidade em troca da gratuidade do serviço. Para usar livremente as redes, pagamos com os nossos dados, e vendemos nossa atenção, para que o mercado publicitário se torne o responsável pela financeirização. Na série, essa relação se torna ainda mais explícita. Na falta de dinheiro para pagar um pequeno almoço, a passagem do trem ou um maço de cigarros, a pessoa pode recorrer a uma empresa de anúncios. A troca monetária consiste em se sujeitar a receber um empregado da empresa, que ficará ao seu lado, no metrô, durante a refeição, lendo um portifólio de anúncios. Diante da escuta a pessoa tem direito a ter o, em troca, o serviço pago pela empresa de anúncios.
Além disso, a rede de interações entre pessoas, ainda assume outro aspecto dentro do imaginário da série. As amizades, muitas vezes acusadas de se tornarem superfíciais por focaram nas aparências e na conveniência das redes, dentro do enredo de Maniac, é interpelada por uma outra interface de interaçao: o FriendProxi.
Para permitir que as pessoas desfrutem de companhias quando precisarem, e de acordo com a conveniência do momento, uma empresa organiza encontros combinados, em que a pessoa pode contratar um amigo para acompanhá-la em determinada situação e exercendo um papel pré-estabelecido.
-Publicidade e Financeirização **
Muita gente se inquieta a propósito das agências de publicidade de nosso tempo. Para colocar a coisa de maneira brutal: a indústria de publicidade é uma grosseira tentativa de estender os princípios da automação a todos os aspectos da sociedade. Como ideal, a publicidade aspira ao objetivo de harmonizar programadamente todos os esforços, impulsos e aspirações humanas. Utilizando métodos artesanais, ela visa à derradeira meta eletrônica de uma consciência coletiva. Quando toda a produção e todo o consumo se unirem numa harmonia pré-estabelecida, então a publicidade se liquidará pelo seu próprio sucesso. (McLuhan, 1964, p. 255)
Transumanismo[1]
-Relações c/ máquinas como humanos
-Bioética
-Inserção dos valores nas máquinas
-Contradição entre as vontades
O
tema principal da série Maniac retrata, justamente, essa questão da cura do
sofrimento a partir de um tratamento onde o ser humano é passivo a este. Com a
ingestão de pílulas e mediação de um supercomputador (GRTA) com inteligência
artificial e incrementado de empatia, a empresa farmacêutica NPB visa curar
todos os transtornos psicológicos das pessoas. Porém, no meio dos testes, a GRTA
reage emocionalmente e causa um defeito no seu hardware.
Quem toma as nossas decisões
Quando olhamos para a obra de Lanier, logo no prefácio já conseguimos começar a refletir sobre essa relação entre homem e máquina, bem como a influência mútua percebida na série, quando Lanier fala do acesso a informação, da seleção da informação que nos é disponibilizada sendo feita pelos algoritmos que sugestionam conteúdos conforme o nosso comportamento.
Se por um lado temos o acesso ao conteúdo selecionado pelo algoritmo com a premissa de facilitar a nossa vida diante de tanto material existente na internet, por outro podemos com isso alimentar um comportamento distorcido de nós mesmos. Isso porque quando o algoritmo lê o nosso comportamento e com isso passa reforçá-lo pela seleção de conteúdos semelhantes ou relacionados, o sistema pode tornar o nosso comportamento cada vez mais repetitivo em uma única direção, nos levando ao risco de estreitar e direcionar o nosso acesso à informação em vez de ampliá-lo.
Esse direcionamento podemos associar ao desenrolar da série principalmente quando o computador por perceber uma possível atração entre os personagens Annie e Owen, que poderia ser algo leve, passageiro, uma “paquera inconsequente de rua” trata o episódio como um ponto de convergência e passa a reforçá-lo enviando pelas sessões de ondas eletromagnéticas mensagens sugestivas de situações de encontro entre eles, misturando esse sugestionamento às demandas iniciais de ambos: Annie querendo amenizar a culpa sentida pela morte da irmã e Owen buscando reduzir sua angústia pela percepção de não pertencimento em seu relacionamento familiar.
Quando olhamos essa questão do sugestionamento pelo algoritmo pelo enredo da narrativa podemos levantar outras questões desta vez olhando não apenas pela óptica de Lanier mas também de Horkheimer. Afinal de contas qual foi o “lado”, a “face” do computador em questão que tomou as decisões em relação a Annie e Owen? Apenas a matemática do algoritmo ou houve interferência do lado emocional da máquina, a empatia nela incutida pelo escaneamento do cérebro da terapeuta?[2]
É nesse momento que podemos trazer a análise de Horkheimer para a discussão. Será que ao processar um arquivo com sentimentos humanos, a matemática do algoritmo foi suplementada? Afinal, se acompanharmos a sua linha de raciocínio a concretude da razão pode ser um conjunto de justificativas para uma decisão tomada de maneira emocional. Tendo o computador processado o arquivo de um cérebro humano teria então o lado emocional sido o dominante.
Ficam aí algumas questões: até que ponto essa atração e[3] ntre Annie e Owen e o contato entre eles se desenvolveria sem a participação do sistema? O quanto essa interferência da máquina afetou ou não a proposta inicial do tratamento das questões específicas de cada um deles? Lanier chama atenção para o fato ao falar sobre o "aprisionamento tecnológico" colocando as liberdades muito mais das máquinas do que das pessoas já que elas passam a ser as nossas curadoras de conteúdo.
Diante disso como fica o eu diante da inteligência coletiva promovida pelos gadgets. Ou será que essa conexão estabelecida entre os dois pacientes na série foi uma maneira de se mostrar o efeito rede defendido por Lanier e que cada elemento passa a depender de uma adesão para funcionar?
Se aprofundarmos ainda mais a análise olhando paralelamente o pensamento de Lanier e de Horkheimer podemos analisar essa relação além das fronteiras da série, até porque a proposta deste texto é apenas ter a série como base estrutural da construção do contexto e não fazer deste texto uma análise da série.
Retomando assim o paralelo entre o pensamento dos autores podemos remeter pela óptica de Horkheimer, a análise feita por Lanier sobre as disputas entre homens e máquinas. Em sua obra ele cita diversos exemplos defendendo a linha de pensamento que os homens se degradam o tempo todo para fazer das máquinas mais espertas do que elas efetivamente são. Nessa sua defesa chega a citar o caso do Deep Blue computador que vencera o enxadrista Garry Kasparov na revanche em 1997 após Kasparov ter vencido em 1996. Para Lanier criou-se um ambiente favorável ao Deep Blue na ocasião da revanche.
Diante disso seria então o Teste de Turing – que compara as capacidades entre homem e máquina uma experiência de valor relativizado? A própria auto degradação das pessoas diante das máquinas, como fala Lanier, poderia ser a o elemento da racionalidade filosófica de Horkheimer responsável pelos argumentos favorecendo a supremacia da tecnologia em detrimento da capacidade humana?
E justamente nessa disputa é que entram dois outros pontos levantados por Lanier. O primeiro deles é a utilidade, a razão de ser da máquina sem a existência humana. “Qual o significado dos bits se não forem vivenciados por um humano?” questiona buscando fragilizar o que ele chama de “fantasias do totalitarismo cibernético.
Em relação a essas supermáquinas direcionando comportamentos, como o computador da série, e em uma grande quantidade de sistemas com os quais convivemos todos os dias – redes sociais por exemplo - Lanier fala sobre os computadores reduzindo a expressão individual (afirmação em que responsabiliza bem mais a tecnologia do que Horkheimer) e contribuindo para a existência de um “cérebro global conectado”. Esse cérebro global seria a soma de todo o pensamento humano acoplado em um grande sistema – nesse caso a internet. Essa grande soma produzindo uma massa em que o individual fica escondido ou praticamente desaparece teria um lado sombrio, segundo Lenier, que seria o desperdício do potencial humano causado por essa massa que mais aglutina do que soma. Esse desperdício viria pela quantidade das informações se sobrepujar à qualidade classificando o coletivo como capaz de ser tão “idiota” como qualquer indivíduo
Outro risco que ele coloca é o quanto diferentes coletivos vão se juntando em um só – grupos de amigos na grandiosidade do Facebook por exemplo – reduzido a capacidade de estarmos fora desse sistema que em alguns momentos parece nos oferecer segurança pela obscuridade, ao mesmo tempo em que o indivíduo está exposto e conectado a milhões, ele também desaparece como indivíduo.
Humanizar as máquinas seria então a solução para trazer a elas o olhar para o indivíduo?
Se unirmos a visão de Lanier com a de Horkheimer o quanto seria possível defender as máquinas tratando questões emocionais como é proposto em Maniac? Provavelmente com dificuldades devido à subjetividade do pensamento humano inclusive em suas decisões racionais. Ainda pela linha de pensamento de Horkheimer a razão teria inicialmente uma função utilitarista – que seria a mesma que leva ao comportamento dos algoritmos baseada exclusivamente em dados, fatos, números e estatísticas ao mesmo tempo que o comportamento e as decisões são norteadas pela subjetividade, ligada ao propósito, questões éticas e políticas dentre outros elementos que acabam sendo legitimados pela construção da argumentação racional na tomada de decisões.
Teria então o computador de Maniac conseguido alcançar seu objetivo sem a inclusão do arquivo do cérebro humano escaneado, que lhe deu a capacidade de sentir empatia? Como elemento adicional é importante colocar que na série há em diversos momentos referência a fracassos em experiências anteriores do “sistema de tratamento”. E teriam sido justamente essas experiências fracassadas anteriores que teriam levado à decisão de um dos cientistas a trazer empatia à inteligência artificial utilizada. Nas versões anteriores diversos voluntários haviam passado a ter comportamento catatônico ou autômato.
Se não fosse a razão subjetivada apontada por Horkheimer predominando as decisões do sistema, seria uma atração subjetiva inicial e possivelmente temporária suficiente para o sistema “quebrar sua programação” e unir dois voluntários com históricos e demandas diferentes?
Um outro ponto de discussão em que é possível abordar relações entre o pensamento de Horkheimer e de Lanier é em relação ao papel do supercomputador na série – elemento que é possível encontrar em outras obras de ficção, como “2001, uma odisseia no Espaço” publicado em 1968 por Arthur C. Clarke e também na figura do Grande Irmão, do livro “1984” de George Orwell, publicado em 1949.
O quanto essa figura central, representada por um grande sistema tecnológico nas três obras citadas, pode ser uma representação do pensamento de Horkheimer quando ele fala da crise da individualidade, da perda da percepção da vida individual e em prol – mesmo que inconsciente - do todo, iniciada antes da era tecnológica, mas possivelmente reforçada por ela.
Será então que a chama do individual que segundo Horkheimer nunca se apaga, fica apenas adormecida pela ênfase no coletivo e que pode ser reavivada pela Filosofia, teria a humanização dos supercomputadores um aliado na era da tecnologia? Ou esse possível aliado, pelo seu gigantismo e por reunir a base da inteligência coletiva, da noosfera – ao ser humanizado traria também o que é considerado o pior dos seres humanos como sentimentos de poder, dominância e egoísmo como demonstrado em obras de ficção? E se não humanizado, o quanto esses grandes sistemas tomando apenas decisões utilitaristas não acabariam com o passar do tempo enxergando o homem como algo que não valeria a pena ser preservado diante do novo sistema?
BIBLIOGRAFIA
Alunos participantes: Bruna Lavrini, Bruno Harllen, Gabriella Feola, Karen Gimenez, Laiara Alonso, Mariane Beline.
Orientadora: Profª. Drª. Brasilina Passarelli
RESUMO
Este artigo dedica-se a fazer uma breve análise da série MANIAC (2018), uma série originalmente produzida pela Netflix, a partir de diversas perspectivas teóricas, visitando conceitos que remetem desde a teoria crítica da comunicação (Escola de Frankfurt), teorias de aprendizagem e de redes até o pós-humanismo e trans-humanismo.
A série
Maniac (2018), é uma série original da Netflix que contém dez episódios na primeira e até então única temporada, cada episódio com cerca de 40 minutos de duração. A série acontece em um presente paralelo e distópico em que a tecnologia, apesar de avançada, tem base e estética analógica.
No enredo os dois protagonistas: Annie (Emma Stone) e o Owen (Jonah Hill) - se encontram a partir do momento que decidem participar de um mesmo experimento secreto planejado e executado pelo laboratório farmacêutico denominado NPG. O laboratório está desenvolvendo um tratamento revolucionário que tem como intento curar o sofrimento psicossocial, substituindo a psicoterapia, a psicanálise e outras terapias “esotéricas”.
O tratamento consiste na ingestão de 3 pílulas: A, B e C. Cada uma delas gerará nos participantes do experimento imersões mentais e alucinações oníricas, que farão com que os indivíduos desvelem, compreendam e confrontem seus traumas, a proposta é que ao findar da terceira e última etapa do tratamento os participantes fiquem completamente curados. O tratamento ocorre a partir de 3 fases sequenciais pré-determinadas: fase A - O paciente revive o trauma que origina o seu distúrbio com o intuito de identificar o problema; fase B - O paciente se aprofunda nos seus traumas e medos, conseguindo através de situações inusitadas e oníricas, acessar partes de seus medos, inseguranças e desejos, que podem ficar ocultas em momentos de consciência; fase C - O paciente adentra seu inconsciente, revisitando sentimentos e traumas, em cenários simbólicos para ao findar do tratamento, despertar supostamente curado.
Todas as etapas são monitoradas por um super computador: a GRTA. Além de monitorar, o computador consegue interferir na imersão. No entanto, as interferências passam a tomar rumos não previsto pelos cientistas. Toda a trama que se desenrola dentro desse contexto é permeada por questões transumanistas, a partir das quais podemos questionar: a interferência da tecnologia na saúde humana, o modo de desenvolvimento e de evolução da tecnologia, a relação da humanidade com as máquinas e a autonomia das inteligências artificiais.
Razão Técnica
A escola de Frankfurt, fundada na segunda década do século XX contava com um grupo de pensadores bastante expressivos, entre eles: Max Horkheimer (1895-1973), Theodor W. Adorno, Walter Benjamin (1892-1940), Jürgen Habermas (1929), Herbert Marcuse (1898-1979) e Erich Fromm.
Em oposição aos estudos tradicionais de orientação positivista, os teóricos da escola de Frankfurt se dedicaram a desenvolver a teoria crítica, que se punha a questionar a neutralidade e universalidade das teorias tradicionais, assim como buscava analisar os meios de comunicação de massa e a indústria cultural.
Em Dialética do Esclarecimento, Adorno e Horkeimer apresentam a indústria cultural como um sistema político-econômico que produzem bens culturais materiais e simbólicos a fim de promover a manutenção do status quo de dominação. De acordo com Adorno e Horkeimer (1947, p.17):
As inúmeras agências da produção em massa e da cultura por ela criada servem para inculcar no indivíduo os comportamentos normalizados como os únicos naturais, decentes, racionais. De agora em diante, ele só se determina como coisa, como elemento estatístico, como success or failure[1].
Para além da crítica a cultura de massa há também a crítica à razão, sobretudo a razão técnica-instrumental. Segundo o ideal iluminista do século XVIII, a razão e o progresso tecnológico seriam fatores fundamentais para a libertação do homem de crenças e mitos. Para os teóricos iluministas, somente uma sociedade pautada na razão produziria cidadãos livres e uma sociedade mais democrática. No entanto, a escola de Frankfurt, que tinha entre seus teóricos judeus, pode vivenciar a ascensão nazista na década de 30 que se solidificou em larga escala através da utilização de propagandas e de meios de comunicação com finalidades ideológicas.
Para os frankfurtianos o projeto de uma humanidade emancipada amparada pela racionalidade técnica-instrumental levou a sociedade a uma nova nova espécie de barbárie.
Tanto o mais superficial quanto o mais profundo discernimento já contêm o discernimento de sua distância com relação à verdade que faz do apologeta um mentiroso. O paradoxo da fé acaba por degenerar no embuste, no mito do século vinte, enquanto sua irracionalidade degenera na cerimônia organizada racionalmente sob o controle dos integralmente esclarecidos e que, no entanto, dirigem a sociedade em direção à barbárie. (1947, p.17)
Um dos pontos mais marcantes da série Maniac é o modo como as máquinas são em um primeiro momento, apresentadas como promessas de soluções à questões complexas e inerentemente humanas.
A máquina é então vista como uma aposta revolucionária de cura rápida e precisa para doenças de ordem psicológicas e psiquiátricas, em outras palavras, a proposta é de que com o auxílio da ciência e dos avanços tecnológicos por esta gerada, não seriam mais necessários outras formas de tratamento para os sofrimentos que permeiam os indivíduos. Mais do que isso, a série não traz a baila uma discussão mais aprofundada sobre o sofrimento, ele é portanto apresentado apenas como algo negativo que necessita ser erradicado, ou seja, uma espécie de razão pela razão.
Curiosamente, na sequência dos episódios, os cientistas (Dr. James k. Mantleray e Drª Azumi Fujita) são tomados por uma série de imprevistos, como por exemplo, como o fato do adoecimento emocional da própria máquina. Ao se ver em apuros a dupla de cientistas recorrem à ajuda externa da mãe do cientista (Drª Greta Mantleray) que até então não estava envolvido com a pesquisa, e que é uma psicóloga prestigiada e bastante conhecida no universo publicitário, por outro lado, embora seja bastante famosa e respeitada pelos seus pares, não possui um bom relacionamento com o filho, que mesmo discordando do tratamento aplicado pela mãe a seus pacientes, acaba acatando-a para conter a instabilidade psíquica da máquina.
Ao longo dos episódios, muitas situações fogem do controle e do planejamento dos cientistas colocando em risco, inclusive, a vida dos personagens, trazendo a reflexão os limites éticos da ciência, técnica e da própria razão instrumental.
Máquina como extensão
À medida que tecnologias proliferam e criam series inteiras de ambientes novos, os homens começam a considerar as artes como “antiambientes” ou “contraambientes” que nos fornecem os meios de perceber o próprio ambiente.” (McLuhann, 11, 1964)
Em Os Meios de Comunicação como Extensão do Homem (1964) McLuhann já apontava como o olhar para a ficção, para a arte e para os jogos nos ajuda a compreender a dinâmica de relações nas quais estamos imersos. Tanto Maniac (2018), quanto 2001 - Uma odisséia no espaço (1968), e outras ficções distópicas, nos ajudam a perceber, através do distanciamento e da remontagem da realidade, questões que não se tornam tão evidentes no cotidiano. É por isso, que trazemos a série como exemplo para debater o transumanismo e o desenvolvimento das relações humanidade/máquina.
Ao transformar os pequenos Hardwares digitais que dominam a contemporaneidade em grandes hardwares analógicos, fica mais evidente e imagético a presença e difusão das redes, bem como seu impacto nas interações cotidianas humanas. A publicidade, espalhada por todos os ambientes de convívio, poluí os cenários. Até quando vai ao banheiro, Owen se depara com um rolo de papel higiênico que tem anúncios impressos nas suas folhas. Depois de passar por traumas, o pai de Annie se recolhe para dentro de uma caixa eletrônica, uma espécie de mini-bunker, no qual ele pode “se esconder”, como define sua filha, do mundo exterior, mas onde ele continua podendo dialogar com este.
Além disso, para momentos de lazer, é possível recorrer ao FriendProxi, um serviço no qual as pessoas encontram amigos “substitutos”, pessoas que vão simular
Se pensarmos que os meios como extensão do homem é algo mais simples de ver diante da contemporaneidade em que os celulares se tornam próteses inseparáveis das pessoas, podemos concluir que a série não explora esse aspecto de maneira muito direta, mas percebemos essa relação de continuidade e inseparabilidade de outras maneiras.
Mcluhan (1964) entende que o homem é fascinado por qualquer tipo de extensão de si mesmo, seja de qualquer material que não seja o dele próprio. Em referência a essa fascinação, o autor remete-se ao mito de Narciso, o jovem belo que se apaixona pelo próprio reflexo contrapondo com o homem de sua época que acabou por nos tornar um narciso tecnológico, não se apaixona pelo reflexo mas apaixona-se pelas extensões.
O autor Derrick de Kerckhove (2009) em a Pele da cultura, afirma que Mcluhan percebeu um padrão puramente psicológico na identificação narcísica com o poder dos gadgets, aos quais ele chama de brinquedos. “Eu os vejo como a prova de que estamos de fato nos tornando cyborgs e de que, à medida que cada tecnologia estende uma das nossas faculdades e transcende as nossas limitações físicas, desejamos adquirir as melhores extensões do nosso corpo” (KERCKHOVE, 2009, p. 21).
Dessa forma, propõe que “contemplar, utilizar ou perceber uma extensão de nós mesmo sob forma tecnológica implica necessariamente em adotá-la” (MCLUHAN, 1964, p. 64) e que assim, o uso normal da tecnologia faz com que o homem seja perpetuamente modificado por ela e encontra sempre novas maneiras de modificá-la também, torna-se um ciclo em constante sinergia.
Os cientistas, os personagens que não só usam como desenvolvem a tecnologia, tem extrema dificuldade de separar-se dela. Robert, o cientista mais velho, se apaixona pela máquina que ajudou a desenvolver, cria por ela uma relação afetiva que também é recíproca da parte dela. James, que abandona o projeto por um tempo, passa o dia em casa, cercado de próteses que ajudem a imergir em realidades paralelas. A Dra. Azumi Fugita, sofre de pânico ao pensar em sair do laboratório dos computadores e enfrentar o mundo exterior, além disso, dorme no laboratório, dentro de uma caixa diretamente ligada ao computador. De maneira simbólica, essa interação faz referência a dependência da tecnologia, ao medo da interação não mediada por interfaces e a conexão constante que acaba sendo a última interação antes de dormir, e a primeira na hora de acordar. Estes comportamentos estão em consonância com os estudos que apontam o crescimento da Nomofobia (no mobile fobia - o medo de ficar longe do celular).
OnLife
A série, situada num futuro distópico, nos leva a reavaliar que, independente do conteúdo compartilhado ou transmitido pelas tecnologias e meios de comunicação, é a interação e a maneira como isso molda nossa a vida, que interessa e que nos faz refletir. É a maneira como a Annie passa o dia fazendo “posts” na tentativa de reencontrar o cachorro da irmã, ou como o pai se recolhe em uma caixa que o isola parcialmente do mundo, ou como a publicidade passa a ser uma forma de troca comercial que invade os pequenos momentos de almoço e o transporte público, se fazendo presente na vida da pessoa, mesmo diante do seu desinteresse.
Todos esses cenários também dialogam com a teoria de Luciano Floridi, em que as fronteiras entre a vida online e a vida offline acabam por se dissolver. As redes se tornam ambientes de interação a distância, com características diferentes do mundo concreto, mas que não deixam de ser reais e sensíveis às pessoas.
Interação- Tecnologia e Rede
Entendendo que a tecnologia, as redes e os meios de comunicação passam a fazer parte de uma nova ecologia de interações, é preciso entender como esses objetos também se tornam fatores que moldam e delimitam o comportamento humano ao interagir com ele. Nesse sentido, o Bruno Latour apresenta a teoria do ator rede que permite compreender melhor como funciona essa interação em via de mão dupla em que tanto ambos o ator e a rede se moldam a partir das possibilidades e das limitações de cada um. A partir da perspectiva de Latour, precisamos entender a cadeia que envolve os objetos, as pessoas e as interações - os atores e as redes - para alcançar uma compreensão mais completa e complexificada dos processos.
A relação humano/objeto vai se tornando mais abstrata a medida que a tecnologia vai transformando seus recursos em sistemas mais intangíveis, nesse momento, o termo ator-rede passa a descrever melhor os processos dinâmicos e virtuais. Em Maniac (2018), essa interação humano/objeto é retomada para a sua forma física ao se torna mais óbvia e mediada por objetos concretos e analógicos. A GRTA manda recado através da impressora e fala por áudio, além de, algumas vezes, mostrar sua feição através dos pixel. O escavamento de dados, hoje feito por técnicas digitais complexas, é mostrado na série como a velha reconstrução de montanhas de papéis picados. A partir deste último exemplo, vemos, a partir do contraste da série com a realidade, a mudança na cadeia de interações, da qual Latour falava. Escavar dados não é a mesma coisa em diferentes espaços de tempo, a maneira como se escava, a maneira o indivíduo interage com a rede de informações também altera a produção de significado, as estratégias de proteção, os dados capazes de ser reconstituídos e as incidências possíveis através dessa investigação.
As interações em Rede.
Apesar de dispensar as interfaces digitais, a série coloca algumas simulações que desnaturalizam as relações em rede. No contexto atual, é corriqueiro que se acesse as redes sociais ao sentar para comer um lanche na rua, ou enquanto estamos no transporte público, no caminho de volta para a casa. Enquanto acessamos as redes nas quais interagimos com os colegas, também estamos consumindo conteúdo publicitário, ainda que não percebamos. No entanto, como crítica Lanier, ao utilizar as redes sociais estamos fornecendo dados e consumindo publicidade em troca da gratuidade do serviço. Para usar livremente as redes, pagamos com os nossos dados, e vendemos nossa atenção, para que o mercado publicitário se torne o responsável pela financeirização. Na série, essa relação se torna ainda mais explícita. Na falta de dinheiro para pagar um pequeno almoço, a passagem do trem ou um maço de cigarros, a pessoa pode recorrer a uma empresa de anúncios. A troca monetária consiste em se sujeitar a receber um empregado da empresa, que ficará ao seu lado, no metrô, durante a refeição, lendo um portifólio de anúncios. Diante da escuta a pessoa tem direito a ter o, em troca, o serviço pago pela empresa de anúncios.
Além disso, a rede de interações entre pessoas, ainda assume outro aspecto dentro do imaginário da série. As amizades, muitas vezes acusadas de se tornarem superfíciais por focaram nas aparências e na conveniência das redes, dentro do enredo de Maniac, é interpelada por uma outra interface de interaçao: o FriendProxi.
Para permitir que as pessoas desfrutem de companhias quando precisarem, e de acordo com a conveniência do momento, uma empresa organiza encontros combinados, em que a pessoa pode contratar um amigo para acompanhá-la em determinada situação e exercendo um papel pré-estabelecido.
-Publicidade e Financeirização **
Muita gente se inquieta a propósito das agências de publicidade de nosso tempo. Para colocar a coisa de maneira brutal: a indústria de publicidade é uma grosseira tentativa de estender os princípios da automação a todos os aspectos da sociedade. Como ideal, a publicidade aspira ao objetivo de harmonizar programadamente todos os esforços, impulsos e aspirações humanas. Utilizando métodos artesanais, ela visa à derradeira meta eletrônica de uma consciência coletiva. Quando toda a produção e todo o consumo se unirem numa harmonia pré-estabelecida, então a publicidade se liquidará pelo seu próprio sucesso. (McLuhan, 1964, p. 255)
Transumanismo[1]
-Relações c/ máquinas como humanos
-Bioética
-Inserção dos valores nas máquinas
-Contradição entre as vontades
O
livro "A revolução transumanista" de Luc Ferry busca entender e
reabilitar o ideal filosófico de regulação a partir das atuais revoluções
econômicas, científicas e médicas. O autor relata que há fortes pesquisas e
trabalhos na área do transumanismo que buscam "melhorar" o ser humano
artificialmente e cita, como exemplo, a manipulação do genoma de embriões
humanos feita por uma equipe chinesa em 2015 (FONTE). E não é ficção
científica, como Aldous Huxley fez em 1931 ao descrever uma sociedade
manipulando e determinando as características dos seres humanos antes de
nascerem em "Admirável mundo novo". Empresas como o Google financiam
centros de pesquisas nessa área de biotecnologia que objetivam superar
limitações do corpo e melhorar as condições humanas, como o envelhecimento,
deficiências cognitivas e diversos sofrimentos incontroláveis (FONTE-TECMUNDO).
David Pearce, co-fundador da Associação
Transumanista Mundial (agora Humanity+) com Nick Bostrom, destacou em 2010,
na revista da própria associação, cinco razões pelas quais o transumanismo
pode eliminar o sofrimento. A primeira, Pearce fala que, em breve, poderemos
escolher nosso próprio nível de sensibilidade à dor a partir de pesquisas
existentes sobre variantes do gene SCN9A que modulam respostas emocionais à dor
aguda, ou seja, será possível escolher os
limiares de dor de forma genética de nossos futuros filhos. A terapia genética
autossômica permitirá que os adultos façam o mesmo. A segunda o autor fala
que poderemos escolher o quão recompensador queremos que nossa vida diária seja
a partir de evidências publicadas na revista Neuropsychopharmacology que
a presença ou ausência de um único alelo pode enriquecer ou prejudicar
dramaticamente a qualidade de toda a vida. A terceira, Pearce fala sobre
a matança e sofrimento de animais em fazendas de fábrica que são mortos para
comermos sua carne morta, mas problemas éticos como esse são frequentemente solucionados
com a técnica. Assim, o autor fala da New Harvest, que é primeira organização mundial dedicada à
promoção de pesquisas para o desenvolvimento de carne in vitro e outros
substitutos da carne. A quarta, o autor fala que o sofrimento de animais
sencientes (seres capazes sentir sensações e sentimentos de forma consciente) pode ser
solucionada eliminando os animais carnívoros que se alimentam desses e mostra
um artigo de referência no New York Times publicado por um acadêmico pedindo que o carnivorismo predatório fosse eliminado.
A última, Pearce fala que estamos às vésperas de uma “explosão de inteligência”,
pois um número crescente de cientistas, filósofos e previsores insistem que o
progresso acelerado em tecnologias disruptivas, como inteligência artificial,
robótica, engenharia genética e nanotecnologia, pode levar ao que eles chamam
de singularidade tecnológica: um evento ou fase que irá radicalmente mudar a
civilização humana, e talvez até a própria natureza humana, antes de meados do
século XXI. (FONTE)
Quem toma as nossas decisões
Quando olhamos para a obra de Lanier, logo no prefácio já conseguimos começar a refletir sobre essa relação entre homem e máquina, bem como a influência mútua percebida na série, quando Lanier fala do acesso a informação, da seleção da informação que nos é disponibilizada sendo feita pelos algoritmos que sugestionam conteúdos conforme o nosso comportamento.
Se por um lado temos o acesso ao conteúdo selecionado pelo algoritmo com a premissa de facilitar a nossa vida diante de tanto material existente na internet, por outro podemos com isso alimentar um comportamento distorcido de nós mesmos. Isso porque quando o algoritmo lê o nosso comportamento e com isso passa reforçá-lo pela seleção de conteúdos semelhantes ou relacionados, o sistema pode tornar o nosso comportamento cada vez mais repetitivo em uma única direção, nos levando ao risco de estreitar e direcionar o nosso acesso à informação em vez de ampliá-lo.
Esse direcionamento podemos associar ao desenrolar da série principalmente quando o computador por perceber uma possível atração entre os personagens Annie e Owen, que poderia ser algo leve, passageiro, uma “paquera inconsequente de rua” trata o episódio como um ponto de convergência e passa a reforçá-lo enviando pelas sessões de ondas eletromagnéticas mensagens sugestivas de situações de encontro entre eles, misturando esse sugestionamento às demandas iniciais de ambos: Annie querendo amenizar a culpa sentida pela morte da irmã e Owen buscando reduzir sua angústia pela percepção de não pertencimento em seu relacionamento familiar.
Quando olhamos essa questão do sugestionamento pelo algoritmo pelo enredo da narrativa podemos levantar outras questões desta vez olhando não apenas pela óptica de Lanier mas também de Horkheimer. Afinal de contas qual foi o “lado”, a “face” do computador em questão que tomou as decisões em relação a Annie e Owen? Apenas a matemática do algoritmo ou houve interferência do lado emocional da máquina, a empatia nela incutida pelo escaneamento do cérebro da terapeuta?[2]
É nesse momento que podemos trazer a análise de Horkheimer para a discussão. Será que ao processar um arquivo com sentimentos humanos, a matemática do algoritmo foi suplementada? Afinal, se acompanharmos a sua linha de raciocínio a concretude da razão pode ser um conjunto de justificativas para uma decisão tomada de maneira emocional. Tendo o computador processado o arquivo de um cérebro humano teria então o lado emocional sido o dominante.
Ficam aí algumas questões: até que ponto essa atração e[3] ntre Annie e Owen e o contato entre eles se desenvolveria sem a participação do sistema? O quanto essa interferência da máquina afetou ou não a proposta inicial do tratamento das questões específicas de cada um deles? Lanier chama atenção para o fato ao falar sobre o "aprisionamento tecnológico" colocando as liberdades muito mais das máquinas do que das pessoas já que elas passam a ser as nossas curadoras de conteúdo.
Diante disso como fica o eu diante da inteligência coletiva promovida pelos gadgets. Ou será que essa conexão estabelecida entre os dois pacientes na série foi uma maneira de se mostrar o efeito rede defendido por Lanier e que cada elemento passa a depender de uma adesão para funcionar?
Se aprofundarmos ainda mais a análise olhando paralelamente o pensamento de Lanier e de Horkheimer podemos analisar essa relação além das fronteiras da série, até porque a proposta deste texto é apenas ter a série como base estrutural da construção do contexto e não fazer deste texto uma análise da série.
Retomando assim o paralelo entre o pensamento dos autores podemos remeter pela óptica de Horkheimer, a análise feita por Lanier sobre as disputas entre homens e máquinas. Em sua obra ele cita diversos exemplos defendendo a linha de pensamento que os homens se degradam o tempo todo para fazer das máquinas mais espertas do que elas efetivamente são. Nessa sua defesa chega a citar o caso do Deep Blue computador que vencera o enxadrista Garry Kasparov na revanche em 1997 após Kasparov ter vencido em 1996. Para Lanier criou-se um ambiente favorável ao Deep Blue na ocasião da revanche.
Diante disso seria então o Teste de Turing – que compara as capacidades entre homem e máquina uma experiência de valor relativizado? A própria auto degradação das pessoas diante das máquinas, como fala Lanier, poderia ser a o elemento da racionalidade filosófica de Horkheimer responsável pelos argumentos favorecendo a supremacia da tecnologia em detrimento da capacidade humana?
E justamente nessa disputa é que entram dois outros pontos levantados por Lanier. O primeiro deles é a utilidade, a razão de ser da máquina sem a existência humana. “Qual o significado dos bits se não forem vivenciados por um humano?” questiona buscando fragilizar o que ele chama de “fantasias do totalitarismo cibernético.
Em relação a essas supermáquinas direcionando comportamentos, como o computador da série, e em uma grande quantidade de sistemas com os quais convivemos todos os dias – redes sociais por exemplo - Lanier fala sobre os computadores reduzindo a expressão individual (afirmação em que responsabiliza bem mais a tecnologia do que Horkheimer) e contribuindo para a existência de um “cérebro global conectado”. Esse cérebro global seria a soma de todo o pensamento humano acoplado em um grande sistema – nesse caso a internet. Essa grande soma produzindo uma massa em que o individual fica escondido ou praticamente desaparece teria um lado sombrio, segundo Lenier, que seria o desperdício do potencial humano causado por essa massa que mais aglutina do que soma. Esse desperdício viria pela quantidade das informações se sobrepujar à qualidade classificando o coletivo como capaz de ser tão “idiota” como qualquer indivíduo
Outro risco que ele coloca é o quanto diferentes coletivos vão se juntando em um só – grupos de amigos na grandiosidade do Facebook por exemplo – reduzido a capacidade de estarmos fora desse sistema que em alguns momentos parece nos oferecer segurança pela obscuridade, ao mesmo tempo em que o indivíduo está exposto e conectado a milhões, ele também desaparece como indivíduo.
Humanizar as máquinas seria então a solução para trazer a elas o olhar para o indivíduo?
Se unirmos a visão de Lanier com a de Horkheimer o quanto seria possível defender as máquinas tratando questões emocionais como é proposto em Maniac? Provavelmente com dificuldades devido à subjetividade do pensamento humano inclusive em suas decisões racionais. Ainda pela linha de pensamento de Horkheimer a razão teria inicialmente uma função utilitarista – que seria a mesma que leva ao comportamento dos algoritmos baseada exclusivamente em dados, fatos, números e estatísticas ao mesmo tempo que o comportamento e as decisões são norteadas pela subjetividade, ligada ao propósito, questões éticas e políticas dentre outros elementos que acabam sendo legitimados pela construção da argumentação racional na tomada de decisões.
Teria então o computador de Maniac conseguido alcançar seu objetivo sem a inclusão do arquivo do cérebro humano escaneado, que lhe deu a capacidade de sentir empatia? Como elemento adicional é importante colocar que na série há em diversos momentos referência a fracassos em experiências anteriores do “sistema de tratamento”. E teriam sido justamente essas experiências fracassadas anteriores que teriam levado à decisão de um dos cientistas a trazer empatia à inteligência artificial utilizada. Nas versões anteriores diversos voluntários haviam passado a ter comportamento catatônico ou autômato.
Se não fosse a razão subjetivada apontada por Horkheimer predominando as decisões do sistema, seria uma atração subjetiva inicial e possivelmente temporária suficiente para o sistema “quebrar sua programação” e unir dois voluntários com históricos e demandas diferentes?
Um outro ponto de discussão em que é possível abordar relações entre o pensamento de Horkheimer e de Lanier é em relação ao papel do supercomputador na série – elemento que é possível encontrar em outras obras de ficção, como “2001, uma odisseia no Espaço” publicado em 1968 por Arthur C. Clarke e também na figura do Grande Irmão, do livro “1984” de George Orwell, publicado em 1949.
O quanto essa figura central, representada por um grande sistema tecnológico nas três obras citadas, pode ser uma representação do pensamento de Horkheimer quando ele fala da crise da individualidade, da perda da percepção da vida individual e em prol – mesmo que inconsciente - do todo, iniciada antes da era tecnológica, mas possivelmente reforçada por ela.
Será então que a chama do individual que segundo Horkheimer nunca se apaga, fica apenas adormecida pela ênfase no coletivo e que pode ser reavivada pela Filosofia, teria a humanização dos supercomputadores um aliado na era da tecnologia? Ou esse possível aliado, pelo seu gigantismo e por reunir a base da inteligência coletiva, da noosfera – ao ser humanizado traria também o que é considerado o pior dos seres humanos como sentimentos de poder, dominância e egoísmo como demonstrado em obras de ficção? E se não humanizado, o quanto esses grandes sistemas tomando apenas decisões utilitaristas não acabariam com o passar do tempo enxergando o homem como algo que não valeria a pena ser preservado diante do novo sistema?
BIBLIOGRAFIA
KERCKHOVE, Derrick de. A pele da cultura. São Paulo: Annablume, 2009.
LATOUR,
Bruno. Jamais fomos modernos: ensaio
de antropologia simétrica. Rio de janeiro: Editora 34, 1994.
MCLUHAN,
Marshall. Os meios de comunicação como
extensões do homem. São
Paulo: Cultrix, 1964.
MCLUHAN, Marshall. In:MCLUHAN, Eric & ZINGRONE,
Frank. Essential Mcluhan. Toronto:
Anansi, 1995.
Comentários
Postar um comentário