Building peace in the minds of men and women

Grande Angular

São os humanos, não as máquinas, que criam significado

cou_03-18_benasayag_01.jpg

Da séries Constelações (2014), do artista espanhol Jordi Isern.

No termo “Inteligência Artificial” (IA), a palavra “inteligência” é apenas uma metáfora. Enquanto a IA pode ultrapassar os humanos com relação à capacidade de calcular, ela é incapaz de atribuir qualquer significado a estes cálculos. Para o filósofo e psicanalista argentino Miguel Benasayag, reduzir a complexidade de um ser vivo a um código de computador é um erro, assim como a ideia de que máquinas podem substituir humanos é absurda.

 

Miguel Benasayag, entrevistado por Régis Meyran

 

O que distingue a inteligência humana da Inteligência Artificial (IA)?

A inteligência viva não é uma máquina de cálculos. É um processo que articula afetividade, corporalidade e erros. Em seres humanos, é pressuposta a presença de desejo e da consciência de sua própria história em longo prazo. A inteligência humana não é concebível separadamente de todos os outros processos cerebrais e corporais.

Diferente de humanos ou animais que pensam com a ajuda de um cérebro localizado dentro de seus corpos – que existe em um meio ambiente – uma máquina processa cálculos e premonições sem a capacidade de dar sentido a eles. A ideia de que uma máquina pode substituir humanos é, de fato, absurda. É o ser vivo que cria significado, não a computação. Muitos pesquisadores de IA estão convencidos de que a diferença entre a inteligência viva e a inteligência artificial é quantitativa, enquanto ela é qualitativa.

 

Dois computadores na nuvem do programa Google Brain se comunicam um com o outro em uma “linguagem” que eles mesmos criaram e a qual humanos não conseguiram decifrar. O que o sr. acha disso?

Isso não faz sentido algum. Na realidade, cada vez que essas duas máquinas são iniciadas, elas sistematicamente repetem a mesma sequência de troca de informações. E isso não é uma linguagem, elas não se comunicam. É uma péssima metáfora, assim como aquela que diz que a fechadura “reconhece” a chave.

É como quando algumas pessoas dizem ser “amigas” de um robô. Existem até mesmo aplicativos que supostamente deixam você “bater-papo” com um. No filme de Spike Jonze, Her (2013), um homem recebe uma série de perguntas, o que permite que seu cérebro seja mapeado. Então, a máquina sintetiza uma voz e fabrica respostas que disparam um sentimento, nesse homem, de estar apaixonado . Mas você poderia ter um relacionamento romântico de verdade com um robô? Não, porque amor verdadeiro e amizade não podem ser reduzidos a um conjunto de transmissões neuronais no cérebro.

Amor e amizade existem além do indivíduo, e mesmo além da interação entre duas pessoas. Quando eu falo, eu estou participando de algo que dividimos em comum, que é a linguagem. O mesmo serve para o amor, a amizade e os pensamentos – que são processos simbólicos os quais dos humanos participam. Ninguém pensa somente para si mesmo. Um cérebro utiliza sua energia para participar do ato de pensar.

Para aqueles que acreditam que uma máquina pode pensar, devemos responder que seria surpreendente que uma máquina pudesse pensar, porque nem mesmo o cérebro pensa!

 

Em sua opinião, reduzir um ser vivo a códigos é a principal falha da IA?

De fato, alguns especialistas em IA estão tão fascinados por suas próprias conquistas técnicas – como garotinhos fascinados por seus jogos de construção – que perdem de vista o panorama completo. Eles caem na armadilha do reducionismo.

Em 1950, o matemático americano e pai da cibernética Norbert Wiener escreveu em seu livro, The Human Use of Human Beings (O uso humano dos humanos),que um dia poderíamos “telegrafar um homem”. Quatro décadas depois, a ideia transumanista de “transferência mental” foi construída sob a mesma fantasia – a de que todo o mundo real pode ser reduzido a unidades de informação que podem ser transmitidas de um hardware para outro.

A ideia de que seres vivos podem ser reproduzidos em unidades de informação também é encontrada no trabalho do biólogo francês Pierre-Henri Gouyon, com quem eu publiquei o livro de entrevistas Fabriquer le vivant? (Fabricar seres vivos? [2012]). Gouyon vê o ácido desoxirribonucleico (DNA) como a plataforma para um código que pode ser transferido a outras plataformas. Mas quando pensamos que seres vivos podem ser moldados em unidades de informação, esquecemos que a soma das unidades de informação não é o objeto vivo, e ninguém está interessado em fazer uma pesquisa sobre o que não pode ser reproduzido.

Devemos levar em conta que aquilo que não pode ser reproduzido não nos leva à ideia de Deus, ou de obscurantismo, o que quer que alguns pensem. Os princípios da imprevisibilidade e da incerteza podem ser encontrados em todas as ciências exatas. É por isso que a pretensão dos transhumanistas de um conhecimento total é parte de um discurso perfeitamente irracional e tecnófilo. Seu grande sucesso é devido à habilidade de saciar a sede de metafísica de nossos contemporâneos. Os transumanistas sonham com uma vida livre de toda a incerteza. No entanto, no dia a dia, como na pesquisa, precisamos nos contentar com incertezas e aleatoriedade.

 

De acordo com a teoria transumanista, nós seremos imortais um dia, graças à IA.

Na atual agitação pós-moderna, onde nós não mais refletimos sobre as relações entre as coisas, onde o reducionismo e o individualismo dominam, a promessa transumanista toma o lugar da caverna de Platão. Para o filósofo grego, a vida real não poderia ser encontrada no mundo físico, mas no mundo das ideias. Para os transumanistas, 24 séculos depois, a vida real não está no corpo, mas nos algoritmos. Para eles, o corpo é apenas uma fachada – um conjunto de informações úteis a serem extraídas – e então nós precisamos nos livrar de seus defeitos naturais. É assim que eles pretendem alcançar a imortalidade.

Em conferências científicas, tive a oportunidade de conhecer diversos membros da Universidade da Singularidade (mais um grupo de especialistas do que uma universidade, localizada no Vale do Silício, nos Estados Unidos, com uma abordagem transumanista não declarada) que usavam medalhões ao redor de seus pescoços pedindo que, caso morressem, suas cabeças fossem  cryopreservadas. Eu vejo isso como o surgimento de um novo tipo de conservantismo, mesmo sendo eu quem aparece como um bioconservador, porque eu sou contra a filosofia transumanista. Mas quando meus críticos me chamam de reacionário, eles utilizam os mesmos argumentos de políticos – que alegam estar modernizando ou reformando, enquanto estão corroendo os direitos sociais de um país e chamando de conservadores todos aqueles que querem defender seus direitos!


Robot (2013), uma performance criada para dançarinos e robôs pela coreógrafa espanhola Blanca Li, que propõe um olhar questionador para um mundo habitado por máquinas e homens.

A hibridização de humanos e máquinas já é uma realidade. Este também é um ideal transumanista.

Nós ainda nem começamos a entender os seres vivos e a hibridização, porque a tecnologia biológica atual continua omitindo quase tudo sobre a vida, que não pode ser reduzida apenas aos processos fisioquímicos capazes de serem reproduzidos. Dito isto, os humanos já foram hibridizados com as máquinas, e isso certamente acontecerá cada vez mais, com os produtos resultantes das novas tecnologias.

Existem diversas máquinas com as quais trabalhamos, e para as quais nós delegamos um certo número de funções. Mas seriam todas elas necessárias? Este é o ponto. Eu trabalhei com implantes cocleares e a cultura dos deficientes auditivos. Existem milhões de deficientes auditivos que reivindicam sua própria cultura – que não é suficientemente respeitada – e que se recusam a utilizar implantes cocleares porque preferem se expressar em linguagem de sinais. Esta inovação, que poderia acabar com a cultura dos deficientes auditivos, é parte de um progresso? A resposta não é assim tão óbvia.

Acima de tudo, precisamos nos assegurar de que a hibridização aconteça junto com o respeito à vida. No entanto, o que presenciamos hoje não é tanto a hibridização, mas a colonização dos seres vivos pelas máquinas. Por externarem suas memórias, muitas pessoas não se lembram de mais nada. Elas têm problemas de memorização que não são o resultado de doenças degenerativas.

Veja o caso do Sistema de Posicionamento Global (GPS), por exemplo. Foram feitos estudos em motoristas de táxi em Paris e em Londres, ambas cidades labirínticas. Enquanto os taxistas de Londres trafegam orientando-se, os parisienses sistematicamente usam o GPS. Após um período de três anos, testes psicológicos demonstraram que o núcleo subcortical responsável pelo mapeamento de tempo e espaço atrofiou na amostra parisiense (atrofias que certamente são reversíveis caso a pessoa abandone a prática). Eles foram afetados por uma espécie de dislexia que os impedia de raciocinar por meio do tempo e do espaço. Isso é colonização – a área do cérebro está atrofiada porque sua função foi delegada, sem ser substituída por nada.

 

O que mais lhe preocupa? 

Eu me preocupo com o sucesso desordenado da lógica da inovação. A noção de progresso falhou logo no começo. Ela foi substituída pela noção de inovação, que é algo bem diferente – ela não tem nem um ponto inicial nem um ponto final, e não é nem boa nem ruim. A inovação deve, portanto, ser questionada de maneira crítica. Utilizar um processador de palavras em um computador é muito mais poderoso que a máquina de escrever Olivetti que eu utilizava em 1970 – para mim, isso é um progresso. Mas por outro lado, todo smartphone contém diversos aplicativos e poucas pessoas se perguntam sinceramente de quantos realmente precisam. Sabedoria consiste em separar a fascinação provocada pelo entretenimento da efetividade das novas tecnologias.

Além disso, em uma sociedade desorientada que perdeu suas grandes narrativas, o discurso transumanista é bastante perturbador – ele infantiliza os humanos, e vê as promessas de tecnologia sem desconfiança. No Ocidente, a tecnologia sempre se ligou à ideia de transcender limites. Já no século XVII, o filósofo francês René Descartes, para quem o corpo era uma máquina, imaginou a possibilidade do pensamento sem um corpo. É uma tentação humana sonhar que, por meio da ciência, poderemos nos livrar de nossos corpos e de suas limitações – algo que os transumanistas acreditam que um dia irão alcançar.

Mas a ideia de um homem todo-poderoso e pós-orgânico que não conhece limites tem todos os tipos de consequências sérias para a sociedade. Para mim, parece que isso deveria ser visto como o reflexo do surgimento do fundamentalismo religioso, e que se esconde atrás de supostos valores naturais humanos. Eu os enxergo como duas formas irracionais de fundamentalismo em guerra.

Foto: Jordi Isern 

Miguel Benasayag

O filósofo e psicanalista argentino Miguel Benasayag é um antigo membro da resistência de Che Guevara contra o regime de Perón. Ele conseguiu fugir da Argentina em 1978, onde foi preso e torturado. Hoje vive em Paris (França). Suas publicações recentes incluem Cerveau augmenté, homme diminué (Cérebro aumentado, homem diminuído [2016]) e La singularité du vivant (A singularidade do ser vivo [2017]).