O que distingue a inteligência humana da inteligência artificial (IA)?
MIGUEL BENASAYAG – A inteligência viva não é uma máquina de calcular. É um processo que articula afetividade, corporeidade, erro. Nos seres humanos, pressupõe a presença do desejo e a consciência de sua própria história em longo prazo. A inteligência humana não é concebível separadamente dos outros processos cerebrais e corporais. Diversamente de humanos ou animais que pensam com a ajuda de um cérebro situado em seus corpos – que existe em um ambiente –, uma máquina produz cálculos e previsões sem poder lhes dar significado algum. A questão de saber se uma máquina pode substituir humanos é, de fato, absurda. São seres vivos que criam significado, e não a computação. Muitos pesquisadores de IA estão convictos de que a diferença entre inteligência viva e IA é quantitativa, ao passo que é qualitativa.

No programa Google Brain, dois computadores aparentemente se comunicaram em uma “linguagem” que eles próprios criaram e que os humanos não conseguiram decifrar. O que acha disso?
BENASAYAG – Isso simplesmente não faz sentido. Na realidade, a cada inicialização, essas duas máquinas repetem sistematicamente a mesma sequência de troca de informações. E isso não é uma linguagem, ela não comunica. É como quando algumas pessoas dizem ser “amigas” de um robô. Existem até aplicativos para smartphones que supostamente permitem “conversar” com um. No filme “Ela” (2013), de Spike Jonze, uma série de perguntas é feita a um homem, o que permite que seu cérebro seja mapeado. Uma máquina então sintetiza uma voz e fabrica respostas que desencadeiam no homem uma sensação de estar apaixonado. Mas você pode realmente ter uma relação romântica com um robô? Não, porque amor e amizade não podem ser reduzidos a um conjunto de transmissões neuronais no cérebro. Amor e amizade existem além do indivíduo e até mesmo além da interação entre duas pessoas. Quando falo, participo de algo que compartilhamos em comum, linguagem. É o mesmo para amor, amizade e pensamento – estes são processos simbólicos dos quais os humanos participam. Ninguém pensa só por si. Um cérebro usa sua energia para participar do pensamento.

“Não há relação com um robô, porque amor e amizade não podem ser reduzidos a transmissões neuronais no cérebro” – Cena de “Ela”, filme de 2013 dirigido por Spike Jonze: relação amorosa entre humano e máquina

Reduzir um ser vivo a um código é a falha principal da IA?
BENASAYAG – De fato, alguns especialistas em IA se deslumbram tanto com suas conquistas técnicas que perdem de vista o quadro geral. Caem na armadilha do reducionismo. Em 1950, Norbert Wiener, matemático americano e pai da cibernética, escreveu no livro “O Uso Humano dos Seres Humanos” que um dia poderíamos “telegrafar um homem”. Quatro décadas depois, a ideia do transumanismo [movimento que visa transformar a condição humana por meio do desenvolvimento de tecnologias disponíveis para ampliar as capacidades intelectuais, físicas e psicológicas humanas] de “envio de dados para a mente” foi construída sobre a mesma fantasia – que todo o mundo real pode ser reduzido a unidades de informação passíveis de ser transmitidas de um aparelho a outro. A ideia de que os seres vivos podem ser modelados em unidades de informação também é encontrada no trabalho do biólogo francês Pierre-Henri Gouyon. Ele vê o ácido desoxirribonucleico (DNA) como a plataforma para um código que pode ser transferido para outras plataformas. Mas quando pensamos que os seres vivos podem ser modelados em unidades de informação, esquecemos que a soma das unidades de informação não é o ser vivo, e ninguém tem interesse em pesquisar o que não pode ser modelado. Levar em conta aquilo que não pode ser modelado não nos leva à ideia de Deus, ou de obscurantismo, ou o que quer que seja. Os princípios de imprevisibilidade e incerteza estão em todas as ciências exatas. É por isso que a aspiração dos transumanistas pelo conhecimento total é parte de um discurso perfeitamente irracional e tecnófilo. Ele deve seu considerável sucesso à sua capacidade de saciar a sede metafísica de nossos contemporâneos. Os transumanistas sonham com uma vida livre de toda a incerteza. No entanto, temos de lidar com incertezas e aleatoriedade tanto na vida diária como na pesquisa.

Segundo a teoria transumanista, um dia nos tornaremos imortais, graças à IA.
BENASAYAG – Em nossa atual turbulência pós-moderna, em que dominam o reducionismo e o individualismo, a promessa transumanista toma o lugar da caverna de Platão. Para o filósofo grego, a vida real não era encontrada no mundo físico, mas no das ideias. Para os transumanistas, 24 séculos depois, a vida real não está no corpo, mas nos algoritmos. Para eles, o corpo é apenas uma fachada – um conjunto de informações úteis deve ser extraído dele e, então, precisamos nos livrar de seus defeitos naturais. É assim que eles pretendem alcançar a imortalidade.

A hibridização de humanos e máquinas já é uma realidade. Esse também é um ideal dos transu­manistas.
BENASAYAG – Nós nem começamos a entender os seres vivos e a hibridização, porque a tecnologia biológica hoje ainda omite quase toda a vida, a qual não pode ser reduzida apenas aos processos físico-químicos que podem ser modelados. Dito isto, os vivos já foram hibridizados com a máquina, e isso certamente se ampliará, com produtos resultantes de novas tecnologias. Há muitas máquinas com que trabalhamos e às quais delegamos várias funções. Mas todas elas são necessárias? Esse é o ponto. Trabalhei em implantes cocleares e na cultura de pessoas surdas. Milhões de surdos reivindicam sua própria cultura – que não é respeitada o suficiente – e se recusam a ter um implante coclear porque preferem se expressar em linguagem de sinais. Será que essa inovação, que poderia esmagar a cultura das pessoas surdas, constitui progresso? A resposta não é intrinsecamente óbvia. Acima de tudo, precisamos garantir que a hibridização ocorra com respeito à vida. No entanto, o que testemunhamos hoje não é tanto a hibridização quanto a colonização dos vivos por máquinas. Porque elas exteriorizam suas memórias, muitos indivíduos não se lembram de nada. Eles têm problemas de memória que não resultam de patologias degenerativas. Pegue o Sistema de Posicionamento Global (GPS), por exemplo. Houve estudos sobre taxistas em Paris e Londres, duas cidades labirínticas. Enquanto os taxistas londrinos navegam orientando-se por si mesmos, os parisienses usam sistematicamente seus aparelhos de GPS. Três anos depois, testes psicológicos mostraram que os núcleos subcorticais responsáveis pelo mapeamento do tempo e do espaço haviam atrofiado na amostra parisiense (atrofias certamente reversíveis se a pessoa abdicasse dessa prática). Esses taxistas foram afetados por uma forma de dislexia que os impede de traçar seu caminho através do tempo e do espaço. Isso é colonização – a área do cérebro está atrofiada porque sua função foi delegada, sem ser substituída por nada.

“nos taxistas parisienses que dependem do gps, uma área do cérebro se atrofiou porque sua função foi delegada” – O taxista londrino não se apoia no GPS

O que o preocupa mais?
BENASAYAG – O sucesso desmedido da lógica da inovação. A noção de progresso falhou e deu lugar à ideia de inovação, algo bem diferente – não contém nem um ponto de partida nem um ponto final, e não é boa nem má. Deve, portanto, ser questionada criticamente. Usar um processador de texto de computador é muito mais poderoso do que a máquina de escrever Olivetti que usei nos anos 1970 – para mim, isso é progresso. Mas, inversamente, cada smart­phone contém dezenas de aplicativos e poucas pessoas se perguntam a sério de quantos deles realmente precisam. A sabedoria consiste em manter distância do fascínio causado pelo entretenimento e pela eficácia das novas tecnologias. Além disso, em uma sociedade desorientada que perdeu suas grandes narrativas, o discurso transumanista é muito perturbador – ele infantiliza os humanos e vê as promessas da tecnologia sem ceticismo. No Ocidente, a tecnologia sempre se referiu à ideia de transcender limites. É uma tentação humana sonhar que, pela ciência, nos libertaremos de nossos corpos e suas limitações – algo que os transumanistas acreditam que enfim conseguirão. Mas o sonho de um homem todo-poderoso, pós-orgânico, que não conhece limites, tem todos os tipos de consequên­cias sérias para a sociedade. Parece-me que isso deveria ser visto como uma imagem espelhada da ascensão do fundamentalismo religioso, que se esconde por trás dos supostos valores naturais dos seres humanos. Eu os vejo como duas formas irracionais de fundamentalismo em guerra.