chapéu é como ser um morcego?

O filósofo Thomas Nagel fez essa pergunta em um artigo agora lendário publicado pela primeira vez em The Philosophical Review, em 1974. Ele não estava realmente pedindo a seus leitores que imaginassem uma vida passada usando a ecolocalização para navegar por cavernas escuras. Em vez disso, ele queria que eles pensassem sobre a natureza da mente.

Especificamente, Nagel queria destacar o aspecto privado, subjetivo, como é a experiência consciente e como, aparentemente, não pode ser reduzido a uma descrição dos estados físicos do cérebro.

O ponto de Nagel foi o seguinte. Poderíamos, em princípio, descrever exatamente a estrutura física de um cérebro de morcego. Poderíamos descrever o disparo de neurônios dentro desse cérebro e a conseqüente passagem de sinais elétricos através dele. Mas depois de tudo isso, ainda haverá algo sobre as operações de um cérebro de morcego que não estaríamos mais perto de saber. Isto é, como é ser um morcego.

As pessoas costumavam pensar que os seres humanos têm almas.

Agora nossa compreensão de nós mesmos é diferente. Podemos ver que o cérebro é uma estrutura de processamento de informações altamente complexa e ligada a regras. E nossa melhor aposta é que a mente é simplesmente o resultado desse processamento de informações. Não há espírito-mente, como acreditávamos uma vez. Nenhum fantasma na máquina. Sem alma.

Se a mente é simplesmente um produto do cérebro físico, então temos que sacrificar a idéia de que os seres humanos têm o livre arbítrio tradicionalmente entendido. O cérebro é um objeto físico, sujeito às leis da natureza. E se nossas mentes – nossos pensamentos, decisões, sentimentos e assim por diante – são simplesmente o produto de processos físicos cumpridores da lei, isso significa que eles não são escolhidos, mas determinados.

O cérebro recebe insumos, processa-o de acordo com as leis da física e, então, produz resultados, alguns dos quais tomam a forma de pensamentos, decisões, sentimentos e todo o resto do que chamamos de mente. Não há observador sentado de alguma forma à parte desses processos e nos orientando a escolher: “Eu vou comer o sanduíche de atum, não o de queijo”. Não há livre arbítrio mágico.

Entrada, processo, saída: isso é tudo.

As mentes humanas podem muito bem ser o produto do processamento de informações em cérebros humanos (embora valha a pena dizer que há pensadores sérios sobre o assunto que contestam isso). Mas ainda há uma enorme lacuna em nossa compreensão de nossos cérebros e o que eles fazem.

Claro, visto de fora da propriedade que chamamos de mente parece nada mais do que processamento de informação. Mas visto de dentro, há algo mais acontecendo. Algo misterioso, irredutível e incrivelmente rico. Uma experiência consciente subjetiva e privada que identificamos como nosso eu autêntico. Ou seja, a sensação de olhar para o mundo através de seus próprios olhos, que cada um de nós sustentaria como a resposta para a pergunta, “como é ser você?”

A existência dessa experiência subjetiva – ou o que os filósofos chamam de qualia – permanece um mistério intocado pelas nossas avançadas descrições físicas do cérebro. Nós simplesmente não sabemos como os cerca de 1,4 kg de matéria orgânica úmida dentro dos nossos crânios produzem a experiência da cor azul, do pré-exame dos nervos ou da ingestão de uma fatia de abacaxi.

Não podemos explicar a experiência consciente subjetiva. Mas cada um de nós sabe que está lá.

Por que isso é importante?

Uma ideia está ganhando força em nossa cultura agora. Ou seja, a ideia de que os avanços nas biotecnologias e na inteligência algorítmica logo significarão que os algoritmos serão capazes de modelar a atividade no cérebro humano e prever pensamentos e comportamentos humanos com precisão quase total e sem precedentes.

Os seres humanos, então, seguem essa linha de pensamento, são animais hackáveis. Devemos nos preparar para um futuro em que os algoritmos nos conheçam melhor do que nós mesmos. E em quais marcas, governos e vários atores ruins são capazes de usar esses algoritmos para nos fazer pensar, sentir e fazer o que quiserem.

Subjacente a essa ideia é outra: que os organismos – incluindo os seres humanos – são essencialmente algorítmicos. Que mesmo a mente humana é em si mesma apenas um algoritmo super-complexo e, para modelar tudo perfeitamente, tudo o que precisamos fazer é construir nosso próprio algoritmo de sofisticação suficiente.

Essa ideia parece estar perfeitamente de acordo com nossa concepção atual da mente como resultado do processamento da informação no cérebro.

Mas ignora a existência da experiência privada e subjetiva. O que é como aquilo que está no coração qualquer compreensão significativa de ser humano. E dentro desse mistério no coração da experiência humana, podemos abrir um espaço de resistência ao futuro determinado por algoritmos que está sendo planejado para nós.

Nós, humanos, não somos meros zumbis de processamento de informações. Em vez disso, somos anfitriões de uma experiência privada e subjetiva que permanece fundamentalmente misteriosa para nós. E inacessível a qualquer algoritmo.

Pode-se objetar que os algoritmos não precisarão saber como é sermos nós para prever e manipular nossos comportamentos. Afinal, o algoritmo do YouTube não tem acesso aos seus qualia, mas ainda permite que você assista aos vídeos por três horas, em vez de apresentar suas declarações de impostos. Da mesma forma, não temos ideia de como é ser uma ovelha, mas ainda estamos prevendo e manipulando o comportamento de ovelhas há milhares de anos.

Há uma boa dose de verdade nisso tudo. Mas se a experiência privada, subjetiva, é o único produto não-algorítmico e não-hackável do cérebro humano, então ela pode representar um tipo de base a partir da qual construímos uma resistência à idéia de que soberanos algorítmicos logo nos dominarão?

A verdade mais ampla sobre o cérebro humano parece ser que, embora seja um objeto físico com operações governadas pelas mesmas regras que governam todos os objetos, é de incrível complexidade: 100 bilhões de neurônios conectados por 100 trilhões de sinapses. Assim, embora os resultados do cérebro possam ser formalmente determinados por leis físicas e, portanto, previsíveis, na prática, as operações físicas em curso são tão complexas que nem sempre são previsíveis. Enquanto isso, essas operações formais de processamento de informações não estão ocorrendo em lugar algum; eles estão ocorrendo no substrato orgânico específico que é seu corpo humano, e esse substrato, assim como o processamento de informações, ajuda a produzir a experiência subjetiva que todos temos de sermos nós mesmos.

Junte tudo isso, e a ideia de que os algoritmos logo “nos conhecerão melhor do que nós mesmos” começa a parecer algo exagerado. Se a experiência subjetiva, subjetiva, permanece fora do escopo da análise algorítmica, então é igualmente possível que certos aspectos do pensamento, sentimento e comportamento humano também permaneçam sempre opacos aos algoritmos.

A história está cheia de movimentos que alegaram ter uma análise abrangente dos motivos e comportamentos dos seres humanos. Com o tempo, o determinismo algorítmico atualmente tão em moda quase certamente será revelado como defeituoso, assim como essas afirmações foram.

Enquanto isso, devemos resistir à idéia, empurrada em nós por uma tecno-elite do Vale do Silício e seus ideólogos, de que não há diferença de espécie entre nós e os algoritmos que eles querem usar para desviar nosso pensamento e comportamento para sua vantagem.

Há algo misterioso, irredutível e fundamentalmente não-algorítmico sobre ser um ser humano (ou um morcego). E é precisamente essa parte da experiência humana que é a mais preciosa. Como algoritmos cada vez mais sofisticados e A.I. reunir em torno de nós, vai pagar para lembrar disso.

Outro mundo…