Vidas híbridas: entre o pulso e a posse

Poderão as máquinas se comportar de maneira moral?

Por: Jocê Rodrigues

Buscamos constantemente por melhorias, numa incessante corrida contra nós mesmos e contra o tempo. Na luta com adversários invencíveis, muitas vezes usamos de artifícios tecnológicos que perpetuam gostos, interesses e vontades. Isso significa que as máquinas construídas pelos seres humanos tendem a replicar certos comportamentos em maior ou menor grau.

Talvez todo este esforço para criar réplicas seja consequência natural da nossa “missão” genética de se reproduzir. Um impulso que saiu da esfera puramente biológica e que agora finca raízes no fazer tecnológico. Cada vez mais o homem parece imitar o Deus bíblico, pois passou também a criar outras formas de vida à sua imagem e semelhança. O que gera certa desconfiança, já que não custa lembrar que, queiramos ou não admitir, nenhum de nós é feito apenas de virtudes.

O conceito de reprodução aqui aplicado é um tanto quanto problemático. De maneira geral, é comum pensar nos filhos como uma extensão dos pais; uma versão das pessoas responsáveis por lhes dar a vida. Mas não é bem assim que a banda toca.

Em Longe da Árvore (Companhia das Letras, 2013), o psicólogo e escritor britânico Andrew Solomon é bastante categórico sobre o assunto: “Não existe isso que chamam de reprodução. Quando duas pessoas decidem ter um bebê, elas se envolvem em um ato de ‘produção’, e o uso generalizado da palavra ‘reprodução’ para essa atividade, com a implicação de que duas pessoas estão quase se trançando juntas, é na melhor das hipóteses um eufemismo para confortar os futuros pais antes que se metam em algo que não podem controlar.”

A ideia de controle é predominante na maioria dos esforços tecnológicos e na genética. Por meio de procedimentos de edição de genes, cientistas são capazes de evitar doenças, deficiências e deformidades. Mais do que isso, é possível prover melhorias como altura, cor dos olhos, cor da pele e por aí vai. Uma verdadeira faca de dois gumes: um sonho à primeira vista para aqueles que conseguem pagar por tais serviços, mas com enorme potencial para se tornar verdadeiro pesadelo para os menos favorecidos.

Michael Sandel, de modo lúcido (qualidade cada vez mais rara nos tempos atuais), argumenta que o “problema da eugenia e da engenharia genética é que elas representam o triunfo unilateral da intenção deliberada sobre o dado inato, do domínio sobre a reverência, do moldar sobre o contemplar”

Esses procedimentos diminuem o valor daquilo que nos torna humanos, ou seja, nossas limitações. Muitos podem pensar que toda esta preocupação é exagerada, com o argumento de que seria um grande avanço eliminar certos defeitos e fazer uma melhoria aqui e outra acolá em nossas proles. No entanto, um dos problemas facilmente detectáveis é que, dado o seu alto custo, nem todos têm ou terão acesso a essa nova commodity. Situação que só faz alargar o abismo de desigualdade entre ricos e pobres.

No horizonte de possibilidades, a hibridização entre homem e máquina acena freneticamente. A produção de pessoas superiores corre lado a lado com o melhoramento por procedimentos que não necessariamente envolvem a genética. É o caso, por exemplo, das chamadas drogas inteligentes, que prometem ótimo desempenho das funções cerebrais e que são normalmente utilizadas por estudantes em busca daquele empurrãozinho antes das provas.

Durante a edição de 2020 do Fórum Econômico Mundial, em Davos, Ilina Singh, professora de neurociência em Oxford, falou ao público sobre algumas das tecnologias aplicadas para o melhoramento humano. Uma delas é a chamada deep brain stimulation, que consiste em implantar na base do cérebro um mecanismo que conduz pequenas correntes elétricas em áreas específicas. Eficaz no tratamento de doenças como Parkinson, epilepsia e anorexia. Ilina aproveitou a oportunidade para falar sobre o atual progresso em pesquisas que envolvem a junção entre máquinas e cérebros, que ainda precisam vencer grandes obstáculos.

Mas engana-se quem acha que o projeto de extensão entre humanos e máquinas já não está a marchar em ritmo acelerado. A integração entre homem e máquina já está acontecendo e parece ser um passo sem volta. Tenho quase certeza de que, enquanto você lê estas linhas, seu celular está em cima da mesa ou no seu bolso e vez ou outra você se permite parar para dar aquela rápida olhada para checar seu e-mail ou suas mensagens nas redes sociais. Talvez você esteja lendo este artigo na tela do seu smartphone.

O fato é que, devido às novas necessidades e desejos, esse dispositivo já se transformou numa extensão do corpo de muita gente. Yuval Harari já vem nos alertando que, em um futuro bastante próximo, somente aqueles que possuírem enorme conforto financeiro poderão se dar ao luxo de não carregar um celular como se fosse um gêmeo siamês. O resto de nós ficará obrigado a se manter conectado e disponível para, a qualquer momento, subir no palco daquilo que Paula Sibilia chamou de show do eu e executar tarefas e trabalhos.

A busca pela perfeição e pela produção/reprodução de inteligências artificiais capazes de pensar e de executar tarefas para facilitar a nossa vida, por vezes nos faz pegar atalhos e caminhos que evitam discussões que são de extrema importância. Temas como privacidade, uso e tratamento de dados, e até a humanização e direito das máquinas.

As máquinas podem se comportar de maneira moral? Ou, nas palavras de David Gunkel^[2], “é possível fazer com que a moral seja computadorizável?”. Dentro de muito em breve, carros autômatos poderão ser responsabilizados pelos acidentes que vierem a provocar. Não o passageiro, nem a empresa que o fabricou. Unicamente o carro. Essa nova postura vai exigir novo posicionamento das seguradoras, da justiça e dos operadores do Direito.

Situações como essa têm o potencial para provocar uma radical mudança de mentalidade, um ponto de mutação ou viragem paradigmática. Se as máquinas se tornarem únicas responsáveis por suas ações, será preciso pensar na possibilidade de que elas venham a possuir direitos?

Um verdadeiro campo minado, belamente ilustrado no romance Máquinas Como Eu (Companhia das Letras, 2019), de Ian McEwan. No livro, o protagonista adquire um robô capaz de pensar e sentir como um ser humano e vê a sua vida se transformar em uma verdadeira catástrofe. O robô, ironicamente batizado de Adão, foi construído para se comportar como um humano perfeito: “Em termos mais elevados, tínhamos como meta escapar de nossa mortalidade, confrontar ou mesmo substituir a divindade por um eu perfeito. Do ponto de vista prático, tencionávamos criar uma versão melhorada e mais moderna de nós mesmos, exultando com a alegria da invenção e a excitação da maestria”.

Nas circunstâncias atuais, vivemos rodeados por robôs e sequer nos damos conta disso. Ainda cometemos o erro de pensar neles com olhar bastante distorcido, quase viciado. O perigo está justamente em ter o olhar destreinado para observar a marcha do futuro, que sempre traz consigo dúvidas e incertezas.

Enquanto não encontramos Adões nas ruas, igrejas e cartórios, não podemos perder de vista os desafios e obstáculos colocados no caminho que leva a um amanhã onde a linha que divide homem e máquina será bastante tênue ou quase inexistente. Futuro que exigirá de todo jurista imaginação, cuidado e paciência. Muita paciência, diga-se de passagem. Mas sem desanimar. Belchior já nos alertava em uma canção: seja para o melhor ou para o pior, “o novo sempre vem”. A pergunta que fica é: até que ponto estaremos preparados para ele?

Façam suas apostas!

^[1] Aos interessados, vale a leitura de seu livro “Contra a Perfeição” (Civilização Brasileira, 2015).

^[2] Gunkel é um professor e acadêmico da Northern Illinois University, que tem liderado pesquisas das mais interessantes sobre o futuro das máquinas e seus possíveis direitos.

* Publicado originalmente no JOTA.