O teste citado no artigo da semana passada coloca Filha diante de um dos inumeráveis dilemas éticos frequentemente enfrentados pelos seres humanos. Temos a sensação de que tais dilemas são mal assimilados por Mãe-robô, que parece esperar respostas precisas, sem ambiguidades. Não vemos algumas respostas dadas por Filha em outro teste e se são ou não lesivas à jovem sob o ponto de vista do modelo de perfeição humana implantado na inteligência artificial por seus criadores.

Todas essas exigências com relação à formação do ser humano perfeito faz pensar que Mãe-robô tenha sido programada com a mentalidade característica da Modernidade que se iniciou na metade do século 18.

O racionalismo da Modernidade, segundo Zygmunt Bauman, teve obsessão pela ordem. A fábrica, a prisão, o quartel militar, o asilo para pobres, a instituição de correção, o albergue, o hospital eram locais onde se aprendia a ordem, eram fábricas de ordem, em que a regra substitui o acaso e a norma ocupa o lugar da espontaneidade. A luta pela ordem não é a luta de uma definição contra outra, de uma maneira de articular a realidade contra uma proposta concorrente. É a luta da determinação contra a ambiguidade, da precisão semântica contra a ambivalência, da transparência contra a obscuridade, da clareza contra a confusão.

As permanentes transgressões morais do ser humano atentavam contra a utopia de ordem permanente das relações sociais. Para solucionar este problema, um ramo das Ciências Biológicas criou a eugenia. O documentário “Homo Sapiens 1900” do sueco Peter Cohen, disponível no Youtube, trata do assunto em profundidade. A eugenia foi iniciada na pelo inglês Francis Galton no final do século 19 e se tornou o credo científico da primeira metade do século 20. Pretendia, pelo aperfeiçoamento gradativo de homens e mulheres, adaptar a teoria evolucionista das espécies à raça humana, possibilitando assim que todos os problemas sociais da humanidade fossem definitivamente solucionados. Foi Galton quem apresentou os conceitos de eugenia “positiva” -- a melhoria da raça humana com o cruzamento de seres superiores pela procriação -- e a eugenia “negativa” -- que objetivava evitar que pessoas inferiores se reproduzam. Charles Davenport, pai do movimento eugênico nos Estados Unidos, afirmou que “se o homem pudesse ser levado a se apaixonar com inteligência, se a procriação humana pudesse ser feita igual à dos cavalos, a maior revolução progressista da história poderia ser alcançada”. Seu movimento transformou-se numa campanha agressiva contra os negros e imigrantes.

O nazismo endossou entusiasticamente essa pseudociência e tanto a eugenia como o nazismo são produtos legítimos da Modernidade, afirma Bauman. O projeto implementado pelos robôs do filme são inspirados na eugenia negativa levada a cabo por Hitler, que buscava a eliminação dos que eram consideradas produções falhas da natureza humana: ciganos, judeus, deficientes físicos e mentais, habitantes do leste europeu etc. “No novo mundo, mais humanos prosperarão do que morreram no antigo” são palavras de Mãe-robô que bem poderiam ter sido ditas por Hitler em um de seus estridentes discursos. Podemos então supor que o programador dessas superinteligências seja adepto de uma variante da ideologia nazifascista contemporânea que se alastrou como erva daninha nas últimas décadas.

Esta série de artigos está incluída no projeto Cine Reflexão da Fundec

[email protected]