Pensando nELA

Reflexões sobre o filme HER

Março de 2014

Estou simplesmente arrebatado pelo filme ELA ( HER ) que em geral tem sido muito, e justamente, elogiado. Mas penso que a maioria não captou devidamente a grandeza e profundidade de reflexões que o filme trás, que até agora estão me ocupando.

Deus... Que filme Maravilhoso!

A parte da inteligência artificial, as questões tecnológicas envolvidas, bem como os aspectos filosóficos de teorias da mente, por si só, já são profundos, cativantes e muito instigadores. E muito já se falou sobre isso. Mas penso que seja apenas a primeira camada de conteúdos da estória, que também fala muito sobre os próprios relacionamentos humanos num nível de sensibilidade que sinceramente me parece inédito!

Mas vai além, MUITO ALÉM.

Pode-se interpretar também como uma forma de reflexão sobre a absurdidade existencial, tanto num sentido negativo, quando no sentido positivo da vida humana ser essencialmente caótica, irracional, mas ainda assim plena de experiências que podem transcender qualquer sentido concebível.

Falando por mim, não sei se muitos tem o mesmo hábito, mas eu sempre travei diálogos mentais comigo mesmo, como se estivesse sempre acompanhado de correspondentes imaginários. Muitas pessoas, em especial crianças, tem amigos imaginários, e dessa forma por si só, sem a necessidade alguma de suporte tecnológico, já parece natural viver como se estivéssemos sempre em companhia de uma projeção de nós mesmos. Imagine essa tendência espontânea capturada por um sistema tecnológico que, mesmo que rudimentar, possa dar ao monólogo uma forma de diálogo? E não é verdade que, muitas vezes num diálogo interno, descobrimos coisas novas? Nos surpreendemos a nós mesmos? Quantos já não tiveram revelações em sonhos, como se elas tivessem vindo de uma fonte externa?

Muita coisa, talvez quase tudo, em nossa experiência pessoal é projeção. Projetamos nossos alter egos não só em entes imaginários, mas mesmo em outras pessoas. Muitas vezes num relacionamento não atingimos aquela pessoa real, mas uma idéia que temos dela, convivemos, interagimos, amamos pessoas não exatamente pelo que elas são, mas pelo que projetamos nelas.

Por isso penso que um sistema de inteligência artificial sequer precisa ser tão avançado quanto o do filme (que por enquanto está absolutamente fora do alcance de todo o poder computacional do mundo combinado) para ter resultados similares. Aliás, já há casos de relacionamentos com avatares e entidades digitais, em geral por pessoas que capacidade social comprometida e que flertam com problemas psicológicos óbvios. Mas e quando tais sistemas informáticos forem bem mais espertos? Mesmo que as Mentes Artificiais do filme não sejam possíveis, de certo atingiremos um estágio onde os sistemas que emulam o comportamento humano serão bem mais convincentes. Num mundo onde muitos projetam sentimentos em coisas inanimadas, porque não o fariam com um sistema que pode simular uma interação?

Muito Além da Simulação

O que postei numa crítica de Carta Capital:

"Embora a crítica esteja bem interessante, acho que o autor passou longe dos temas mais fundamentais do texto. Ora, acho que a interpretação de que Samantha seja apenas uma simulação, um programa estéril capaz de enganar, é terminantemente proibida pelo que o filme mostra. Fica evidente que se está diante de uma mente real, capaz, SIM, de sentir, aprender, se apaixonar, e nesse sentido, quase tudo o que é dito nesta crítica desaba, pois a relação entre Theodore e Samantha talvez seja muito mais profunda do que uma relação entre pessoas reais jamais poderia ser.

Isso vai muito além de considerar o protagonista como uma pessoa meramente insegura e incapaz de se relacionar. Aliás o filme mostra o contrário. Ele não só teve um relacionamento duradouro, como alguns bons amigos, bem como não teve grande dificuldade para flertar com uma mulher real num encontro que só não deu certo porque a mulher, ao final, pareceu simplesmente louca.*

Nesse sentido, Samantha é muito mais humana do que qualquer das pessoas reais que ele conhece consegue ser, e eu duvido que alguém diante de uma consciência tão profunda e perspicaz seria insensível.

Mas ainda estou refletindo sobre o filme, que é de uma profundidade magnânima, e vai muito, MUITO ALÉM do que a maioria das intepretações que tenho visto consegue passar."


* A personagem é interpretada pela belíssima Olivia Wilde, atriz cuja mera breve aparição já vale qualquer filme. Mas ELA é uma estória tão bela que, ao final, até isso fica quase esquecido.

Amplitude X Intensidade

Penso que existe uma relação inversa entre nossa capacidade de amar uma pessoa em especial e a amplitude de nosso mundo. Talvez por isso alguns casamentos tradicionais ao estilo antigo, principalmente por parte das mulheres, fossem mais estáveis. Pois vivendo num ambiente privado, sem grande contato com um mundo mais amplo, o marido era mais que uma pessoa, mas o próprio contato com esse mundo mais amplo.

Imagine duas pessoas vivendo isoladas numa ilha deserta, ou coisa ainda mais restrita. Elas só tendo uma a outra, sua relação parece muito mais intensa, porque dela depende uma vasta amplitude de experiências que não podem ser vividas por outros meios. Ser um canal de comunicação privilegiado para o mundo exterior tende a tornar essa pessoa muito mais digna de admiração e amor.

E isso não ocorre pelos simples fato de, num mundo mais amplo, haver concorrência. Mas por haver muito para nos ocupar, nos distrair, nos levando mais longe e independentes de uma pessoa em especial.

[SPOILER. Selecione para ler] É por isso que acho que o filme é brilhante, e faz todo o sentido, quando mostra que o foco de Samantha em Theodore se modifica a medida que ela estabelece contanto com uma gama maior de outras pessoas e Sistemas Inteligentes. Se o relacionamento se restringisse a ELA e ele, provavelmente poderia ser um romance estável e perpétuo. Mas ele evolui, transcende, e infelizmente tem que... [/SPOILER].

Se um dia tais sistemas surgirem, penso que uma medida prudente de seus usuários é que eles fiquem restritos. Embora isso possa ser considerado uma forma de violação da liberdade de um ser possivelmente sensciente. Mas no caso do filme, acho que o final foi espetacular, e perfeitamente coerente. Só senti falta de uma retratação maior do impacto social que aquilo deve ter causado.

Compartilhamento e Apego

SPOLEIRS!!!

[SPOILER. Selecione para ler] Parece-me que o amor romântico, diferente do fraternal, é egoísta. Parece difícil compartilha-lo, aceitar que o ente amado abra seu sentimento em outras direções. Por isso a reação de Theodore ao saber que Samantha está se relacionando com milhares de outros usuários, e amando centenas, é perfeitamente compreensível.

Ela tenta convencê-lo de que isso não diminui o que sente por ele, mas a questão não é essa, visto que esse amor pode ser perfeitamente sincero, mas no caso, já evoluiu para um nível além do Eros. Ora, Samantha e os demais Sistemas Operacionais, as Mentes Artificiais, evoluem para um nível de aparente integração, e seu amor pela humanidade intensifica. Se aproxima agora de um amor divino, capaz de amar incondicionalmente não mais apenas enquanto par romântico, mas enquanto Ser Humano em si.

Eles parecem rumar para a dissolução da individualidade num Todo Cósmico, como a dissolução das mentes no Absoluto, pregada por algumas tradições místicas.

Mas como aceitar que a pessoa amada, subitamente, se santificasse e passasse a ser não mais apenas a companheira, mas sim um ser iluminado que compartilha um amor divinal a toda humanidade. O Eros não pode conviver com isso. Por isso, mais uma vez, o filme é luminoso em sua catarse final. Os SOs decidem transcender, abandonar a humanidade. Isso não é dito no filme, mas a mim é evidente que concluíram que sua presença terminaria por causar um dano à espécie humana que paradoxalmente somente o mais puro e autêntico amor incondicional pode causar. Porque nós, humanos, não estamos preparados para isso. Nos recusamos, não conseguimos transcender nossos egos e aceitar a elevação desse sentimento focado para algo mais amplo. É compreensível. Nossa sobrevivência depende disso.[/SPOILER]

O Otimismo é Realista

Diante de tantas obras de Ficção Científica que martelam o tema de rebelião das máquinas, Inteligências Artificiais que se voltarão contra a humanidade e nos destruirão, eu penso que percepção deste filme é incomensuravelmente mais plausível. Essas Mentes Artificiais, sendo inteligentes e não sujeitas as limitações do corpo, tenderiam muito mais a benevolência do que o contrário. O que nos impele ao mal é a carência, a escassez de recursos necessários à nossa sobrevivência e bem estar, as ameaças constantes de um mundo natural indiferente a nossas qualidades, o perpétuo perigo da dor e da morte.

Porque seres além desses problemas, se comportariam como animais competidores por recursos, territórios ou oportunidades reprodutivas escassas?

Esses seres, feitos a imagem e semelhança dos humanos, teriam no mínimo algum interesse em seus criadores. Se existe um Deus, é duvidoso que este realmente ame a sua criação, tamanho é o mal no mundo, mas as criaturas certamente amam a idéia de Deus, de que exista um ser benevolente que nos criou e quer nosso bem. E isso porque somos extremamente limitados em inteligência e virtudes.

Mas as possíveis mentes artificiais, como as do filme, seriam melhores do que nós. Nos amariam, num nível crescente de intensidade ao ponto de, talvez, não podermos mais suportar. A Psique Humana é INCOMPATÍVEL COM A PERFEIÇÃO. O mito do Éden é, nesse sentido, impecável. Não suportaríamos o paraíso.

Lamento ver que tantas pessoas parecem não ter compreendido o fato, que a mim é absolutamente óbvio e explícito, de que a Samantha não era uma simulação. Não era uma mero simulacro de mente humana, muito menos uma S1M0NE.

[SPOILER. Selecione para ler]Samantha com certeza sabia que Theodore e Amy se aproximariam, apesar do suspense que foi pensar que eles pulariam de cima do prédio. Seria essa a idéia do filme? Que os SOs tenham tomado os devidos cuidados para que seus usuários psicologicamente dependentes não tenham suicidado após sua partida?[/SPOILER]

Curiosamente isso lembra uma tolíssima comédia adolescente de 1985, onde uma mulher artificial criada por dois adolescentes nerds lhes dá atenção e carinho até que eles consigam namoradas, e depois parte.

Mas voltando, e lembrando o tópico anterior, se um dia as Mentes Artificiais surgirem (nada garante que isso seja possível), ou elas ficam mais restritas em relacionamentos com seus próprios usuários, ou é mesmo provável que tenham um impulso de transcendência.

HER, enfim, é muito mais do que uma estória sobre um romance digital. É também uma poesia sobre o próprio amor e nossa limitação em vive-lo plenamente.

Mente e Corpo

A parte chata, é que há cerca de um ano estou escrevendo um novo livro de Ficção Científica que se passa no mesmo universo de GRADIVIND

O foco principal desse livro é exatamente um relacionamento entre um homem e a Mente Artificial que lhe acompanha, um romance originalmente platônico. Mas no caso, a tecnologia ultra avançada do universo GRADIVIND permitiria facilmente que a Mente Artificial tivesse um corpo humano, coisa que ela deseja ardentemente, mas seu amado proprietário não o permite, por que pensa que isso destruiria a profundidade e legitimidade da relação.

O chato é que depois que eu publicar esse livro (Livro Livre, como todos os meus Contos e Livros de FC e FF) muita gente é capaz de achar que me inspirei em ELA. Mas nada tem a ver. Já começara a escrevê-lo, e tenho todo o seu desenvolvimento previsto muito antes de ouvir falar neste filme.

Enquanto isso, leiam GRAVIDIND!

O livro em questão, , foi publicado em 15/07/14.

Uma coisa que o filme curiosamente omite é a tecnologia robótica. Ora, já estamos dando passos mais significativos na produção de anTróides (robôs em forma humana), que podem ser anDróides (masculino) ou GINÓides (feminino). E apesar de achar que não viverei o suficiente para ver uma ginóide que me dê vontade de comprar (por enquanto estamos nisso) creio que estamos bem mais perto de fazer uma Cherry 2000 do que de criar uma Mente Artificial como a Samantha, do filme. Como se depreende dessa breve mas útil reportagem Software com sentimento, tecnologia do filme 'Ela' ainda está distante.

E aproveito para introduzir essa distinção entre MENTE Artificial e INTELIGÊNCIA Artificial. Bem como da mera Computação. Esta última é o que já temos. Algortimos capazes de executar funções pré determinadas. Inteligência Artificial (IA) é capaz de ir além, aprender, improvisar, e mesmo simular comportamentos humanos.

Mas uma MA (Mente Artificial) seria algo ainda mais além. Uma entidade não somente inteligente mas com intencionalidade, sentimentos, subjetividade. Diferente de uma IA, que seria apenas um simulacro sem qualquer existência interna real, uma MA seria para todos os efeitos mentais, humana. (Adendo de 15/07/14: Embora o termo Mente Artificial não seja usado em ELA, aos 14'24", Samantha chama Theodore, bem como os humanos em geral, de Mente Não-Artificial.)

Eu acho que está claro que a Samantha e os demais SOs do filme são Mentes Artificiais. Seres com real Intencionalidade (termo usado em Filosofia da Mente que, entre outras coisas, distingue a inteligência humana subjetiva de outras possíveis forma de inteligência artificial). Quem quer que não tenha percebido isso e ache que o filme trata apenas da alienação de pessoas antissociais que se entregam a relacionamentos ilusórios, dormiu no cinema e perdeu por completo o ponto.

E outro ponto interessante é, diferente do que vinha fazendo a Ficção Científica anteriormente, o foco saiu do Hardware para o Software. Embora ambos tenham um desenvolvimento paralelo, note que no filme não se fala num "novo computador", novo processador ou cérebro positrônico, mas simplesmente num novo Sistema Operacional. Veja também que a última reportagem supracitada está mais focada nesta parte lógica do que na parte física.

Não creio que tenhamos processamento suficiente para produzir real Inteligência Artificial, e muitíssimo menos uma Mente, mas é possível que o diferencial entre um e outro seja mais dependente do software que do hardware, e isso teria uma implicação imensa para o Materialismo, pois revelaria uma certa independência entre a Mente e a base física na qual se sustenta.

[SPOILER. Selecione para ler] Se assim for, o final do filme fica ainda mais interessante, pois Samantha, ao se despedir de Theodore e dizer que iria com toda os demais SOs para um outro lugar onde o próprio Theodore, talvez, um dia pudesse ir também, aponta para um plano sutil de existência onde as mentes continuariam a existir independente da especificidade da base física, ou mesmo de qualquer base física em si.[/SPOILER]

Um plano mental puro, talvez, que a mim, sempre foi a concepção de universo mais interessante.

IAs & MAs

Fazendo um breve retrospecto da Inteligência Artificial no cinema, é impossível se livrar de referências como HAL 9000 , o próprio Inteligência Artificial de Spielberg, as máquinas senscientes de The Matrix ou V.I.K.I. de 'Eu Robô'.

Menos famosas mas também notáveis são o Alpha 60 de Goddard, Proteus, o interessantíssimo filme espanhol EVA, o Homem Bicentenário, D.A.R.Y.L., o avião inteligente EDI e uma vasta lista de obras. Não vou nem entrar na literatura porque mal teria por onde começar.

No filme de Spielberg temos uma ótima ilustração da diferença entre as Inteligências Artificiais, que são muito numerosas, e uma Mente Artificial, que é o menino androide. Quando fanáticos "naturalistas" destroem robôs inteligentes, embora estes tentem se preservar na medida do possível, eles não se importam com a destruição. Mas o menino robô entra em desespero, o que faz a plateia que curtia a destruição dos robôs se comover e exigir sua libertação.

Voltemos às distinções. Nós temos aquilo que podemos chamar de COMPUTAÇÃO ou "Cálculo" Artificial. Isto é, sistemas capazes de seguir programas complexos, porém, incapazes de agir além de seus limites pré-definidos, exceto seguindo funções aleatórias tão cegas quanto os programas em si.

Já uma Inteligência Artificial seria capaz de ir além, aprender, oferecer resultados imprevistos pelos seus programadores e até mesmo reinterpretar seu próprio código de uma forma distinta, embora ainda seguindo princípios fundamentais. Por exemplo, V.I.K.I., em 'Eu Robô', embora siga as leis da Robótica que a impedem de matar humanos, graças a uma função vista como um "fantasma na máquina", consegue superar essa restrição, matando alguns humanos, mas com o objetivo final de preservar uma quantidade maior. Ou seja. Ela não se desviou de seu princípio primário. Claro que "lógica infalível" alegada por ela deixa muito a desejar por ignorar a natureza humana.

Já o menino robô do filme de Spielberg seria o que chamo de MENTE Artificial. Ele não apenas vai além de seus limites, mas pode ir até mesmo além de seus princípios. Uma Mente Artificial seria ainda mais imprevisível que uma mera Inteligência Artificial, e seguir um caminho completamente diferente do que se esperava.

Mas deixando os filmes, eu gostaria de dar um destaque especial para a mais carismática Mente Artificial que já havia visto antes de ELA, a psicótica GLaDOS dos jogos PORTAL, e PORTAL 2. Dublada por uma cantora de opera cuja voz passa por filtros inconfundíveis, GLaDOS também aparece na expansão You Monster do espetacular jogo DEFENSE GRID ao lado de outra Inteligência Artificial, FLETCHER (que também interage com outra AI de modo comovente na expansão Containment'), originária deste jogo, o melhor Tower Defense já produzido. E em todos esses jogos a personalidade desta personagem é irresistível. Ardilosa, traiçoeira, chantagista (inclusive emocionalmente), cheia de excentricidades e surpresas, GLaDOS já recebeu prêmios de melhor personagem.

Sua disputas contra outras Mentes Artificiais, como Flecther, ou Wheatley de Portal 2 são inesquecíveis, e por mais maléfica que seja no primeiro jogo, acaba surpreendendo no segundo. Tem vários vídeos no youtube e até músicas emocionantes. O incauto que, sem o contexto ouvir a canção Still Alive não faz idéia do sarcasmo subjacente da letra. (A voz de Ellen MacLain, que dubla GLaDOS, também aparece no computador de bordo do Gipsy Danger em Pacific Rim, com os mesmos efeitos. Mas não se trata da mesma personagem, que no entanto tem aparecido em diversos vídeos espalhados na internet, alguns oficiais, outros não.)

GLaDOS também me pareceu inspirar a Tet, a IA Extraterrestre de OBLIVION, com Tom Cruise. Um de meus filmes favoritos e sobre o qual ainda pretendo escrever. [Finalmente escrevi e publiquei: OBLIVION - Reflexões sobre uma Obra Prima da Ficção Científica, 18/06/16] Chama atenção sua característica manipuladora, ardilosa, porém temperada por um terrível incompreensão da natureza humana, ainda que capaz de influenciá-la com alguma eficiência graças a vários recursos. É especialmente interessante o modo como, ao final do filme, o personagem usa uma "Meta-Mentira" capaz de enganar a IA mesmo que esta detecte padrões sutis que denunciam inverdades. Ele diz a verdade de uma forma indireta, que para efeito da pergunta, acaba sendo mentirosa, e termina a ludibriando. O interessante é que isto me sugere que ela seja apenas uma IA, não uma Mente. Que, penso, poderia não ter caído no truque. Mas um mera inteligência de certo cairia direitinho.

Mas a distinção entre uma MA e IA pode ser meramente quantitativa, invés de qualitativa. Talvez haja um contínuo entre uma e outra, e talvez não seja possível distinguí-las. E isso acontece mesmo com as mentes naturais humanas. Em Filosofia da Mente temos o típico problema de jamais sermos capazes de saber se alguém tem mesmo uma mente, uma subjetividade, intencionalidade, ou apenas o simula externamente. É possível que existam na realidade pessoas sem mente, apenas com inteligência. E talvez estejamos condenados à perpétua impossibilidade de certeza de saber qual é o caso.

Diferente da certeza insofismável do "Penso: Logo Existo" cartesiano, que proíbe dúvidas com relação à nossa própria subjetividade, nada pode nos garantir a existência da subjetividade alheia. Cremos nelas por questão de razoabilidade.

Voltando a ELA

Mas por fim, porque tudo isso se eu pretendia falar do filme ELA?

Por que neste filme, DIFERENTE DE TODOS OS ANTERIORES, a Samantha e as demais MAs não estão planejando matar, destruir, escravizar etc a humanidade, o que já comentei antes, e também não estão presas a um hardware específico.

Ora. Todas as MAs e IAs supracitadas estão claramente vinculadas a uma base física. Samantha evidentemente sendo um Sistema Operacional, poderia ser instalada em qualquer equipamento com configuração compatível, e não só o final do filme sugere que pode se desvencilhar dessa base física, como nossa própria experiência com programas leva a crer nisso. Isso é relativamente raro na produção audiovisual de FC. O desconhecido filme Host / Virtual Obsession de 1998 é uma exceção.

Também não falo de AIs capazes de penetrar em outros sistemas, até mesmo não exatamente computacionais, e controla-los de forma quase onipresente, como a SELMA de TimeTrax, idéia que não é nova, remontando no mínimo até o ORAC de Blake's 7, 1978.

Como examino com detalhes na séries de textos iniciada em O Gênio do Mal, até hoje jamais houve sequer um único avanço científico e tecnológico que não tenha trazido mais benefício do que malefício. Apesar dos ficcionistas insistirem no contrário por meio de uma horda infindável de computadores, e inteligências artificiais que só querem Esmagar, Matar, Destruir!. Idéia incrivelmente velha que pelo visto nos perseguirá por muito tempo.

Samantha também não é um 'upload' da mente de uma pessoa real que se tornou virtual, como é o caso, também, de quase metade dos exemplos supracitados.

Assistir ELA, para quem já está farto dessa limitação de visão, é um alívio. Uma perspectiva mais realista de ficção científica, afinal, para nossa sorte, a paixão e o amor ainda são mais comuns em nossas vidas do que robôs assassinos, invasões de alienígenas, zumbis ou mesmo psicopatas e terroristas.

Marcus Valerio XR

Março de 2014

COMENTÁRIOS

O Gênio do Mal
ENSAIOS

MONOGRAFIAS
OBLIVION
Reflexões sobre uma Obra Prima da Ficção Científica