Consultor Jurídico

Colunas

Limite Penal

Desejo made in machine? O fascínio da inteligência artificial

Por 

1. Introdução
Reduzir o imponderável ao preço da subtração do desejo pode ser o ponto forte, abusivo e obsceno que vende o discurso da inteligência artificial. O deslizamento do imaginário opera, assim, com novas vedetes a defender a maximização da razão e seu puritanismo, mediante a construção de algoritmos racionais que nos guardam e que, especialmente, decidem por nós. Para além das questões entusiastas, como em qualquer delírio, há um componente a ser sublinhado: a arregimentação de seguidores para algo que promete a ausência de enunciação, em que são todos atirados na inautenticidade de apenas consumir enunciados prontos. Daí a importância de se compreender o fascínio do discurso da inteligência artificial, a partir do discurso do mestre, em Lacan[1].

Essa pequena reflexão, então, parte da premissa de que o futuro da convivência com máquinas é incerto, embora ela cada vez mais invada nosso cotidiano. Aponta nesse sentido o impacto da transformação digital, a saber, o e-Mestre 4.0, em que a tecnologia passa a compor e impor, cada vez mais, um modo “garantido” de gozo.

A pretensão de construir máquinas inteligentes passa pelos desafios da tecnologia. Por isso, parece necessário buscar minimamente compreender o que se passa. No campo da inteligência artificial, o que se busca é discutir possíveis equivalências entre os mistérios do cérebro humano e as capacidades das máquinas. O desenvolvimento da inteligência artificial se deu por diversos caminhos e não cabe aqui fazer-lhe uma introdução. O que se pretende é indicar algumas variáveis capazes de autorizar o estabelecimento de diálogos com o campo social cotidiano, mais especificamente sobre a possibilidade da tomada de decisão e da predição dos resultados em aspectos cotidianos, como a demissão dos sujeitos do dever de decidir.

2. O novo caminho nem tão artificial da decisão humana
Para tanto, será necessário distinguir a inteligência artificial forte e fraca. Enquanto o objetivo da primeira (forte) é construir uma máquina que responda à inteligência geral humana, a segunda (fraca) busca emular a realização de tarefas específicas[2]. Enquanto na geral se busca um substituto, na especializada se pretende predizer aplicações individualizadas. O alvo das duas é diferenciado e, no que se refere ao estatuto do sujeito, a pretensão se vincula à compreensão fraca, dada a multiplicidade de fatores que podem, em potência, constituir-se em fatores da decisão humana no cotidiano. Nesse sentido, a partir da ciência da computação e da matemática, pretende-se construir máquinas/programas capazes de ampliar o horizonte de informações, do manejo de dados e da produção de decisões em conformidade com a normatividade.

Os problemas associados a esse objetivo são enormes, fundamentalmente porque a modulação de novas tecnologias depende de diversas premissas que não podem compor, por definição, o desempenho da máquina. Parte-se, assim, de diversas alusões e premissas teóricas que, uma vez alteradas, colocam por terra os resultados pretendidos. Daí que a leitura será sempre situada em face das premissas eleitas a priori, em conformidade com os pesquisadores. Será sempre a partir de hipóteses que se poderá construir um saber minimamente coerente, sem que as premissas, muitas vezes, possam ser demonstráveis empiricamente. Há uma doxa no centro da inteligência artificial aplicada ao comportamento humano. Esse fato, todavia, longe de ser um problema que desqualifica os resultados, situa-se no contexto do que se passa ordinariamente no campo da vida em sociedade.

O ambiente da linguagem é o campo pelo qual a temática será situada. A linguagem invocada se apresenta dividida em três campos: sintático, semântico e pragmático. A construção de algoritmos partirá das possíveis articulações dos diversos campos (sintático, semântico e pragmático), dando-se relevo ao fato de que teoria da decisão humana, minimamente realística, deverá buscar alicerces em mecanismos realisticamente pragmáticos, sob pena de se situar em espaço em que a articulação meramente lógica e de vinculação de conceitos (campo semântico) se mostra insuficiente, dado o fator contexto e suas diversas recompensas. O aparato a ser desenvolvido auxilia o processo de tomada de decisão, que guarda um coeficiente humano, especialmente no procedimento de atribuição de sentido cotidiano, mas não consegue dar conta da complexidade multifatorial do sujeito.

3. O apagamento do sujeito
O puritanismo da razão, aparentemente desprovida de desejo, recalcada no aparente, impõe um modo regular de ensinar a máquina a desejar sem desejo, ou seja, prevalece a normalização de quem estabelece os padrões. Com isso, sujeitos se alienam do lugar difícil de decidir, reeditando o lugar do Mestre, da Ciência, enfim, o lugar empulhador. De algum modo se pode dizer que com o big data, a internet e todo o aparato de vigilância, o cotidiano paranoico comparece de maneira avassaladora. Não se trata somente de dizer sobre o mundo, mas da substituição pela decisão made in machine. Em nome do saber, mais uma vez, a artimanha do supersaber racional aliena o sujeito. Como mecanismo de defesa, pode ser salutar no plano superficial, embora traga consigo a perfectibilização — vinda da nuvem — do aparente Outro, que decide por algoritmos desconhecidos, opacos, nos confins do obscuro mundo digital.

A par disso, sabe-se o fascínio que esse modo de apresentar certezas opera nos neuróticos obsessivos, ávidos por caminhos seguros e pouco duvidosos. O discurso paranoico aqui comparece para fazer andar a máquina que seduz. Ler, portanto, os desafios cotidianos pelo lugar dos discursos pode ao mesmo tempo demonstrar a impotência da máquina, bem assim desrealizar a fantasia dos neuróticos. Em todo caso, contudo, surge a necessidade de resgatar o desejo. Enquanto isso, a máquina aparentemente neutra deseja enunciados de fácil consumo em um mundo jogado na inautenticidade. A artimanha do poder ganha um novo aliado advindo das nuvens de informação e que confere um prometido caminho seguro. O fascínio decorre, assim, do lugar onde o discurso é proferido, apagando o lugar do sujeito, fomentando a perspectiva de falta que opera na estrutura neurótica, como Freud pontuou[3]. Entretanto, não se trata mais de instituições totais, mas de todas elas em um só lugar, que opera para além dos humanos e com alto grau prometido de racionalidade e onde as melhores decisões estão dadas e prontas para consumo. Claro que a capacidade de processamento de informações é um poderoso argumento em favor das máquinas, mas também sabemos que se precisa fraudar em qualquer teste de Turing.

O desafio é ético justamente porque a máquina não quer; ela é ensinada a desejar por nós e a nos ensinar como poderemos/deveremos desejar, alternando as coordenadas de um futuro incerto e imponderável, pelo aceno linear de uma conformidade.

4. Novos tempos da decisão made in machine
Em todo processo de decisão da vida cotidiana os desejos (conscientes e não conscientes) podem emergir e compor os fatores usados para tomada de decisão. Em geral, há um diálogo interno pelo qual os argumentos são ponderados e, por fim, decide-se. Muitas vezes sem a informação qualificada necessária, nem mesmo com o tempo suficiente de reflexão. Esse diálogo interno se deu, por exemplo, quando se colocou a questão: leio ou não este livro? Agora pode ser: continuo ou não a leitura? A contabilidade mental opera a todo o tempo. Os argumentos que se encontram disponíveis são o acervo informacional pelo qual tomamos decisões a partir de critérios não conscientes, conscientes e decorrentes do nosso mapa mental. Dar-se conta disso é o primeiro passo para que se possa melhorar a capacidade de decisão.

Isso porque, dadas as exigências cada vez mais velozes de decisão, criamos atalhos em que boa parte das variáveis levadas em consideração jamais são problematizadas. Compõem o arsenal teórico/mental que nos é desconhecido. Não é pelo fato de não nos percebermos pensando que somos incapazes de pensar. Somos capazes, narrativamente, de expor as razões de todas as decisões do ponto de vista retrospectivo. Tanto as boas como as más decisões, mesmo que seja para dizer: não era/parecia eu. O viés retrospectivo nos dá a possibilidade de articular uma versão minimamente coerente e consistente das nossas decisões. O problema é que a construção das razões é de trás para frente, a saber, do presente para o passado, autorizando-nos a justificar. O que se faz não é narrar o processo de decisão do passado para o presente, mas dizer as razões estabelecidas depois do evento. Chama-se isso de “viés retrospectivo” (Paola Wojciechowski, Gisele Tobler e Bianca Bez). As conversações internas, realizadas na contabilidade mental, por exemplo, não são reiteradas na totalidade e com a seleção dos argumentos que corroboram a decisão, elas a explicam. Associa-se a necessidade humana de equilíbrio interno, ou seja, de consonância cognitiva. A consonância cognitiva implica em estar ciente da necessidade contraintuitiva (Aury Lopes Jr e Ruiz Ritter).

Cabe sublinhar que a realidade que se interpõe ao sujeito que decide, longe de ser dada, é também construída. Assim, ela pode selecionar os fatores de leitura da realidade que lhes satisfaçam as pretensões/decisões. Além disso, todas as decisões são tomadas em face de um regime de informação imperfeita: nunca teremos todas as informações. O desconhecido é desconhecido por definição. Logo, decisões são tomadas em contextos situados no tempo e no espaço, limitados pela escassez constitutiva de informações. Reconhecer isso pode gerar o pânico decorrente de não se saber mais como decidir. Entretanto, pelo contrário, você sempre decidiu assim, mesmo que não reconheça, e continuará a decidir. Dar-se conta das suas limitações humanas pode ser uma ferida narcísica; constitui-se como condição de possibilidade para compreender a si próprio e os processos de decisão mais realísticos.

Os argumentos de autoridade funcionam como mecanismo de defesa, já que diminuem a ansiedade da decisão e serão a base das novas decisões dos aparatos artificiais. A responsabilidade é transferida à fonte do conteúdo decisório. O executor, assim, demite-se da responsabilidade da decisão em face do já-dado. O perigo do agigantamento desse modo decisório é o apagamento do sujeito no lugar de decidir, fulminando-se o lugar de enunciação. Transforma-se o sujeito em mero cumpridor de protocolos estabelecidos pelas máquinas.

Considerações finais
É impossível fechar-se os olhos para o avanço digital no tempo em que se descortinam novos desafios. O que costumava ser um trabalho analógico de interpretação, com a associação da inteligência artificial, passará a exigir novas interrogações éticas da psicanálise.

Otimismo ou pessimismo quanto à tecnologia precisam de uma tomada de posição. O futuro chegou e virar-lhe as costas é atitude ingênua. Será preciso estudar novos campos, em geral desconsiderados pela psicanálise. O que não se pode fazer é embarcar alienadamente na festa da decisão pronta. Resistir a isso, todavia, é ir contra a maré das “Almas Belas” (Zizek e Hegel[4]), gente que em nome do politicamente correto, da aceitação das ditas evoluções sociais, aceita deferir toda-e-qualquer-pretensão para não posar de reacionário, totalitário, ineficiente e conservador. Aceita o jogo do mercado, fabricando e vendendo decisões cotidianas conforme a moda da estação, encontra o novo palco digital em que a inteligência artificial pode ser articulada para sustentar os interesses não ditos.

Trata-se de sustentar um lugar, lugar que deveria ser de referência, lugar cuja função é a de dizer, muitas vezes, “não, disso eu não participo!” ou participo consciente dos seus efeitos. Entretanto, para que se possa dizer “não”, é preciso se autorizar responsável — embora o discurso do senso comum o desresponsabilize —, coisa que a grande maioria não sente, por estar eclipsada em nome do direito do conforto e da aparente eficiência. Enfim, a tecnologia chegou ao nosso cotidiano decisório, na modalidade de inteligência artificial fraca e, nesse contexto, precisamos dominar o modo pelo qual os algoritmos serão estabelecidos e dialogar sobre os seus critérios, sob pena de não entendermos o que se passa. O futuro chegou; a inteligência artificial está aí. Quem ficar parado não saberá de onde vem o tiro decisório.

Em todo caso, sabe-se que a máquina não pode desejar; até quando e como ela pode segurar o real que recalca será o desafio, por certo tamponado por um delírio coletivo e artificial, como todo desejo, porque aprendido.

P.S. Ficou curioso? Recomendo o livro Judiciário Exponencial, do parceiro Ademir Piccoli, que pode ser consultado aqui.


[1] LACAN, Jacques. O seminário, Livro 17: O avesso da psicanálise (1969-1970). Rio de Janeiro: Zahar, 1992.
[2] LÓPEZ DE MÁNTARAS BADIA, Ramon; MESEGUER GONZÁLEZ, Pedro. Inteligencia artificial. Madrid: CSIC/Catarata, 2017.
[3] Freud, Sigmund. Obras psicológicas completas da ed Standard Brasileira. O Futuro de uma ilusão. Rio de Janeiro: Imago; Freud, Sigmund Obras psicológicas completas da ed Standard Brasileira. O Mal-Estar na Civilização. Rio de Janeiro: Imago; QUINET, Antonio. Um olhar a mais..., p. 11: “Com Lacan, a psicanálise levanta o véu de horror que o gozo escópico provoca e nos faz descobrir que o olhar da Medusa está na posição de comando em nossa civilização, visto seu efeito de petrificação e fascinação”.
[4] ZIZEK, Slavoj. Menos que nada: Hegel e a sombra do materialismo dialético. Trad. Rogério Bettoni. São Paulo: Boitempo Editorial, 2013.

 é juiz em Santa Catarina, doutor em Direito pela Universidade Federal do Paraná (UFPR) e professor de Processo Penal na Universidade Federal de Santa Catarina (UFSC) e na Universidade do Vale do Itajaí (Univali).

Revista Consultor Jurídico, 16 de novembro de 2018, 8h05

Comentários de leitores

0 comentários

Comentários encerrados em 24/11/2018.
A seção de comentários de cada texto é encerrada 7 dias após a data da sua publicação.