O cavalo de Troia: onde vamos parar com a inteligência artificial?

Era uma vez … Valho-me dessa expressão que, via de regra, introduz os contos fantásticos, porque permite, ou melhor, parece-me autorizar o uso da imaginação e da nossa verdade, sempre parcial e subjetiva. É assim que a percebo e a manipulo. A presente escrita foi construída a partir de uma live, que foi ao ar [1] no dia 27 de fevereiro do corrente ano. Dela participaram o professor Lenio Streck e o escritor Victor Drummond. O título da live era "ChatGPT diante dos direitos autorais". Não era a primeira vez que via e ouvia o professor Lenio [2] expressar a preocupação com o uso da inteligência artificial [3], mas a live foi o gatilho para esta reflexão que agora passo a desenvolver.

Ao ouvir os comentários, recordei o vírus, designado pela expressão Cavalo de Tróia, e, consequentemente, a história da Odisséia e Ilíada. Permito-me aqui retomá-la. A história inicia na Grécia Antiga. Período homérico (IX a.C. – VIII a.C.). Época de Helena, filha de Zeus e da rainha Leda. Helena era considerada a mulher mais bela da Grécia. Foi a protagonista da Guerra de Tróia. Conta-se que Páris, Príncipe de Tróia, apaixonou-se por Helena, que era casada com Menelau. Páris raptou Helena, o que provocou a ira de Menelau e, consequentemente, a Guerra de Tróia, que perdurou por dez longos anos. A estratégia utilizada por Menelau para recuperar sua esposa foi engenhosa. Como presente de paz, entregou um enorme cavalo oco de madeira e lá foram colocados seus homens que, à noite, sorrateiramente saíram de dentro do cavalo e atacaram o inimigo. Dessa maneira, os aqueus conseguiram entrar em Tróia, surpreender seu adversário, os troianos, e vencer a batalha.

Agora, voltemos ao Era uma vez…

Era uma vez uma sociedade, cheia de seres humanos e vivos (alguns, nem tanto, mas outros muito), mas também cheia de máquinas e tecnologia. Esses seres humanos e vivos diziam buscar e querer viver em uma sociedade justa, mas mais do que isso: buscavam facilitar a vida laboral, educacional, afetiva, emocional, sentimental, dentre alguns setores de suas vidas. Para isso, passaram a criar algoritmos, plataformas digitais e outras tantas alternativas para a comunicação e acesso on-line. Todavia, o uso inadequado da inteligência artificial tira do ser humano a capacidade de pensar, de criar, de se construir e reconstruir. Nesse espaço da internet, salvo exceções, a pesquisa se resume a procurar, recortar e colar informações. No entanto, é uma atividade mecânica, sem reflexão. Feito isso, dá-se o trabalho como pronto e, consequentemente, de acordo com o senso comum [4], resta tempo livre para usufruir. Pergunta-se: tempo livre para quê? Usufruir o quê?

A sociedade tecnologizada está nos instigando à nesciência, e nós, os néscios [5], não estamos percebendo os efeitos negativos desse processo em nossa capacidade intelectiva. O discurso dominante estimula e faz-nos acreditar que uma plataforma que escreve textos e realiza trabalhos é algo maravilhoso! É evolução! É tecnologia! Aliado a esse argumento, existe um outro de aparência irrefutável, qual seja, o ser humano não vai se perder nesse processo, pois é ele quem faz o programa, elabora as cadeias e insere os algoritmos! Como assim? O ser humano já está se perdendo. Se perdendo dele mesmo ao acreditar e defender o uso indiscriminado de tais plataformas. Se a Guerra de Tróia teve sua origem no rapto de Helena, a crise da sociedade contemporânea, em que o uso exacerbado da tecnologia sequestra a possibilidade de desenvolvimento de determinadas capacidades cognitivas do ser humano e de sua subjetividade, tem, dentre suas causas, o acolhimento da acomodação ou da preguiça. O Cavalo de Troia está dentro de nossas casas na tela do computador!

Streck, ao alertar sobre os perigos do uso do ChatGPT, assim se manifesta:

"[…] um produto da mediocridade do mundo, o resultado do venire contra factum proprium inerente à humanidade pós-moderna: ela joga informações quaisquer na rede; empilha informações, dados, textos. O robô, produto da humanidade, pega tudo e, sobranceiro, responde às demandas. Pronto: a humanidade tira proveito de sua própria torpeza. Ou de sua própria mediocridade" [6].

Bolzan de Morais faz o link entre o processo tecnológico e a lógica mercadológica capitalista. Destaca que, hodiernamente, tanto as instituições político-jurídicas, quanto as relações sociais e subjetividades subjazem dentro da lógica mercadológica capitalista. Nas palavras do autor,

"[…] se refunda com a viragem tecnológica promovida pela passagem do analógico para o digital, do capitalismo de produção para o financeiro e, agora, para aquele de plataforma, de dados, em tudo distinto, embora não se diferencie em termos de processo de acumulação financeira e gestão de pessoas e bens" [7].

A questão que se põe, como bem destaca Streck, reside no accountability hermenêutico [8], ou seja, quais são os critérios utilizados ou algoritmos que definem o que é certo ou errado?

Sobre o tema, Nelson Saldanha pondera

"[…] até que ponto confiar na máquina, o entregar-lhe a combinação das informações e o condicionamento das soluções, envolverá o perigo de o espírito humano abdicar de milenar tarefas como emitir normas, julgar e decidir?" [9]

O ser humano deve se comprometer em compreender e interpretar os fatos da realidade. Armazenar, alimentar e criar algoritmos não é suficiente para dar conta da complexidade envolvida nas inter-relações humanas, pois a máquina não trabalha com subjetividades, e palavras têm significado, significado este também envolto em subjetividades e contextos diversos. Dito de outra forma, as palavras não são transparentes em seus significados, pois dependem das circunstâncias de enunciação que envolvem prioritariamente as subjetividades, em confronto ou em concerto, no jogo dialético.

Gadamer diz que a dialética é

"[…] a arte de conduzir uma conversa, e isso inclui a arte de conduzir essa conversa consigo mesmo e de perseguir o entendimento consigo mesmo. É a arte de pensar, que equivale à arte de indagar o significado do que se pensa e se diz" [10].

A compreensão [11] demanda o reconhecimento do outro.

O linguista Benveniste assinala que é na linguagem e pela linguagem que o homem se constitui como sujeito; porque só a linguagem fundamenta a realidade, na sua realidade que é a do ser, o conceito do "ego" [12]. Mas para que isso ocorra, é necessário a instauração de um TU. O "ego" que diz EU só o diz em função da existência do outro. Essa condição do diálogo, qual seja, a da existência do EU e do TU que se dá por contraste e tem o caráter de reversibilidade — em situação de enunciação, há a troca dessas posições —, é pré-requisito para que se estabeleça o regime de co-enunciação (enunciar juntos) e a devida (ou possível) (inter) compreensão entre os sujeitos com relação aos significados colocados em jogo. A máquina não consegue integrar o EU e/ou o TU, pois usa algoritmos e probabilidades [13].

A revolução tecnológica está acontecendo (ou já aconteceu), e o busílis está nas TICs (tecnologias da informação e da comunicação), ou seja, nos programas e máquinas que geram um conhecimento apartado das condições de ordem subjetiva. Quais as consequências? Isso o tempo dirá. Mas suponho que serão negativas, com implicações danosas para as capacidades cognitivas ligadas à linguagem, à organização do pensamento, à percepção do real e à crítica e julgamento dos fatos.

---

Referências:

BENVENISTE, Émile. Da subjetividade na linguagem. In: BENVENISTE, Émile. Problemas de Linguística Geral I. Campinas, SP: Pontes, 2005 [1958a].

BOLZAN DE MORAIS, José Luis. Eficientismo, novas tecnologias e o (fim do) consenso. Isso pode parecer (ser) um manifesto. In: NUNES, Dierle et all (orgs.). DIREITO PROCESSUAL e tecnologia: Os impactos da virada tecnológica no âmbito mundial. São Paulo: Editora Juspodivm, 2022.

GADAMER, Hans-Georg. Verdade e Método II. Petrópolis, RJ: Vozes, 2002.

Programa Direito e Literatura. Disponível: https://m.youtube.com/watch?v=VrM-QtSh57Y.

SALDANHA, Nelson. Apresentação. In: PIMENTEL, Alexandre Freire. O direito cibernético: um enfoque teórico e lógico-aplicativo. Rio de Janeiro: Renovar, 2000.

STEIN, Ernildo. A caminho do paradigma hermenêutico: ensaios e conferências. 2ª ed. Ijuí: Ed. Unijuí, 2017.

STRECK, Lenio Luiz. O ChatGPT, a classe dos inúteis e o cão que empurrava as crianças no rio! Disponível em: https://www.conjur.com.br/2023-fev-23/senso-incomum-ia-classe-inuteis-cao-empurrava-criancas-rioecnologia?. Acesso em: 28 fev. 2023.