Consultor Tributário

O poder do ChatGPT: os segredos de uma revolução silenciosa

Autores

  • George Marmelstein

    é juiz federal e doutor em Direito pela Universidade de Coimbra.

  • Hugo de Brito Machado Segundo

    é mestre e doutor em Direito professor da Faculdade de Direito da Universidade Federal do Ceará (de cujo programa de pós-graduação — mestrado/doutorado — foi coordenador) professor do Centro Universitário Christus (graduação/mestrado) membro do Instituto Cearense de Estudos Tributários (Icet) e da World Complexity Science Academy (WCSA) advogado e visiting scholar da Wirtschaftsuniversität em Viena (Áustria).

13 de setembro de 2023, 9h19

"Máquinas são para respostas;
seres humanos, para perguntas"[1]
Kevin Kelly

Aos poucos, um texto bem escrito surge na tela. É uma análise detalhada de um processo jurídico, contendo a descrição dos fatos, os pontos controvertidos, a questão central, as normas aplicáveis, os argumentos das partes e os respectivos pedidos. A profundidade da resposta daria a entender que o material foi elaborado após horas de pesquisa meticulosa e redação cuidadosa por um jurista experiente. No entanto, o texto foi produzido pelo ChatGPT em poucos segundos. Sim, poucos segundos.

Spacca
Parece um futuro distante, mas não é. Esse já é o dia a dia de muitos juristas, inclusive juízes e juízas, que estão sendo treinados para usar o ChatGPT de forma cuidadosa, ética e eficiente. Desde o início do ano, estamos ministrando um curso de escrita jurídica com o ChatGPT, credenciado pela Enfam (Escola Nacional de Formação e Aperfeiçoamento de Magistrados), em que mostramos as potencialidades, os limites e os riscos do uso da inteligência artificial generativa.

No curso, ensinamos não só a teoria por trás do ChatGPT, mas sobretudo a sua correta aplicação prática. E isso vai muito além da melhoria da redação jurídica, correção de erros gramaticais ou produção de minutas. Dominando a ferramenta de modo adequado, sobretudo no modo interpretativo e interativo, é possível usar o ChatGPT para orientar na formulação de quesitos, propor possíveis perguntas em audiência, ajudar na valoração de provas textuais, mapear argumentos, estruturar o pensamento com layouts configurados pela finalidade, fornecer análises jurídicas preliminares, gerar ementas ou relatórios de modo automático, inserir figuras de estilo e de retórica para melhorar a elegância do texto, aprimorar o poder de persuasão, construir hipóteses contrafactuais e mostrar diversas perspectivas de um problema.

Tudo isso nos leva a algumas inquietações: esse uso abrangente do ChatGPT na atividade jurídica tende a atrofiar as nossas capacidades cognitivas ou, em vez disso, estamos abrindo um novo mundo de possibilidades para expandir o pensamento? Estamos colocando em risco a profundidade de nossa própria análise ao permitir que uma máquina contribua com sugestões? Será que isso não irá gerar uma preguiça mental e uma dependência tecnológica que nos deixará incapacitados de pensar criticamente sem o auxílio da inteligência artificial?

A reposta é sim e não.

Para a maioria, o ChatGPT será, de fato, apenas uma muleta para o pensamento, um guru idolatrado que substituirá o raciocínio, o esforço de pesquisa, a reflexão crítica e as habilidades de escrita. Para uns poucos, o ChatGPT será uma asa para o pensamento, uma ferramenta que irá expandir a mente ao invés de limitá-la.

A proposta do curso é ensinar a usar o ChatGPT como uma extensão da própria mente, possibilitando que as ideias sejam produzidas num fluxo acelerado, criando tempo e energia mental para que possamos dedicar ao pensamento mais profundo, mais humano e mais personalizado. É aqui que o ChatGPT pode servir como uma asa para o pensamento, elevando nossas capacidades a novas alturas e abrindo diversos horizontes cognitivos, como se fosse um parceiro intelectual sempre disposto a ajudar e a nos poupar de tarefas mais burocráticas.

Se bem usado, o ChatGPT é capaz de nos fazer enxergar nossos pontos cegos, ampliando nosso campo de visão com insights inovadores, contra-argumentos inesperados e pontos de vista diferentes. Do mesmo modo, ele é capaz de colocar em ordem as nossas ideias mais caóticas, tornando-se um instrumento valioso para clarificar a mente, sistematizar o conhecimento e planejar o passo seguinte. E talvez o mais importante: a sua capacidade de decodificar textos complexos, em qualquer língua, e traduzi-los e explicá-los em uma linguagem mais simples, desempenha um papel libertador no acesso ao conhecimento, tornando-nos potenciais consumidores de uma biblioteca universal, sem barreiras linguísticas e sem os naturais ruídos de comunicação que impedem a plena assimilação do saber. E isso já é realidade.

Spacca
Se você já usou e se frustrou com o ChatGPT, talvez desconfie de tamanho otimismo. E você não está totalmente errado, pois, nas mãos de quem não domina, a ferramenta tem muitos riscos, falhas e limitações. O uso "amador" do ChatGPT tende a gerar textos escritos em linguagem artificial, com um conhecimento superficial, repletos de informações falsas, equívocos básicos ou ideias sem sentido.

Mas veja: a máquina responde a comandos humanos. Se a resposta é insatisfatória, o problema não é da máquina; é de quem pergunta! A rigor, o ChatGPT é como um pincel que pode gerar rabiscos toscos ou pintar a Capela Sistina. O resultado depende de quem o manipula.

Para dominar a ferramenta, é preciso entender como ela funciona. Ao contrário do que se pensa, o ChatGPT não é uma ferramenta de busca como o Google. Enquanto o Google processa informações em um modo "fotográfico", entregando uma resposta que é um retrato do conhecimento produzido no passado, o ChatGPT opera de uma maneira inteiramente diferente. Ele não reproduz o passado; ele cria o futuro. A resposta que ele fornece é uma simbiose entre o vasto conhecimento que serviu de base para sua aprendizagem e o comando específico alimentado pelo usuário.

Quando o ChatGPT volta no tempo para processar o comando dado pelo usuário, ele não está simplesmente buscando um link em sua base de dados, como faria um mecanismo de busca fotográfico. Em vez disso, ele ativa um modo de processamento “em mosaico”, como se misturasse textos de várias fontes diferentes, relacionadas às palavras-chave incluídas na entrada (input), para identificar um padrão e produzir uma resposta estatisticamente plausível. O que é produzido não é um reflexo do que já foi dito ou feito. É algo novo, diferente, inédito e original. É esta capacidade de criar que define o ChatGPT e o diferencia de tudo o que já foi desenvolvido até agora.

 Em termos muito simples, o texto elaborado por ele é como um que seja produzido com o bloco de notas de um celular, caso o usuário digite uma primeira palavra e em seguida clique naquela sugerida pelo corretor como sendo a mais provável para sucedê-la: será criado um texto inédito, que fará algum sentido, mas completamente aleatório e, no caso, com pouca conexão com a realidade.

No caso do ChatGPT trata-se de algo muitíssimo mais complexo, que leva em conta a probabilidade de palavras sucederem a todas as usadas no prompt e na janela de contexto (e não só a última usada, como no caso do celular), e tem como parâmetro para definir essa probabilidade de palavras todos os textos disponíveis na internet até 2021 (e não só as palavras usualmente empregadas pelo usuário do celular em mensagens anteriores).

Mas não deixa de ser uma forma de criar textos organizando palavras de forma probabilística, desprovida de consciência e de intencionalidade. Seja como for, o que é produzido não é um reflexo do que já foi dito ou feito. É algo novo, diferente, inédito e original. É esta capacidade de criar que define o ChatGPT e o diferencia de tudo o que já foi desenvolvido até agora.

Por outro lado, justamente por não ser um simples eco do conhecimento existente, mas um remix de padrões enriquecidos pelos inputs do usuário, o ChatGPT também é, por natureza, uma máquina de alucinações. Rigorosamente falando, todo texto extraído do ChatGPT é uma alucinação, uma construção probabilística que pode ou não corresponder à realidade. Isso é o ponto forte e o ponto fraco do ChatGPT. É o que vai diferenciar o usuário experiente do usuário amador.

O usuário amador só conhece um modo de usar o ChatGPT: o modo extrativo. Nesse modo, o ChatGPT será solicitado a construir sua resposta levando em conta apenas a sua base de aprendizagem, que foi atualizada até setembro de 2021. Ou seja, a máquina irá "extrair" a resposta do conjunto de dados estáticos que ele aprendeu no passado. A chance é que a resposta seja genérica, incompleta, irrelevante, desatualizada ou alucinada, pois é justamente aqui que o ChatGPT irá criar textos aleatórios, misturando várias fontes de informações relacionadas às palavras-chave indicadas pelo usuário.

Por exemplo, se você pede um precedente sobre liberdade de expressão, o ChatGPT irá consultar sua base de aprendizagem e irá gerar um texto descrevendo um precedente que parece real, mas que, na realidade, nunca existiu. É da natureza dele fazer isso.

Por isso, o usuário experiente sabe que nunca pode confiar no modo extrativo para buscar informações factuais. Pedir fatos, nomes, datas, números, leis, precedentes, referências bibliográficas, cálculos ou qualquer resposta que exija precisão é a linha de produção da fábrica de alucinações. Toda informação factual fornecida pelo ChatGPT, no modo extrativo, é potencialmente falsa, mesmo quando solicitamos respostas precisas, verdadeiras e conservadoras.

Então para que serve o modo extrativo? Basicamente para gerar conceitos, explicações, ideias, argumentos e informações gerais ou muito conhecidas. Ou seja, só vale usar esse modo como ponto de partida para obter respostas mais abstratas que não exijam um elevado grau de especificidade, de atualidade ou de precisão. E que não se reportem diretamente à realidade fenomênica, exterior à linguagem e apenas referida por ela.

Se o objetivo é produzir textos baseados em fatos verdadeiros e atuais, o segredo é usar o modo interpretativo, inserindo no input as informações desejadas. Nesse caso, o ChatGPT irá decodificar esses dados, usando a sua base de aprendizagem apenas como uma lente interpretativa. Isso permite, inclusive, que o ChatGPT incorpore em sua resposta textos que não estão na sua base de aprendizagem, como um novo artigo científico, um precedente ou uma lei recém aprovada.  

O modo interpretativo, incrementado com as interações do usuário, é a principal forma de obter respostas mais ricas, verossímeis e personalizadas. Se você é um usuário experiente, esse é o modo que você quer usar quando as questões são complexas e requerem um entendimento mais aprofundado, atualizado e preciso.

Porém, mesmo o modo interpretativo está limitado pela janela de contexto. Isso significa que, se o input envolver textos muito longos, você terá que ser meticuloso em manter os pontos relevantes dentro da janela de contexto. Por exemplo, se você pede para o ChatGTP analisar uma petição com muitas páginas e, logo em seguida, insere no diálogo outro texto longo, a chance é que as informações iniciais sejam esquecidas, porque o rastro da janela de contexto vai se apagando na medida em que a conversa se estende.

Além de ensinar como não cair nessas armadilhas, o curso procura mostrar ao usuário como construir comandos eficientes. O segredo é perceber que há quatro camadas que irão direcionar a resposta: a) camada de comando; b) camada de contexto; c) camada de estilo; d) camada de conteúdo.

Não cabe aqui aprofundar cada uma dessas camadas. O importante é perceber que o usuário amador geralmente não consegue obter respostas de qualidade porque não consegue construir comandos de qualidade. Quando dominamos esses elementos, somos capazes de produzir respostas sob medida, com um conteúdo de alta qualidade e um estilo de excelência, inclusive mimetizando a nossa própria voz, como você pode observar pela leitura deste artigo. Sim, este texto foi produzido com a ajuda do ChatGPT.

Um texto produzido com o auxílio do ChatGPT é diferente de um texto produzido pelo ChatGPT. O texto produzido pelo aplicativo é um em que a participação humana é mínima. Já o produzido com o auxílio do ChatGPT é um texto essencialmente humano, pois o input do usuário não apenas inicia o processo, mas também direciona, modula e qualifica a saída gerada pelo sistema. Em outras palavras, o humano está no controle da conversa, escolhendo cuidadosamente as perguntas, fornecendo o contexto e o estilo, e, acima de tudo, interpretando, avaliando e aprimorando as respostas geradas.

E aqui já podemos caminhar para o final para dizer que o ChatGPT é uma ferramenta que pode muito, mas não pode tudo. E como qualquer ferramenta ele não tem intenção, nem consciência, nem vontade própria. A tendência humana de a tudo antropomorfizar aliada à capacidade da ferramenta de produzir textos em linguagem natural fazem com que as pessoas imputem a ele condutas como mentir, enganar ou compreender.

Mas a ferramenta só faz o que o usuário manda. Por isso, a sua eficácia é diretamente proporcional ao nível de habilidade do usuário. O que faz a verdadeira diferença não é a máquina, mas a mente humana. Uma mente mediana ou preguiçosa produzirá textos razoáveis, mas sem graça, apenas mais do mesmo. Uma mente afiada levará o conhecimento humano a patamares nunca alcançados, produzindo textos de extrema qualidade com conteúdo de excelência.

Você, como usuário, enfrenta algumas escolhas cruciais: utilizar o ChatGPT como uma extensão de sua própria mente ou transformá-lo em uma muleta para a suas limitações cognitivas; tratá-lo como uma luneta para enxergar mais longe ou como um filtro distorcido através do qual você enxerga o mundo; em outras palavras, dominar o ChatGPT ou ser dominado por ele. A decisão é inteiramente sua.

P.S.: Usar o ChatGPT parece fácil, pois ele é uma ferramenta de geração de textos que entende e interpreta a linguagem natural. No entanto, para extrair o máximo de seu potencial e aplicá-lo de maneira segura e eficaz no direito, é preciso compreender com mais profundidade os seus recursos, as suas camadas e os seus fundamentos. É justamente esse domínio que o Curso de Escrita Jurídica com o ChatGPT se propõe a fornecer, mostrando como os juristas poderão extrair o melhor dessa poderosa ferramenta, sem cair nas suas armadilhas.

 


[1] No original: "Machines are for answers; humans are for questions". Extraído de KELLY, Kevin. What technology wants. Penguin, 2011.

Autores

  • Brave

    é juiz federal no Ceará, doutor em Direito pela Universidade de Coimbra e mestre em Direito Constitucional pela UFC.

  • Brave

    é mestre e doutor em Direito, professor da Faculdade de Direito da Universidade Federal do Ceará (UFC), ex-coordenador (2012/2016) do programa de pós-graduação (mestrado/doutorado) da UFC, professor do Centro Universitário Christus (graduação/mestrado), membro do Instituto Cearense de Estudos Tributários (Icet) e da World Complexity Science Academy (WCSA), advogado e visiting scholar da Wirtschaftsuniversität, em Viena, na Áustria.

Tags:

Encontrou um erro? Avise nossa equipe!