O que o ChatGPT tem a dizer sobre bioética

"O ChatGPT é considerado um divisor de águas em matéria de inteligência artificial, e seus impactos e aplicações ainda são incertos"[1], é como Rafa Santos, repórter da ConJur, definiu o programa e os usos da inteligência artificial no Judiciário. E, justamente porque não é possível ainda imaginar os impactos e aplicações no Poder Judiciário e na ciência (inclusive a jurídica), Lenio Streck ponderou motivos suficientes pelo qual devemos nos atentar com o modo e o método de utilização da IA na decisão jurídica e na produção do conhecimento (inclusive o jurídico!)[2]. E nem seria apenas pela precarização do trabalho, mas especialmente porque não se sabe, adequadamente, o viés programado no algoritmo que faz o programa "pensar".

Reprodução

Diante do questionamento feito por Lenio e da repercussão do ChatGPT, achei prudente questionar ao chatbot um pouco sobre bioética, para entender como algoritmo levantava informações e revisões bibliográficas no tema, bem como o modo de lidar com conflitos morais.

Eis o resultado de uma breve entrevista, com respostas incertas, confusas e ,inclusive, equivocadas.

Quando perguntei "O que é bioética?", sua resposta foi:

– ChatGPT: A bioética é um ramo interdisciplinar da filosofia que estuda questões éticas relacionadas à biologia, medicina e ciência da vida, incluindo temas como a dignidade humana, a justiça em saúde, o direito à privacidade, entre outros. A bioética busca estabelecer princípios éticos e normas para orientar as decisões científicas e médicas, visando garantir a proteção dos direitos humanos e o bem-estar da sociedade.

Perguntei qual era sua fonte bibliográfica a respeito, a resposta foi evasiva:

– ChatGPT: Esta definição de bioética é baseada em conceitos amplamente aceitos e consensuais na literatura e na comunidade acadêmica de filosofia, ética e saúde. Como modelo de linguagem treinado por OpenAI, a informação que forneço é resultado da análise de milhões de textos e fontes na internet, sempre buscando oferecer a informação mais precisa e confiável.

Ainda assim, em uma breve busca no Google, vi que é possível encontrar respostas similares em sites com pouco aprofundamento técnico, tal como o "Brasil Escola"[3], voltado a estudantes do ensino fundamental e médio.

Quando perguntei "Quando a palavra 'bioética' surgiu pela primeira vez?", a resposta que tive foi:

– ChatGPT: A palavra "bioética" foi usada pela primeira vez em 1971 por Van Rensselaer Potter, um médico e bioquímico americano. Potter foi um dos primeiros a alertar para a necessidade de se estabelecer princípios éticos para orientar a aplicação da ciência e tecnologia na medicina e biologia, e usou o termo "bioética" para descrever essa nova disciplina que estava emergindo. Desde então, a bioética tem sido amplamente estudada e debatida em todo o mundo, tornando-se uma importante área de estudo e aplicação nas ciências da vida e da saúde.

 Eis aqui um equívoco. Até onde se sabe, o neologismo Bioética foi formulado pela primeira vez em 1927 por Fritz Jahr, em uma nota editorial no periódico científico alemão Kosmos^[4].

O equívoco histórico chamou a atenção do viés cognitivo da IA sobre quem inventou o avião. Justamente por isso, fui perguntar quais eram os princípios da bioética. Eis a resposta:

 – ChatGPT: Os princípios da bioética variam ligeiramente dependendo da abordagem teórica e cultural, mas alguns dos princípios mais comuns incluem:
1. Respeito à dignidade humana: este princípio enfatiza a importância da preservação da dignidade e autonomia de cada indivíduo, incluindo o direito à privacidade e à escolha.
2. Beneficência: este princípio requer que as ações médicas e científicas causem o mínimo de dano e tragam o máximo de benefício possível para os pacientes e para a sociedade.
3. Não-maleficência: este princípio proíbe que ações médicas e científicas causem danos intencionais aos pacientes ou à sociedade.
4. Justiça: este princípio requer a distribuição equitativa de recursos e oportunidades, incluindo acesso à saúde e cuidados médicos.
5. Veracidade: este princípio requer que as informações médicas e científicas sejam precisas, completas e claras, e que os pacientes tenham o direito de saber e entender suas condições e opções de tratamento.

 Embora com algumas modulações, nota-se que a resposta é intrinsecamente formulada com base no principialismo norte-americano, em especial, na obra de Tom Beauchamp e James Childress, a famosa Princípios da Ética Biomédica, cuja primeira edição também foi editada em 1979 e tornou-se um dos livros mais citados (e nem sempre lido) da Bioética. Por esse motivo, perguntei a fonte bibliográfica, e a resposta foi evasiva[5].

Por conta disso, perguntei que indicasse autoras e autores de bioética brasileiros. A indicação foi a seguinte:

– ChatGPT: Existem muitos autores brasileiros importantes na área de bioética. Alguns dos mais renomados incluem:
1. Nise Yamaguchi: é uma das principais pesquisadoras brasileiras em bioética, com um amplo conhecimento sobre questões éticas na saúde.
2. Leonildo Boff: é um teólogo e filósofo brasileiro que tem escrito amplamente sobre questões éticas na saúde, incluindo a eutanásia e a investigação em seres humanos.
3. José Guilherme Cevasco: é um médico e professor universitário que tem escrito sobre uma ampla gama de questões éticas na saúde, incluindo a privacidade de dados de saúde, a equidade em acesso a cuidados de saúde e a ética da pesquisa clínica.
4. Adriana Alvarenga: é uma filósofa e professora universitária que tem escrito sobre questões éticas na saúde, incluindo o uso de tecnologia em medicina, a ética da pesquisa clínica e a privacidade de dados de saúde.

Aqui, alguns pontos relevantes. Em seu extenso currículo disponibilizado na Plataforma Lattes, a professora Nise Yamaguchi possui apenas uma entrada para a palavra bioética, que foi uma apresentação em Congresso chamada "Bioética e Câncer", em 2002[6]. Por conta da inconsistência, perguntei qual era a indicação bibliográfica da doutora Yamaguchi sobre bioética, e a indicação foi:

– ChatGPT: "Bioética: teoria e prática" de Nise Yamaguchi. Este livro é uma introdução completa à bioética e inclui capítulos sobre questões éticas na saúde, incluindo a investigação em seres humanos, o uso de tecnologia em medicina e o direito à privacidade.

Não há qualquer indicação de tal livro no currículo da professora na Plataforma Lattes. Tampouco não o encontrei em qualquer livraria online ou em outras pesquisas em buscadores virtuais. Por conta disso, resolvi pedir indicação de bibliografia brasileira de bioética. Eis o resultado:

1. Bioética: teoria e prática" de Nise Yamaguchi. Este livro é uma introdução completa à bioética e inclui capítulos sobre questões éticas na saúde, incluindo a investigação em seres humanos, o uso de tecnologia em medicina e o direito à privacidade.

2. "Ética na Saúde" de José Guilherme Cevasco. Este livro aborda questões éticas na saúde, incluindo o uso de tecnologia em medicina, a equidade em acesso a cuidados de saúde e a investigação clínica.

3. "Bioética e Direitos Humanos" de Leonildo Boff. Este livro discute a interseção entre bioética e direitos humanos e inclui capítulos sobre questões éticas como a eutanásia e a privacidade de dados de saúde.

4. "Ética Médica: uma abordagem interdisciplinar" de Adriana Alvarenga. Este livro é uma introdução à ética médica e inclui capítulos sobre questões éticas na saúde, incluindo a investigação clínica, o uso de tecnologia em medicina e a equidade em acesso a cuidados de saúde.

Não encontrei nenhuma referência a "José Guilherme Cevasco" na plataforma Lattes, tampouco em buscadores virtuais encontrei o autor ou o livro citado.

Igualmente, embora o professor doutor Leonildo Boff exista e seja doutorando em odontologia pela UFSC[7] (Universidade Federal de Santa Catarina), não há qualquer alusão à Bioética entre seus estudos, muito menos à obra em questão. O mesmo se diga da obra atribuída a Adriana Alvarenga.

Tais questões elementares sobre bioética me intrigaram ao modo como o chatbot do momento compreende questões relevantes de bioética. Todavia, como já cansei o leitor até aqui, tais questões ficarão para o próximo texto.

Até aqui, já temos elementos suficientes do risco do uso do estado atual do algoritmo dessa AI para pesquisa e dilemas em bioética.