IA generativa: do pedido de moratória à urgência de regulamentação

Medo, insegurança, incerteza, especulação. Esses termos não são novidade para quem já acompanha o debate acerca do desenvolvimento e uso da inteligência artificial. A potencialidade da IA tem despertado questionamentos ao redor do globo, alguns críveis e outros alarmistas. Dentre as vozes do debate há magnatas, bilionários e até intelectuais de grande renome.

Em outro artigo, Hawking [3] voltou a afirmar que a tecnologia precisa ser controlada para que não acabe destruindo a espécie humana. O verdadeiro risco da AI não residiria em uma "essência maldosa", mas em sua competência [4]. Isso porque um sistema de IA pode ser extremamente eficaz em alcançar seus objetivos e, caso esses objetivos não estejam alinhados com os nossos enquanto sociedade, podemos ter sérios problemas. Também apoiaram esse discurso, dentre outros, Bill Gates e Elon Musk. Enquanto o primeiro (Rawlinson, 2015), há quase dez anos, já afirmava não entender o fato de as pessoas não estarem ainda preocupadas com a possibilidade de a AI ser uma ameaça, o segundo sempre esteve convencido de que nós devemos ter muito cuidado a respeito da inteligência artificial, sendo ela a maior ameaça à nossa existência. Para Musk, deveria haver regulamentação sobre a questão, seja em nível nacional ou internacional, apenas para termos certeza de que não faremos algo que ponha nossa existência em risco, quando da criação de sistemas de IA [5].

A tensão voltou à tona com a popularização da IA generativa [6] e com o fato de ela estar sendo utilizada em larga escala, após o lançamento do gerador de imagens Dall-E e do gerador de textos ChatGPT, ambos desenvolvidos pela OpenAI. Muitas das capacidades da IA ainda não eram perceptíveis pelo usuário comum, o que fazia com que o debate sobre o desenvolvimento e o uso da IA não recebessem tanta atenção. A facilidade de acesso à IA possibilitada por essas e outras aplicações inclusive fez com que o tema se tornasse recorrente na mídia.

Recentemente, em março deste ano, uma carta aberta denominada "Pausem Experimentos Gigantes de IA" [7] causou alvoroço no mundo da tecnologia — e fora dele — principalmente por ter sido assinada por milhares de indivíduos (hoje, na data de escrita deste artigo, a carta conta com 27.565 assinaturas), incluindo algumas "personalidades", como Elon Musk, Steve Wozniack, Yuval Harari e Tristan Harris.

A carta defende, entre outros pontos, que os sistemas de IA (com inteligência artificial que competiria com a humana) podem representar riscos profundos para a sociedade e a humanidade como um todo. Destaca-se como causa desses riscos, por exemplo, o fato de IAs estarem se tornando concorrentes diretos dos humanos em tarefas gerais. Assim, a carta pede que todos os laboratórios de IA parem imediatamente — por pelo menos seis meses — o treinamento de sistemas de IA mais poderosos que o GPT-4.

Apesar de a carta resgatar argumentos válidos de preocupações passadas, ela tem sido vista como polêmica por alguns, principalmente devido a dois pontos:

1. Possíveis intenções não declaradas: A carta é uma iniciativa do Future of Life Institute, organização que tem como um de seus consultores externos o bilionário Elon Musk. Além de já haver doado milhões de dólares para fins de pesquisa, o próprio Musk tem demonstrado interesse em investir no desenvolvimento da IA. Para muitos, esse fato por si só tornaria o pedido da carta suspeito. Ainda, Musk criou uma empresa de inteligência artificial denominada X.AI, para competir com a OpenAI [8] por meio de um sistema concorrente já batizado de TruthGPT [9]. Segundo o bilionário, o objetivo é uma IA que busque ao máximo a verdade e entenda a natureza do universo.

2. Prazo arbitrário: Não se sabe os motivos pelos quais a carta estipula um prazo de seis meses de pausa no desenvolvimento de IAs. O receio do desenvolvimento e uso da IA sem parâmetros regulatórios é real (e de certa forma antigo). Contudo, o prazo indicado na carta parece insuficiente para sanar a questão regulatória. Não sendo suficiente para melhor regular o desenvolvimento de IAs, retorna-se à questão: poderia o discurso de cautela (que é válido e necessário) estar sendo utilizado para alcançar concorrentes que, hoje, estão em vantagem na corrida mercadológica?

Uma conclusão, contudo, é clara: a tendência mundial em prol da regulamentação da inteligência artificial torna-se cada vez mais necessária. Pausar por completo o desenvolvimento de sistemas de IA parece impossível, mas há maneiras de mitigar riscos. Para amenizar os possíveis danos e consequências de sistemas de IA uma medida necessária é não nos demorarmos mais que o necessário na regulamentação da matéria. No Brasil, o debate sobre a IA se intensifica. Os frutos gerados incluem o Projeto de Lei n° 2.338, de 2023, que dispõe sobre o uso de inteligência artificial e se pauta na abordagem de riscos adotada também pela Europa na proposta do AI Act. Os benefícios da IA são muitos, mas não regular essa tecnologia adequadamente pode, de um lado, causar danos evitáveis (se pouco regulada) e, de outro, atrasar o desenvolvimento de aplicações tecnológicas relevantes (se excessivamente engessada).