REFLEXÃO 02

 

 

ChatGPT: o que é e os desafios para o cristão

Tecnologias podem ajudar ao colocar-nos em contato com mais informação. Mas será que informações ou respostas prontas são tudo o de que precisamos?

Por Tiago Garros e Fernando Pasquini

Se você acompanha as redes sociais ou as notícias atuais, já deve ter ouvido falar do ChatGPT. Trata-se de um serviço disponibilizado por uma empresa de tecnologia em inteligência artificial (IA) chamada OpenAI, que em dois meses de lançamento chegou a 100 milhões de usuários ativos, tornando-se o serviço da web com maior número de adeptos em menor tempo.

Mas o que é o ChatGPT? A resposta técnica é que ele “é um modelo de linguagem de inteligência artificial que foi treinado com grandes quantidades de dados de texto da internet usando técnicas de machine learning, com o objetivo de ser capaz de gerar respostas em linguagem natural a perguntas e mensagens de usuários”. Na prática, o ChatGPT é um serviço em que você cria uma conta, faz uma pergunta sobre qualquer assunto, e o “robô virtual” oferece uma resposta plausível e convincente, como um ser humano faria. Por exemplo, a frase destacada acima foi a resposta para: “O que é o ChatGPT? Responda para leitores que não conhecem o serviço e não sabem muito a respeito da tecnologia envolvida”.

As possibilidades são inúmeras, e os resultados, surpreendentes. É possível dar instruções detalhadas sobre como você deseja as respostas (“escreva sobre tal coisa em 500 palavras”, por exemplo), pedir que ele manipule um texto que você mesmo escreveu (“torne este texto mais sucinto”) ou perguntar diretamente por fatos e informações. E o “conhecimento” do “robô”, bem, é basicamente a internet toda, pois ele foi treinado com textos disponíveis online.

Ao ter contato com esse recurso, pessoas das mais diversas profissões que envolvem escrita e pesquisa de informação ficaram preocupadas. O que será dos trabalhos escolares, por exemplo? E, claro, cristãos também expressaram suas preocupações. Se você pedir ao ChatGPT para escrever um sermão sobre “Jesus e a mulher samaritana” com cinco pontos e uma aplicação pessoal no final, ele fará, e de modo bastante convincente. (Sim, nós testamos, e ouvimos comentários de que o resultado foi melhor do que o que muitos pastores por aí fariam.) E aí? É Deus falando através do ChatGPT? Como saber se meu pastor não usou a ferramenta, preparando o sermão em cinco minutos, em vez de se debruçar sobre o texto, orar a Deus e pedir que seja consumido pela Palavra que pregará no próximo domingo?

Os impactos dessa e de outras tecnologias de IA serão muitos nos próximos anos, e, em parte, eles são semelhantes às questões ligadas à tecnologia que buscam automatizar cada vez mais tarefas dos seres humanos. Muito já se discutiu sobre os impactos da substituição do trabalho humano físico pelas máquinas durante a Revolução Industrial, e, com o advento da computação, também houve a automatização de muitas tarefas intelectuais (por exemplo, fazer contas).

A questão recorrente é se haverá um trabalho tipicamente humano e que nunca poderá ser reduzido a um procedimento mecânico ou computacional.

A antropologia teológica cristã pode responder que o ser humano é único na medida em que assume um papel e responde a um chamado dentro da ordem da criação e da história da redenção.

Somos chamados para refletir a imagem de Deus e glorificá-lo na medida em que respondemos a ele e ao contexto onde ele nos colocou, que inclui nossa constituição corporal, nossas comunidades, nossa história. Isso confere a nós uma originalidade que não pode ser reproduzida por um modelo que apenas espelha padrões linguísticos a partir de dados obtidos na internet.

E por mais que modelos de IA como ChatGPT se proponham a oferecer resultados de forma rápida, eficiente e descomplicada, precisamos reconhecer que nem sempre isso pode ser desejável. É verdade que, em um mundo acelerado, somos pressionados o tempo todo para ter o máximo de produtividade. Mas, em vez de simplesmente criar ferramentas para nos ajudar a produzir mais rápido, como faz o ChatGPT, não seria uma tarefa fundamental da presença cristã no mundo colocar em questão o próprio ideal de produtividade e eficiência máxima – ideal esse que o teólogo Jacques Ellul há décadas alertava que poderia se configurar em um projeto de redenção? Cristãos devem reconhecer que é no engajamento paciente – ou, poderíamos dizer, sabático – com as coisas que temos contato com a riqueza da criação e do Criador que ela revela. E isso inclui a produção de textos. Textos humanos, “artesanais” (se é que podemos já usar esta palavra), ainda revelam uma riqueza irredutível, que provém do próprio fato de refletirem o caráter de pessoas reais, situadas em comunidades e histórias reais. Sacrificar essa riqueza no altar da produtividade é um caminho perigoso a se tomar.

É claro que tecnologias como o ChatGPT podem nos ajudar bastante ao colocar-nos em contato com mais informação. Mas será que informações ou respostas prontas são tudo o de que precisamos? Um sermão no domingo é apenas informação ou parte de um relacionamento com uma comunidade? E será que tudo o de que precisamos são respostas, ou o conhecimento (incluindo o teológico) não inclui questões para as quais não existem soluções fáceis, incluindo divergência de opiniões? Na abundância de respostas, será que teremos sabedoria para fazer as perguntas corretas?

Outra discussão em curso sobre ferramentas de IA é a da sua confiabilidade. Isto é: caso a ferramenta falhe, quais serão as consequências, e quem será responsável por isso? No caso do ChatGPT, que se propõe a lidar com o conhecimento, pode ser que não sejamos capazes de detectar que as informações passadas sejam falsas, imprecisas ou incertas. Discussões assim já estavam em curso com relação ao uso de ferramentas de busca ou Wikipedia para fundamentar trabalhos acadêmicos. Sem a possibilidade de identificar as fontes da informação como fontes confiáveis, a produção do conhecimento passa a ser algo dúbio ou mesmo difícil de atribuir responsabilidades.

Estas são questões com que teremos de lidar nos próximos anos. Como disse John Culkin há algum tempo: “Nós moldamos nossas ferramentas, e nossas ferramentas nos moldam”. É preciso sabedoria para discernir em que medida nossas tecnologias nos ajudarão a sermos pessoas mais engajadas com Deus e com sua criação, ou nos afastarão disso.

• Tiago Garros, biólogo e doutor em teologia, é pesquisador na interface entre ciência e religião e coordenador do projeto Theolab (www.theolab.org.br). Colaborador da Associação Brasileira de Cristãos na Ciência (ABC2).

Fernando Pasquini é engenheiro da computação e doutor em sistemas dinâmicos, e faz pós-doutorado na área de filosofia da tecnologia na RWTH Aachen University, na Alemanha. Colaborador da Associação Brasileira de Cristãos na Ciência (ABC2).

Artigo originalmente publicado na edição 401 de Ultimato.