Voltar “ChatGPT não é Deus; só é bom fingir que está certo”

A influenciadora Catharina Doria tem chamado atenção para os riscos do uso indiscriminado de ferramentas de inteligência artificial generativa, como ChatGPT e Claude. Segundo ela, apesar da popularização dessas plataformas, é preciso cautela: os sistemas podem apresentar informações incorretas ou incompletas, além de estimular dependência cognitiva e a padronização do pensamento.

A crítica central da especialista está sintetizada na afirmação que dá título ao debate: “o ChatGPT não é Deus; só é muito bom em fingir que está certo”. Para Catharina, essas ferramentas funcionam a partir de probabilidades linguísticas, ou seja, não “pensam” nem compreendem o conteúdo das respostas — apenas preveem quais palavras devem vir em sequência com base em grandes volumes de dados.

Fundadora da comunidade The AI Survival Club, voltada ao letramento crítico em IA, ela aponta que o uso dessas tecnologias sem acompanhamento adequado pode trazer impactos relevantes, inclusive na educação. Na avaliação da especialista, o uso precoce por crianças pode comprometer o desenvolvimento de habilidades básicas, como leitura, escrita e pensamento crítico, ao substituir processos de aprendizagem por respostas prontas.

Catharina também alerta para os riscos associados à utilização dessas ferramentas em áreas sensíveis, como saúde, finanças e direito. Segundo ela, embora os sistemas possam oferecer respostas convincentes, não substituem profissionais qualificados. A orientação é que usuários evitem tomar decisões importantes com base exclusiva em respostas geradas por IA.

Outro ponto de preocupação envolve a privacidade e o uso de dados pessoais. Tendências nas redes sociais que incentivam o envio de fotos e informações para plataformas de IA podem contribuir para o treinamento de algoritmos sem o pleno conhecimento dos usuários. Isso inclui dados biométricos, como imagens faciais, que podem ser armazenados e reutilizados por empresas de tecnologia.

A discussão sobre vieses também ganha destaque. De acordo com a especialista, algoritmos podem reproduzir desigualdades presentes nos dados com os quais foram treinados, o que exige maior transparência das empresas desenvolvedoras.

Apesar das críticas, Catharina reconhece que a inteligência artificial pode ter aplicações positivas, como no monitoramento ambiental e no apoio a diagnósticos médicos. Ainda assim, defende que o avanço da tecnologia deve ser acompanhado de reflexão ética e maior conscientização por parte da sociedade sobre seus limites e impactos.

(Com informações do jornal O Estado de S.Paulo)