Pesquisadores da Microsoft e da Universidade Carnegie Mellon recentemente publicaram um estudo sobre como o uso de IA generativa no trabalho afeta as habilidades de pensamento crítico.
“Usadas de forma inadequada, as tecnologias podem resultar na deterioração das faculdades cognitivas que deveriam ser preservadas”, afirma o artigo.
Quando as pessoas dependem da IA generativa no trabalho, seu esforço se desloca para verificar se a resposta da IA é boa o suficiente para ser usada, em vez de utilizar habilidades de pensamento crítico de ordem superior, como criar, avaliar e analisar informações. Se os humanos só intervêm quando as respostas da IA são insuficientes, então os trabalhadores são privados de “oportunidades rotineiras de praticar seu julgamento e fortalecer sua musculatura cognitiva, deixando-os atrofiados e despreparados quando as exceções ocorrem”.
Em outras palavras, quando dependemos demais da IA para pensar por nós, ficamos piores em resolver problemas por conta própria quando a IA falha.
Neste estudo com 319 pessoas que relataram usar IA generativa pelo menos uma vez por semana no trabalho, os entrevistados foram questionados sobre três exemplos de como usam a IA generativa no trabalho, que se enquadram em três categorias principais: criação (como escrever um e-mail formal para um colega, por exemplo); informação (pesquisar um tópico ou resumir um artigo longo); e conselho (pedir orientação ou fazer um gráfico a partir de dados existentes). Em seguida, foram questionados se praticam habilidades de pensamento crítico ao realizar a tarefa e se usar IA generativa os faz usar mais ou menos esforço para pensar criticamente. Para cada tarefa mencionada pelos entrevistados, também foram questionados sobre sua confiança em si mesmos, na IA generativa e em sua capacidade de avaliar as saídas da IA.
Cerca de 36% dos participantes relataram que utilizaram habilidades de pensamento crítico para mitigar potenciais resultados negativos do uso da IA. Um participante disse que usou o ChatGPT para escrever uma avaliação de desempenho, mas verificou duas vezes a saída da IA com medo de enviar algo que poderia suspendê-lo. Outro entrevistado relatou que teve que editar e-mails gerados pela IA que enviaria ao seu chefe - cuja cultura enfatiza mais a hierarquia e a idade - para não cometer uma gafe. E, em muitos casos, os participantes verificavam respostas geradas pela IA com pesquisas web mais gerais de recursos como YouTube e Wikipedia, possivelmente derrotando o propósito de usar a IA em primeiro lugar.
Para os trabalhadores compensarem as deficiências da IA generativa, eles precisam entender como essas deficiências acontecem. Mas nem todos os participantes estavam familiarizados com os limites da IA.
“Possíveis danos subsequentes das respostas da GenAI podem motivar o pensamento crítico, mas apenas se o usuário estiver conscientemente ciente de tais danos”, diz o artigo.
De fato, o estudo descobriu que os participantes que relataram confiança na IA usaram menos esforço de pensamento crítico do que aqueles que relataram ter confiança em suas próprias habilidades.
Embora os pesquisadores evitem dizer que ferramentas de IA generativa o tornam mais burro, o estudo mostra que uma dependência excessiva dessas ferramentas pode enfraquecer nossa capacidade de resolver problemas de forma independente.
