L ‘inteligência artificialinteligência artificial – e mais especificamente seus últimos filhos, Grandes modelos de linguagem (ou LLM) como ChatgptChatgpt de Openai, Gêmeos de GoogleGoogle Ou Claude d’Antrópica – cristaliza muitos debates. Se alguns são legítimos e relevantes em vista das questões, outros são mais de pânico moral. Este é o caso de uma crônica recente publicada em Os ecosassinado Gaspard Koenig e Soberly intitulado ” Como chatgpt grade nosso cérebro ”, que empresta um estudo científico para ler Arxiv Conclusões … que ela simplesmente não formula.
Para Albert Moukheiber, Doutor em Neurociência e Psicólogo Clínico, tudo começa em um tópico do Twitter: “Essa desinformação em torno de uma suposta atrofia do cérebro vem na minha opinião de um tópico publicado por um empresário de tecnologia que provavelmente caiu na armadilha estabelecida pelos pesquisadores … ao resumir o artigo por um LLM.» » De fato, os cientistas escaparam, em sua pré-publicação (o estudo ainda não foi relembrado por colegas), instruções especificamente destinadas a modelos de idiomas, para evitar esse tipo de deriva.
“A crônica de Gaspard Koenig ocupa muito o que é dito neste tópico TwitterTwittero que sugere que ele não leu o estudo. E isso mostra rapidamente quando você conhece um pouco a neurociência: é simplesmente impossível observar uma atrofia cerebral com um eletroencefalograma. Isso requer medidas estruturais na ressonância magnética. Devemos parar de fazer artigos científicos dizem o que eles não dizem ”Deplores Albert Moukheiber.
O que o estudo realmente diz sobre o vínculo entre o uso do chatgpt e nosso cérebro
Felizmente, várias mídias – como Informações da França Ou O mundo – transmitiu este estudo com mais rigor. Então, vamos voltar ao que ela realmente nos ensina e o que é, além disso, completamente interessante. O estudo teve como objetivo comparar o impacto cognitivo e cerebral de diferentes ferramentas durante uma tarefa de redação. Três condições foram testadas:
- O uso exclusivo de um Modelo de linguagem grande (LLM) como chatgpt.
- Encontrar informações por meio de um mecanismo da web convencional.
- O uso de seu único conhecimento, sem ajuda tecnológica.
Os pesquisadores mediram os parâmetros psicológicos (como recall de conteúdo, satisfação em relação ao ensaio produzido ou ao sentimento de apropriação do texto) e dados do cérebro, os participantes sendo equipados com capacetes de EEG durante toda a experiência. Ao focar nas medidas cerebrais e inferências de carga cognitiva – ou seja, o esforço mental mobilizado para executar uma tarefa – o estudo mostra que essa carga diminui quando uma ferramenta tecnológica é usada. Mais precisamente:
- O uso de um mecanismo de pesquisa leva a uma queda na carga cognitiva interna (ligada em particular ao memória de trabalhomemória de trabalho e desenvolvimento pessoal), em relação à ausência de ajuda;
- O uso de um LLM leva a uma diminuição mais global na carga cognitiva, sempre em comparação com o grupo sem tecnologia.
Esses resultados sugerem que o LLM, como o ChatGPT, possibilita re-alocação de nossos recursos mentais, aliviando certas tarefas em favor de funções executivas mais complexas (planejamento, estruturação do raciocínio etc.), onde pesquisas InternetInternet estimula a informação mais integração. Essas interpretações são baseadas na análise dos padrões de conectividade neuronal medidos pelo EEG e possibilitam concluir que quanto mais sofisticada a ferramenta, a conectividade menos intensa – que, longe de ser perturbadora, é bastante esperada. Isso simplesmente reflete a redução cognitiva habilitada por ferramentas que terceirizam certas funções de processamento de informações. Em suma, o chatgpt não “grelhe” nosso cérebro: reduz nossa carga cognitiva, como uma calculadora ou um GPSGPS.
AI na educação: uma ferramenta como qualquer outra?
Em vez de se perguntar se os LLMs “os sopram fusíveisfusíveis », O estudo oferece um debate mais fértil: que lugar essas ferramentas devem ocupar na educação? De fato, os pesquisadores mostram que a ordem de exposição a ferramentas tecnológicas tem uma influência. Durante uma segunda fase da experiência, os grupos mudam de condição: aqueles que usaram primeiro um LLM devem escrever uma dissertação sem ajuda e vice -versa. Resultado: os participantes anteriores da LLM para a ausência de tecnologia exibem uma conectividade neuronal mais baixa, em comparação com aqueles que passaram da ausência de tecnologia para o LLM, cuja conectividade aumenta.
Em outras palavras, começar com uma ferramenta como o ChatGPT pode mudar a maneira como você se envolve cognitivamente quando precisa trabalhar sem ajuda. Um elemento que levanta questões importantes sobre a introdução inicial do LLM na aprendizagem.
Outro estudo complementar está interessado no relacionamento que temos com esses modelos e, em seu impacto, em nossa mente crítica-isso é dizer nossa capacidade de mobilizar nosso conhecimento, nossas habilidades analíticas e argumentativas durante uma tarefa. Ela sugere que quanto mais confiamos em LLM, menos tendemos a mobilizar essa mente crítica.
Albert Moukheiber nos ilumina neste ponto: “Imagine that you read a press article and have blind confidence in the person who wrote it. This study shows that if you adopt the same attitude towards an LLM, this influences the way you process the information it provides you with. Historically, we have learned to trust our tools: I have no doubt about my calculator when she gives me a result. This absence of epistemic vigilance, we also apply it to LLM and it probably plays a role in the attitudes that we develop towards them ”, Oferece Albert Moukheiber, como uma hipótese.
E esse é todo o desafio: ao contrário de uma calculadora, um LLM não é uma ferramenta infalível. Ele pode alucinar, estar errado, produzir informações falsas ou até mesmo deitar com um estiloestilo muito convincente: “Existe uma diferença fundamental entre uma calculadora e um LLM. O primeiro não pode ser enganado. O segundo, sim. É por isso que o problema não é tanto no uso da IA, como na relação de confiança que construímos com eles. No Twitter, vemos muitas pessoas usando a IA como o vergonho de fatos … mas quem faz a IA?”, Reproduz Albert Moukheiber.
(En) jogos políticos
Todas essas reflexões não são teóricas: elas apresentam questões concretas para os profissionais da educação e para os próprios estudantes. O que pensar da integração progressiva e até sistemática, da inteligência artificial na escola e na universidade? Para Albert Moukheiber, não é uma questão de proibir, mas de acompanhar. “” Quando você tenta proibir o acesso à tecnologia, ela nunca funciona. Pessoalmente, eu era um estudante na época das primeiras calculadoras científicas, e sempre havia uma maneira de desviar -as do uso inicialele diz, divertido, oarar nostálgico, antes de adicionar: Parece -me muito mais criterioso supervisionar o uso dessas ferramentas, explicando como elas funcionam e em quais contextos eles podem ser úteis. »»
Mas essa educação para uso adequado deve evitar duas grandes armadilhas.
O primeiro: reproduzir ou acentuar as desigualdades já presentes, como sublinha a inès drège, professora em filosofia, em um artigo publicado na edição especial Pedagogia e IA de cadernos educacionais. De fato, o uso dessas ferramentas geralmente beneficia aqueles que já têm um bom nível na dissertação e desencorajam os alunos que não têm esse capital cultural.
O segundo: Cuidado com o discurso prometeano da indústria tecnológica, que às vezes pretende orientar as políticas educacionais. Uma investigação de Marie Dupin para Cultura da França Assim, mostra como as grandes empresas de tecnologia buscam influenciar diretamente a agenda educacional na França. Como os LLMs não são “ferramentas” neutras simples cujos efeitos dependeriam do uso estritamente individual. Eles são moldados por lógicas econômicas e políticas – e os usos que são coletivamente, dentro e fora da escola, são o eco.
Em outras palavras: não é apenas a maneira como usamos o IA que importa, mas como decidimos usá -lo juntos.
