A Manipulação dos Modelos de Linguagem e o Impacto na Educação
O fenómeno do “LLM grooming” representa um desafio significativo para a educação digital e para o desenvolvimento do pensamento crítico tanto nos alunos como professores. Este termo refere-se à prática de saturar a internet com desinformação, para que esta seja posteriormente integrada nos dados de treino dos chatbots de Inteligência Artificial (IA) – assistentes virtuais baseados em modelos avançados de linguagem.
Os grandes modelos de linguagem (LLMs) são sistemas de IA capazes de gerar texto de forma semelhante à linguagem humana, processando vastas quantidades de dados, muitos dos quais são recolhidos da internet. No entanto, se as fontes de informação forem manipuladas, a própria IA pode passar a gerar respostas enviesadas ou falsas, contribuindo para a propagação de desinformação.
Segundo um relatório da NewsGuard (que fornece, a empresas e consumidores, dados, análises e jornalismo para identificar informações confiáveis online), redes organizadas de desinformação podem alimentar os dados de treino dos chatbots com conteúdos manipulados, alterando os tokens – unidades básicas de processamento da linguagem – e interferindo na forma como os modelos interpretam e respondem às questões dos utilizadores.
Na educação, este fenómeno representa um desafio crítico, pois pode comprometer a fiabilidade das fontes de informação utilizadas em ambiente escolar. A manipulação dos dados de treino pode influenciar a forma como os conteúdos educativos são apresentados e interpretados, tornando essencial o desenvolvimento de competências de literacia digital e verificação de factos.
Para mitigar este risco, é fundamental que que as escolas promovam práticas pedagógicas que incentivem a análise crítica da informação, o uso de fontes fidedignas e a sensibilização para os perigos da desinformação digital. O papel dos professores é crucial na orientação dos alunos para uma utilização segura e informada das tecnologias, garantindo que a Inteligência Artificial seja um recurso enriquecedor e não um vetor de desinformação.
