Unindo o aprendizado humano e o aprendizado de máquina: uma perspectiva pedagógica sobre o aprendizado e as alucinações dos LLMs

Tratado geral sobre a grandeza do insignificante ¹

A poesia é resumida em palavras — é tudo o que eu sei.
Meu destino é não saber quase nada.
Eu tenho profundezas no nada.
Não tenho nenhuma conexão com a realidade.
Para mim, poderoso não é aquele que descobre ouro.
Para mim, o poderoso é aquele que descobre insignificâncias (do mundo e das nossas).
Por essa pequena frase, eles me elogiaram como idiota.
Eu fiquei comovido.
Sou fraco para receber elogios.
‍
Manoel Barros

As semelhanças entre as primeiras tentativas de escrita das crianças e as alucinações de LLM são impressionantes. Ambos os processos envolvem a construção de uma linguagem coerente a partir de informações incompletas ou ambíguas por meio de tentativa e erro. Assim como as crianças refinam suas habilidades de alfabetização experimentando e aprendendo com os erros, os LLMs melhoram por meio de treinamento iterativo e ajustes para reduzir erros.

A pesquisa de Emilia Ferreiro e Ana Teberosky sobre aquisição de leitura, apresentada em Alfabetização antes da escolaridade (1982), desafiou crenças antigas sobre a aprendizagem infantil. Seus estudos fornecem insights profundos não apenas para a educação, mas também para a inteligência artificial. Ao desvendar os estágios pelos quais as crianças desenvolvem habilidades de alfabetização, podemos traçar paralelos significativos com o funcionamento dos Grandes Modelos Linguísticos. Ambos os processos incorporam a construção ativa do conhecimento por meio do reconhecimento de padrões e testes de hipóteses, destacando as intrincadas semelhanças entre o desenvolvimento cognitivo humano e o aprendizado de máquina.

Inspirando-se nas teorias construtivistas de Jean Piaget, que enfatizam que as crianças constroem ativamente sua compreensão por meio de experiências, Ferreiro e Teberosky viam as crianças como aprendizes proativos que experimentam e desenvolvem seus conhecimentos por meio da interação com o ambiente.

A ideia de que crianças de diferentes culturas aprendem alfabetização de maneiras variadas é um conceito relativamente novo, sendo amplamente aceito apenas nos últimos 120 anos. Antes dessa mudança, acreditava-se que as mentes das crianças eram recipientes passivos nos quais o conhecimento podia ser derramado, da mesma forma que encher um quadro negro com informações. A pesquisa de Ferreiro e Teberosky forneceu evidências convincentes do contrário, demonstrando que as crianças pensam por si mesmas e constroem ativamente sua compreensão da linguagem. Seu trabalho esclareceu as habilidades cognitivas únicas das crianças e a natureza dinâmica de seus processos de aprendizagem, provando que as crianças não são apenas pequenos adultos, mas pensadores distintos com suas próprias maneiras de entender o mundo. Seus insights oferecem paralelos valiosos com o desenvolvimento da inteligência artificial, particularmente modelos de linguagem grande (LLMs), como GPT-4 e Claude, e modelos de código aberto, como Mistral, Llama, Phi, etc.

A pesquisa de Ferreiro e Teberosky: estágios da aquisição da leitura

Ferreiro e Teberosky conduziram seus estudos inovadores nas comunidades de língua espanhola do México. A pesquisa identificou vários estágios pelos quais as crianças progridem à medida que desenvolvem habilidades de alfabetização:

1. Palco icônico: rabiscos como histórias silenciosas
   No Iconic Stage, as crianças representam a escrita com desenhos ou símbolos. Em vez de escrever palavras reais, eles usam imagens para expressar o que pretendem dizer. Por exemplo, quando solicitada a escrever a palavra “coração”, a criança pode desenhar um símbolo de coração. Essa fase inicial trata de explorar o ato físico de escrever por meio de representações visuais.

2. Garatuja Etapa: Os primeiros sussurros da escrita
   Movendo-se para o Garatuja Estágio: as crianças começam a reconhecer que escrever envolve mais do que apenas desenhar ícones. Eles começam a produzir marcas e rabiscos que lembram a escrita, mas ainda não têm uma conexão clara com sons ou letras. Por exemplo, tentando escrever”heart“(coração) pode resultar em linhas e curvas aleatórias que imitam o fluxo da escrita sem formar letras ou sons reais.

3. Estágio pré-silábico: unindo sons e símbolos
   No estágio pré-silábico, as crianças começam a associar sons com suas formas escritas. Eles começam a entender que a escrita representa a linguagem falada, mesmo que ainda não tenham dominado a conexão entre letras e sons específicos. Por exemplo, uma criança pode tentar escrever “coração” combinando letras aleatórias que ainda não correspondem com precisão às sílabas da palavra.

4. Estágio silábico sem valor sonoro: reconhecendo sílabas
   Durante o estágio silábico sem valor sonoro, as crianças começam a segmentar palavras em sílabas, mas ainda não vinculam consistentemente essas sílabas aos sons correspondentes. Por exemplo, a palavra”jacaré“(jacaré) pode ser escrito com apenas três letras, representando suas três sílabas, mas sem refletir com precisão os sons de cada sílaba.

5. Estágio silábico com valor sonoro: associando sons a sílabas
   No estágio silábico com valor sonoro, as crianças começam a conectar sons específicos às sílabas escritas. Eles podem escrever partes das palavras usando letras que correspondam aos sons que ouvem. Por exemplo,”boneca“(boneca) pode ser escrita como “O-E-A”, onde cada letra representa um som de sílaba, ajudando a preencher a lacuna entre a linguagem falada e a escrita.

6. Estágio silábico-alfabético: organização dos fonemas
   Passando para o estágio silábico-alfabético, as crianças refinam sua capacidade de associar fonemas individuais (as menores unidades de som) a letras específicas. Eles começam a representar sons sistematicamente usando letras, embora algumas inconsistências e erros ainda possam ocorrer. Por exemplo, uma criança pode escrever”macaco” em vez de “macaco”, demonstrando uma compreensão mais clara da correspondência entre letras sonoras, mas ainda cometendo pequenos erros ortográficos.
   ‍
7. Estágio alfabético: Mastery in Motion
   No estágio alfabético, as crianças alcançam uma compreensão madura das regras ortográficas e das complexidades da linguagem. Sua ortografia se alinha estreitamente às convenções padrão e podem representar com precisão grafias regulares e irregulares. A palavra “macaco” é escrita corretamente de forma consistente, refletindo sua compreensão abrangente das relações fonema-grafema.
   

Para ilustrar esses estágios, considere a evolução da palavra “macaco” em cada fase:

• Palco icônico: Desenha a figura de um macaco.
• Etapa Garatuja: Rabiscos parecidos com escrever sem letras claras.
• Estágio pré-silábico: Escreve letras aleatórias que não correspondem às sílabas.
• Estágio silábico sem valor sonoro: “J C P R” (tentativa de segmentar em sílabas sem sons corretos).
• Estágio silábico com valor sonoro: “O N K” (representando sons de sílabas).
• Estágio silábico-alfabético: “MonkKy” (tentativa de correspondência de letras sonoras com pequenos erros).
• Estágio alfabético: “Macaco” (escrito corretamente)

Um dos aspectos mais esclarecedores de seu estudo é a interação entre professores e crianças. Em vez de descartar as primeiras tentativas de escrever como meros rabiscos, os professores envolveram as crianças em conversas sobre seus escritos. Por exemplo, quando uma criança escreveu “baleia” com mais letras do que “macaco”, o professor pode perguntar por quê. A resposta atenciosa da criança,”Porque um macaco é menor e precisa de menos letras, enquanto uma baleia é maior e precisa de mais, é claro!”, revela seu raciocínio lógico e seu engajamento ativo na compreensão das regras da linguagem. Esse diálogo destaca como as crianças constroem ativamente sua compreensão da linguagem, da mesma forma que os cientistas formam hipóteses por meio da experimentação.

Modelos de linguagem grande: funções probabilísticas e alucinações

Grandes modelos de linguagem (LLMs) operam prevendo a próxima palavra em uma sequência com base em vastos conjuntos de dados. Esses modelos funcionam como entidades probabilísticas, analisando padrões na linguagem para gerar texto coerente e contextualmente relevante. No entanto, apesar de sua sofisticação, os LLMs às vezes produzem “alucinações” — resultados que são factualmente incorretos ou sem sentido.

Alucinações em LLMs ocorrem porque esses modelos geram texto com base em probabilidades e não em um entendimento verdadeiro. Eles analisam a probabilidade de sequências de palavras sem compreender o significado subjacente, levando a erros ocasionais. Por exemplo, um LLM pode fornecer com segurança informações incorretas sobre um evento histórico ou fabricar detalhes que não têm base na realidade.

Unindo erros infantis e alucinações LLM

Imagine os primeiros rabiscos de uma criança como a geração inicial de texto de um modelo de IA — ambos são exploratórios e imperfeitos. Quando uma criança desenha um coração em vez de escrever”coração”, eles estão experimentando expressar significado por meio de símbolos. Da mesma forma, quando um LLM produz uma alucinação, ele navega por vastos dados para prever sequências de palavras plausíveis, ocasionalmente errando o alvo.

No entanto, é importante reconhecer as diferenças. Os críticos argumentam que os LLMs carecem de compreensão e consciência genuínas, tornando seu “aprendizado” fundamentalmente diferente da cognição humana. Embora esse seja um ponto válido, o aprendizado iterativo e a correção de erros observados nos LLMs ainda oferecem lições valiosas para refinar a IA. Ao ver o desenvolvimento da IA pelas lentes da ciência cognitiva, podemos promover inovações interdisciplinares que aprimoram o aprendizado humano e a inteligência de máquina.

Refletindo sobre aprendizado e inteligência, pode-se perguntar se as alucinações dos LLMs indicam uma forma nascente de compreensão. Embora os LLMs não possuam consciência ou intencionalidade, sua capacidade de gerar texto plausível a partir de padrões probabilísticos reflete o papel ativo que as crianças desempenham na construção do conhecimento linguístico. Os “erros” produzidos por crianças e LLMs podem não ser apenas falhas, mas componentes essenciais de um processo de aprendizagem que busca decodificar as estruturas intrincadas da linguagem.

À medida que continuamos avançando nas tecnologias de IA, essas conexões interdisciplinares serão cruciais para promover modelos que emulem a compreensão da linguagem humana de forma mais precisa e confiável. Ao adotar a natureza de tentativa e erro do aprendizado humano e de máquina, abrimos portas para inovações que honram a complexidade e a beleza da própria linguagem, preenchendo a lacuna entre o aprendizado humano e o aprendizado de máquina em nossa busca por compreender e replicar a inteligência.

‍

‍

(1) Tratado geral das grandezas do ínfimo (Manoel de Barros)

‍‍‍A poesia está guardada nas palavras — é tudo que eu sei.
Meu fado é o de não saber quase tudo.
Sobre o nada eu tenho profundezas.
Não tenho conexões com a realidade.
Poderoso para mim não é aquele que descobre ouro.
Para mim poderoso é aquele que descobre as insignificâncias (do mundo e as nossas).
Por essa pequena sentença me elogiaram de imbecil.
Fiquei emocionado.
Sou fraco para elogio.