O que é um LLM?

O que é um LLM, sem matemática

Um grande modelo de linguagem não é uma base de dados nem um motor de pesquisa. Não guarda factos que se possam consultar, guarda padrões: que tipo de texto costuma vir depois de que tipo de texto.

É por isso que consegue escrever com fluidez sobre algo de que não tem conhecimento fiável. A fluidez é a capacidade, não é prova de que o conteúdo esteja certo.

Porque erra com tanta confiança

Quando falta um detalhe, o modelo não pára, escreve a continuação mais plausível. Esse comportamento chama-se alucinação, e resulta do modo como a coisa funciona, não de um bug de um produto em particular.

A defesa prática é enfadonha e eficaz: põe os factos no prompt e não peças dados que terias de verificar de qualquer maneira.

No que é bom e no que é mau

É bom no trabalho em que entra texto e sai texto: encurtar, reescrever, resumir, primeiros rascunhos, mudar de formato, esboços de código.

É mau a produzir um facto preciso que ainda não tens, porque não há nada com que confrontar a resposta. Aí só faz o erro chegar mais depressa.

O que é um LLM, numa frase?

Um grande modelo de linguagem: um programa que aprendeu, a partir de texto, que texto costuma seguir-se a que texto, e produz texto novo a partir desses padrões.

Um LLM é o mesmo que IA?

Não. A IA é o termo geral e um LLM é um tipo de IA, o que trabalha com texto. Os modelos de imagem também são IA, mas não são modelos de linguagem.

Qual é o melhor LLM?

Depende do trabalho, e a resposta muda de poucos em poucos meses. Experimentar dois deles numa tarefa que repetes diz-te mais do que qualquer tabela de benchmarks.

Um LLM aprende com as minhas conversas?

O modelo em si não muda enquanto falas com ele. Se o fornecedor usa as tuas conversas para treinos futuros depende das definições e dos termos de cada produto, por isso é isso que deves verificar.