Fundamentos de modelos de linguagem

O que você vai aprender

1. Aula 1. O que são modelos de linguagem

   30 min

   Entenda o que um modelo de linguagem faz quando responde, por que ele parece inteligente, o que ele faz bem e mal, e como isso muda a forma de usar IA no seu negócio.

   • Explicar com suas palavras o que um modelo de linguagem faz ao gerar uma resposta
   • Diferenciar o que o modelo sabe de treino, o que recebe na conversa e o que ele não tem acesso
   • Reconhecer tarefas em que um modelo de linguagem rende bem e tarefas em que ele falha
   • Escolher entre usar um modelo pelo chat ou por API conforme a necessidade do negócio

   Aula completa, exemplos e exercícios dentro da plataforma

2. Aula 2. Tokens e janela de contexto

   35 min

   Como o modelo conta o que você manda, por que a conta é em tokens, o que cabe na janela de contexto e o que fazer quando a conversa cresce demais.

   • Explicar o que é um token e estimar quantos tokens tem um texto em português
   • Listar tudo o que ocupa a janela de contexto em uma chamada ao modelo
   • Calcular o custo aproximado de uma tarefa a partir da tabela de preços do provedor
   • Aplicar três estratégias para manter a conversa dentro da janela sem perder qualidade

   Aula completa, exemplos e exercícios dentro da plataforma

3. Aula 3. Alucinações e como se proteger

   35 min

   Por que o modelo inventa fatos com a maior confiança do mundo, onde isso machuca um negócio e as técnicas que reduzem o risco a um nível aceitável.

   • Explicar por que um modelo de linguagem inventa informações e por que ele não avisa
   • Reconhecer os tipos de alucinação mais comuns em tarefas de negócio
   • Aplicar pelo menos cinco técnicas de proteção em um prompt ou em um fluxo
   • Decidir quando a resposta do modelo pode sair direto e quando precisa de revisão humana

   Aula completa, exemplos e exercícios dentro da plataforma

4. Aula 4. Temperatura, parâmetros e fine-tuning versus prompting

   35 min

   O que os parâmetros de geração controlam (e o que já não controlam nos modelos mais novos), como obter respostas mais previsíveis ou mais criativas, e quando vale a pena ajustar um modelo em vez de só instruir.

   • Explicar o papel da temperatura, do top_p, do limite de saída e das sequências de parada
   • Reconhecer que os modelos de ponta atuais estão retirando o controle de temperatura e saber como obter o mesmo efeito por instrução
   • Comparar prompting, exemplos no prompt, recuperação de material e fine-tuning em custo, prazo e manutenção
   • Decidir, para uma tarefa real, qual degrau dessa escada é o adequado

   Aula completa, exemplos e exercícios dentro da plataforma

Termos que você vai dominar

• Modelo de linguagem (LLM, large language model)
• Pré-treino (pretraining)
• Ajuste por instruções (instruction tuning e RLHF)
• Pesos (parameters)
• Data de corte (knowledge cutoff)
• Modelo aberto (open weights)
• API (interface de programação)
• Token
• Tokenizador (tokenizer)
• Janela de contexto (context window)
• Tokens de entrada e de saída (input e output)
• Degradação por contexto (context rot)
• Cache de prompt (prompt caching)
• Contador de tokens
• Alucinação (hallucination)
• Fundamentação (grounding)
• Restrição de conhecimento
• Citação literal (quote)
• Uso de ferramentas (tool use)
• Revisão humana (human in the loop)
• Perguntas armadilha
• Temperatura (temperature)
• Top-p (nucleus sampling)
• Limite de saída (max_tokens)
• Sequência de parada (stop sequence)
• Esforço de raciocínio (effort e thinking)
• Fine-tuning (ajuste fino)
• LoRA (adaptador de baixo custo)
• Determinismo