📝

Masterclass de Engenharia de Prompt

Jul 2, 2024

Masterclass de Engenharia de Prompt por Bruno Picinini

Introdução

  • Estudo de mais de 35 artigos científicos e documentações de grandes modelos de linguagem.
  • Criação de mais de 20 agentes customizados para uso empresarial e educacional.
  • Resultados significativos, incluindo alto uso de bots em plataformas como Poe.
  • Promessa da masterclass: ensinar como fazer engenharia de prompt de forma direta e prática para uso em modelos de linguagem.

Estrutura da Masterclass

  1. Fundamentos: Parte básica e correta de trabalhar com documentos longos.
  2. Estrutura Básica de Prompt: Colocar no caminho certo.
  3. Processo Recomendado: Escolha do modelo certo e funcionalidades fora do prompt.
  4. Técnicas Básicas: Para obter respostas melhores dos prompts.
  5. Técnicas Avançadas: Menus interativos e prompts complexos.
  6. Exemplos Práticos: Exemplos reais de uso de prompts.
  7. Ferramentas Recomendadas: Acelerar e otimizar os processos com ferramentas.

Fundamentos

Definição e Importância

  • Engenharia de Prompt: Ciência empírica de planejar, criar e testar prompts para melhores respostas dos LLMs (Large Language Models).
  • Meta-habilidade que destrava todas as outras habilidades relacionadas a modelos de linguagem.
  • Importância de roles específicos, como engenheiro de prompt, com salários altos nos EUA.

Estratégia de Ensino

  • Começar pelo básico e construir as habilidades gradualmente.
  • Uso de referências simples e exemplos práticos.
  • Regra de ouro: As instruções dadas para um prompt devem ser claras o suficiente para serem entendidas por uma pessoa.
  • Comece com o simples e depois complique, usando prompts simples inicialmente.

Documentação Longa

  • Incluir documentos longos antes das instruções no prompt para melhor processamento.
  • Uso de tags XML para melhor separação e organização.
  • Ferramentas para variar prompts e identificar pontos de refinamento.

Estrutura Básica de um Prompt (PROMPT)

  1. P: Persona (Contexto do modelo/especialista).
  2. R: Roteiro (O que deseja fazer).
  3. O: Objetivo (Meta desejada).
  4. M: Modelo (Formato da resposta desejada).
  5. P: Panorama (Informações adicionais e exemplos).
  6. T: Transformar (Iteração e feedback).

Técnicas de Engenharia de Prompt

Markdown

  • Uso de Markdown para melhor organização visual do prompt e da resposta.
  • Técnicas de formatação: títulos, subtítulos, listas, links, destaque com asteriscos e sublinhado.
  • Separação com tags XML para referenciar documentos longos ou variáveis específicas.

Prompt do Sistema

  • Instruções adicionais para o modelo sobre como responder (ex: responder em determinada língua, responder de maneira socrática, etc).

Zero Shot e Few Shot

  • Zero Shot: Pergunta direta ao modelo sem exemplos prévios.
  • Few Shot: Apresentar exemplos ao modelo antes da pergunta principal para melhorar a precisão da resposta.

Cadeia de Pensamento

  • Instruir o modelo a pensar passo a passo para resolver problemas complexos (usado para melhorar respostas em problemas de lógica, aritmética, etc).
  • Pode incluir pensamento explícito e etapas de raciocínio.

Cadeia de Pensamento Contrastiva

  • Exemplos de erros e acertos para guiar a resposta do modelo.

Consistência Própria

  • Gerar múltiplas respostas e permitir que o modelo ou o usuário determine a melhor resposta com base em consistência.

Árvore de Pensamento

  • Expansão da cadeia de pensamento para problemas realmente complexos, envolvendo múltiplas etapas e alternativas.

Esqueleto de Pensamento

  • Criar uma estrutura básica do que se busca antes de detalhar cada parte. Útil para tarefas complexas e criação de conteúdos longos.

Geração de Conhecimento

  • Uso do modelo para gerar uma base de conhecimento que pode ser utilizada em etapas futuras do prompt.

Justificação da Resposta

  • Modelo justifica as respostas dados para melhor entendimento do raciocínio.

Recuperação de Conhecimento Externo

  • Consultar uma base de conhecimento acessória ao prompt para aumentar a precisão das respostas.

Transformação e Variáveis

  • Uso de variáveis para personalizar o prompt e facilitar mudanças pequenas sem reescrever todo o prompt.

Exemplos e Aplicações Práticas

  • Exemplos reais de prompts aplicados em automação de tarefas e criação de conteúdo.
  • Criação de Landing Pages e como usar prompts para criar sessões específicas.
  • Uso de ferramentas como Po, CoPilot no Obsidian, e Chatbase para expandir funcionalidades de prompts.

Evitar Alucinações nos Modelos

  1. **Configuração de Resposta: **Utilizar prompts do sistema para configuração de resposta clara e objetiva.
  2. Temperatura do Modelo: Ajustar a temperatura para reduzir criatividade quando precisão é necessária.
  3. Consistência Própria: Gerar múltiplas respostas para aumentar precisão.
  4. Exemplos e Citações: Fornecer exemplos claros e permitir que o modelo diga

Full transcript