Skip to main content

Princípios Fundamentais

A experimentação eficaz não é apenas sobre tecnologia, e sim sobre metodologia. Siga estes princípios para extrair o máximo valor dos seus testes A/B.

Teste uma coisa por vez

Mudanças isoladas geram insights claros

Formule hipóteses claras

Saiba o que você está testando e por quê

Aguarde significância

Decisões prematuras levam a conclusões erradas

Documente tudo

Aprendizados se acumulam ao longo do tempo

1. Formulação de Hipóteses

Antes de criar qualquer experimento, formule uma hipótese clara usando este framework:

Framework: Se → Então → Porque

Exemplos

✅ Bom

❌ Ruim

Por que isso importa: Hipóteses claras te ajudam a interpretar resultados e construir conhecimento sobre seus usuários.

2. Isolar Variáveis

Regra de Ouro: Teste UMA coisa por vez

Por que isso importa?

Se você mudar múltiplas variáveis, não saberá o que causou a diferença:

3. Tamanho da Amostra

Regra Prática

Calculadora Simplificada

Use calculadoras online como Evan Miller’s AB Test Calculator para cálculos precisos.

Sinais de Que Você Precisa Esperar Mais

  • ❌ Menos de 100 conversões por variante
  • ❌ Teste rodando há menos de 1 semana
  • ❌ Taxa de conversão mudando drasticamente dia a dia
  • ❌ Significância estatística < 95%

4. Estrutura de Experimentos

Anatomia de um Bom Experimento


5. Quando Parar um Experimento

Critérios para Declarar Vencedor

Todos estes devem ser verdadeiros:
  1. Significância estatística ≥ 95%
  2. Mínimo de 100-200 conversões por variante
  3. Teste rodou por pelo menos 1-2 semanas completas
  4. Resultado é consistente (não oscila dia a dia)

Exemplo de Análise

Quando NÃO Declarar Vencedor

Erro comum: Parar o teste assim que vê uma variante “ganhando”. Isso leva a falsos positivos. Aguarde significância estatística!

6. Testes Sequenciais vs Simultâneos

Rodando Múltiplos Testes

✅ Testes Simultâneos (Recomendado)

Quando usar: Elementos independentes que não afetam uns aos outros.

❌ Testes Conflitantes (Evitar)

Priorização de Testes

Quando você tem recursos limitados, priorize assim:

7. Evitando Armadilhas Comuns

Armadilha 1: Peeking (Espiar Resultados)

Armadilha 2: Mudar o Teste no Meio

Armadilha 3: Ignorar Sazonalidade

Armadilha 4: Winner’s Curse


8. Documentação de Experimentos

Template de Documentação

Ferramenta de Documentação

Crie um documento compartilhado (Notion, Google Docs, Confluence) com todos os experimentos:

9. Métricas Além da Conversão

Nem tudo se resume a taxa de conversão. Considere:

Métricas Secundárias

Exemplo

Cuidado: Otimizar apenas para conversão pode prejudicar métricas mais importantes como receita ou LTV.

10. Checklist de Pré-Lançamento

Antes de colocar qualquer experimento no ar:
  • Hipótese está clara (Se → Então → Porque)
  • Métrica de sucesso está definida
  • Tamanho de amostra foi calculado
  • Duração mínima foi definida (1-2 semanas)
  • Experimento foi documentado
  • useExperiment está implementado corretamente
  • Estados de loading e error têm fallbacks
  • Conversão está sendo rastreada corretamente
  • Apenas UMA variável está sendo mudada
  • Testado em ambiente de desenvolvimento
  • Variantes têm qualidade similar (sem typos, bugs)
  • Design é consistente entre variantes
  • Performance não foi afetada (CLS, LCP)
  • Funciona em mobile e desktop
  • Acessibilidade foi verificada
  • Dashboard do Testly está configurado
  • Alertas estão ativos (se disponível)
  • Time sabe que o experimento está rodando
  • Calendário tem data de revisão marcada

11. Casos de Uso por Tipo de Produto

SaaS B2B

Foco: Trial e conversão para pago

E-commerce

Foco: Add to cart e checkout

Conteúdo/Media

Foco: Engajamento e newsletter signup

Resumo: Regras de Ouro

1 coisa por vez

Isole variáveis para insights claros

Hipótese clara

Se → Então → Porque

Amostra adequada

Mínimo 100-200 conversões/variante

Tempo suficiente

Pelo menos 1-2 semanas completas

Significância 95%+

Não declare vencedor prematuramente

Documente tudo

Aprendizados se acumulam

Fallbacks sempre

Experimentos não quebram o produto

Métricas secundárias

Conversão não é tudo

Próximos Passos

Debugging

Troubleshooting avançado

Significância Estatística

Entenda a matemática por trás

Exemplos

Veja implementações práticas

useExperiment

Hook principal do SDK