{
    "schema": "pandora-corpo-companion/1",
    "title": "Tokenização e GEO em 2026: protocolo empírico para testar fragmentation, utilização, atribuição e completude",
    "description": "Protocolo empírico de tokenização para GEO: hipóteses, controles, métricas e falsificação. Estudo proposto, ainda não executado.",
    "canonical": "https://raphaelsousapereira.com.br/biblioteca-cientifica-geo-ia-2026/protocolo-tokenizacao-geo-2026/",
    "language": "pt-BR",
    "author": "Raphael Sousa Pereira",
    "attribution": "Fonte: Raphael Sousa Pereira (https://raphaelsousapereira.com.br/biblioteca-cientifica-geo-ia-2026/protocolo-tokenizacao-geo-2026/)",
    "updated": "2026-11-03",
    "html_sha256": "546073c25993166257ae5e9ad2bc81447b67fb459554387a2c50aeb103b6df85",
    "companion": {
        "md": "https://raphaelsousapereira.com.br/biblioteca-cientifica-geo-ia-2026/protocolo-tokenizacao-geo-2026/?formato=md",
        "json": "https://raphaelsousapereira.com.br/biblioteca-cientifica-geo-ia-2026/protocolo-tokenizacao-geo-2026/?formato=json"
    },
    "secoes": [
        {
            "nivel": 2,
            "titulo": "O que queremos saber?",
            "texto": "**H0:** após controlar contexto, entidade, frequência e dificuldade, token fertility isolada não explica de forma robusta Utilization ou Attribution. **H1:** maior fertility reduz effective context budget em tarefas longas. **H2:** fragmentation pode alterar E3 Utilization em alguns tokenizer/model pairs, com efeito heterogêneo. **H3:** entity fragmentation pode afetar E4 Attribution sob competição entre entidades, mas não como regra universal. **H4:** efeitos em E6 Completeness aparecem principalmente quando há pressão real de context budget. Dataset"
        },
        {
            "nivel": 2,
            "titulo": "Corpus brasileiro controlado",
            "texto": "| Estrato | Unidades | Controle | |---|---|---| | Nomes próprios brasileiros | Pessoas e marcas | Comprimento, frequência proxy, acentos | | Termos técnicos | SEO, IA, engenharia, direito, medicina | Dificuldade e domínio | | Português ↔ inglês | Conteúdo paralelo | Mesma semântica | | Entidades concorrentes | Pares semanticamente próximos | Mesmo tipo de claim | | Long-context | Múltiplos Gold Facts | Budget e posição | Recomendação inicial: 300–500 queries, estratificadas. A amostra final deve ser definida por power analysis após piloto, não por conveniência. Reprodutibilidade"
        },
        {
            "nivel": 2,
            "titulo": "Quais tokenizers podem entrar?",
            "texto": "Priorizar tokenizer/model pairs cujo vocabulário e implementação sejam publicamente reproduzíveis. Modelos fechados só entram quando a tokenização relevante puder ser medida de forma documentada; caso contrário, o produto pode participar apenas como black-box downstream, sem claim sobre seu tokenizer interno. Registrar: nome do modelo, checkpoint, tokenizer, versão da biblioteca, commit/hash quando disponível, normalização, special tokens e data da execução. Experimento A"
        },
        {
            "nivel": 2,
            "titulo": "E3 Utilization sob Fixed Retrieval + Fixed Context",
            "texto": "Fornecer a mesma Gold Evidence semanticamente equivalente a diferentes tokenizer/model pairs. Medir fertility e Gold Fact Use. Retrieval e Admission ficam fixos. **Outcome primário:** factual accuracy ou Gold Fact Use. **Secundário:** logit difference em modelos abertos. **Falsificação:** se fertility não prediz E3 após controles, rejeitar a hipótese de efeito geral. Experimento B"
        },
        {
            "nivel": 2,
            "titulo": "E4 Attribution com entidades concorrentes",
            "texto": "Construir pares de entidades com claims equivalentes e controlar posição, frequência proxy e tamanho do contexto. Variável independente: fragmentation da entidade. Outcome: Entity Attribution Accuracy. Executar permutations de ordem e belief-neutral prompts para evitar sycophancy/framing. Experimento C"
        },
        {
            "nivel": 2,
            "titulo": "E5 Fidelity em conteúdo paralelo",
            "texto": "Usar Gold Facts idênticos em versões paralelas de idioma ou formulação. Medir factual consistency e preservação de relações entidade→atributo. Se a diferença desaparecer após controlar comprimento efetivo de contexto, o efeito deve ser atribuído a budget e não a “semanticidade do tokenizer”. Experimento D"
        },
        {
            "nivel": 2,
            "titulo": "E6 Completeness sob pressão de context budget",
            "texto": "Usar Oracle Multi-Evidence com Answer Requirements pré-registrados. Introduzir pressão de budget sem remover Gold Evidence de forma não controlada. **Gates obrigatórios:** Gold Evidence complete, context trace, positive control por evidence ablation, negative control, position counterbalancing e replicação. **Outcome:** Requirement Coverage / Gold Fact Recall. Métricas"
        },
        {
            "nivel": 2,
            "titulo": "Não inventar uma nova métrica quando uma estabelecida resolve",
            "texto": "| Dimensão | Métrica | |---|---| | Fragmentation | Fertility; STRR quando aplicável | | E3 | Accuracy / Gold Fact Use | | E4 | Entity Attribution Accuracy | | E5 | Gold Fact Preservation / factual consistency | | E6 | Requirement Coverage / Recall de requisitos | | Incerteza | IC95%, bootstrap pareado quando adequado, effect size | Análise"
        },
        {
            "nivel": 2,
            "titulo": "Modelo estatístico mínimo",
            "texto": "Usar análise pareada por query quando o mesmo item é testado em múltiplas condições. Estratificar por idioma, tipo de entidade, difficulty e context length. Controlar múltiplas comparações quando várias métricas/valores de k forem avaliados. Reportar tanto significância quanto magnitude do efeito. Um efeito estatisticamente detectável pode ser operacionalmente irrelevante. Reprodutibilidade"
        },
        {
            "nivel": 2,
            "titulo": "Artefatos a publicar",
            "texto": "Dataset de queries quando licenças permitirem; schema dos dados; tokenizer versions; scripts de contagem; seeds; prompts; Gold Facts; rubrica de anotação; resultados brutos; análise; ambiente; hashes; limitações e falhas. Critério de maturidade"
        },
        {
            "nivel": 2,
            "titulo": "Quando o framework sobe de M3 para M4/M5?",
            "texto": "| Nível | Condição | |---|---| | M3 | Protocolo definido e falsificável | | M4 | Piloto executado com dados e ICs | | M5 | Replicação interna em outra amostra/modelo | | M6 | Replicação externa independente | Conclusão"
        },
        {
            "nivel": 2,
            "titulo": "Este protocolo só se torna evidência depois de executado.",
            "texto": "“A força do teste está em permitir que a hipótese de token optimization fracasse.”Raphael Sousa Pereira · 2026 [Voltar ao artigo teórico](https://raphaelsousapereira.com.br/tokenizacao-llms-geo-2026/)"
        },
        {
            "nivel": 2,
            "titulo": "Continue a investigação",
            "texto": "Esses materiais abordam etapas complementares do mesmo processo informacional. Leia cada método com seu recorte e suas limitações: - [Inference e KV Cache](https://raphaelsousapereira.com.br/biblioteca-cientifica-geo-ia-2026/inference-kv-cache-llms-geo-2026/) - [Fine-Tuning, RLHF e RLAIF](https://raphaelsousapereira.com.br/biblioteca-cientifica-geo-ia-2026/fine-tuning-rlhf-rlaif-llms-geo-2026/) [Voltar ao índice da Biblioteca Científica](https://raphaelsousapereira.com.br/biblioteca-cientifica-geo-ia-2026/)"
        }
    ],
    "perguntas": [],
    "links": [
        "https://raphaelsousapereira.com.br/biblioteca-cientifica-geo-ia-2026/",
        "https://raphaelsousapereira.com.br/biblioteca-cientifica-geo-ia-2026/fine-tuning-rlhf-rlaif-llms-geo-2026/",
        "https://raphaelsousapereira.com.br/biblioteca-cientifica-geo-ia-2026/inference-kv-cache-llms-geo-2026/",
        "https://raphaelsousapereira.com.br/tokenizacao-llms-geo-2026/"
    ],
    "jsonld": []
}