top of page
Buscar

Estágio 4 — Silver Técnica → Silver Analítica


Objetivo da camada

A etapa Silver Técnica → Silver Analítica transforma dados tecnicamente confiáveis em uma camada orientada a domínio, regras de negócio, reutilização analítica, ciência de dados e produtos de dados.

A Silver Técnica responde:

O dado está limpo, tipado, deduplicado e tecnicamente confiável?

A Silver Analítica responde:

O dado está organizado de forma reutilizável para análise, domínio, negócio e exploração avançada?

A regra principal desta camada é:

A Silver Analítica é a camada de organização analítica por domínio, não necessariamente a camada final de consumo executivo.

1. Definição do estágio

O que

Transformar dados tecnicamente tratados em entidades analíticas conformadas, reutilizáveis e orientadas a domínio.

Quando

Depois que a Silver Técnica foi processada com sucesso:

status = SILVER_TECH_PROCESSED

Onde

Na camada:

silver_analitica.<dominio>.<entidade>

ou:

silver_analytics.<domain>.<entity>

Exemplos:

silver_analitica.financeiro.clientes
silver_analitica.comercial.vendas
silver_analitica.risco.contratos
silver_analitica.operacional.eventos

Como

Com regras de negócio reutilizáveis, entidades conformadas, padronização semântica inicial, enriquecimentos analíticos, validações de negócio, métricas intermediárias, versionamento e rastreabilidade.

2. Papel da Silver Analítica na arquitetura

A Silver Analítica é a camada onde o dado deixa de ser apenas tecnicamente correto e passa a ser analiticamente útil.

Ela deve preparar dados para:

  • análise por domínio;

  • exploração por analistas;

  • ciência de dados;

  • machine learning;

  • produtos de dados;

  • data marts;

  • modelos dimensionais;

  • APIs analíticas;

  • métricas reutilizáveis;

  • camada semântica;

  • consumo controlado posterior na Gold.

A Silver Analítica ainda não precisa ser o modelo final dimensional, mas já deve trazer forte alinhamento com negócio.

3. Diferença entre Silver Técnica e Silver Analítica

Camada

Foco

Exemplo

Bronze

Histórico bruto padronizado

O que chegou

Silver Técnica

Qualidade técnica

O dado está limpo e tipado

Silver Analítica

Reuso analítico e domínio

O dado faz sentido para análise

Gold

Consumo final/modelado

BI, marts, KPIs e estrela dimensional

Exemplo prático:

Silver Técnica

codigo_cliente
nome_cliente
cpf_cnpj
data_cadastro
status_cliente
valor_limite
_metadata_batch_id
_metadata_processed_at

Silver Analítica

codigo_cliente
nome_cliente
tipo_pessoa
faixa_tempo_relacionamento
status_cliente_conformado
indicador_cliente_ativo
segmento_cliente
dominio_origem
data_referencia

A Silver Técnica limpa.A Silver Analítica interpreta e organiza.

4. Entrada da Silver Analítica

A entrada principal vem da Silver Técnica.

Critérios mínimos:

status = SILVER_TECH_PROCESSED
schema técnico validado
tipos convertidos
deduplicação aplicada
quality_score técnico aprovado
record_count reconciliado
metadados preservados

Entradas válidas:

  • entidades técnicas tratadas;

  • dados deduplicados;

  • hashes técnicos;

  • contratos técnicos;

  • metadados de linhagem;

  • tabelas com qualidade técnica aprovada;

  • regras de negócio mapeadas;

  • dicionário de dados/domínio.

Entradas bloqueadas:

  • lote técnico com falha;

  • dados sem chave mínima;

  • schema técnico divergente;

  • qualidade técnica abaixo do limite;

  • ausência de metadados;

  • entidade sem regra analítica definida;

  • ausência de contrato analítico quando obrigatório.

5. O que acontece na Silver Analítica

Essa camada aplica transformações de negócio e organização analítica.

Transformações permitidas

  • aplicar regras de negócio;

  • conformar entidades por domínio;

  • padronizar conceitos de negócio;

  • enriquecer atributos analíticos;

  • criar classificações reutilizáveis;

  • criar flags analíticas;

  • aplicar regras de validade;

  • cruzar entidades do mesmo domínio;

  • calcular atributos derivados;

  • preparar bases para ML;

  • preparar bases para Data Marts;

  • consolidar entidades reutilizáveis.

Exemplo de transformações

status = 'A' → status_cliente = 'ATIVO'
cpf_cnpj com 11 dígitos → tipo_pessoa = 'PF'
cpf_cnpj com 14 dígitos → tipo_pessoa = 'PJ'
data_cancelamento preenchida → indicador_cancelado = true
valor_total > 0 → indicador_movimento_valido = true

6. O que não deve ser responsabilidade principal da Silver Analítica

A Silver Analítica não deve virar uma Gold desorganizada.

Evitar:

  • criar dashboards finais diretamente;

  • espalhar KPIs finais sem governança;

  • criar métricas conflitantes;

  • duplicar regras em várias tabelas;

  • montar estrela dimensional sem padrão;

  • criar fatos e dimensões sem contrato;

  • publicar dado sem camada de consumo controlada;

  • misturar todos os domínios em uma tabela única sem critério.

A Silver Analítica é uma camada de preparação analítica reutilizável.A Gold é a camada de entrega e consumo final.

7. Entidades conformadas por domínio

A Silver Analítica deve organizar dados por domínio de negócio.

Exemplos de domínios:

clientes
produtos
contratos
vendas
financeiro
risco
operações
marketing
atendimento
logística

Exemplo de estrutura:

silver_analitica.clientes.cliente_conformado
silver_analitica.vendas.venda_conformada
silver_analitica.financeiro.movimento_financeiro_conformado
silver_analitica.contratos.contrato_conformado

A ideia é evitar que cada área interprete os mesmos dados de forma diferente.

8. Contrato analítico

Além do contrato técnico, esta camada deve ter um contrato analítico.

Exemplo conceitual:

domain: comercial
entity: vendas_conformadas
source_layer: silver_tecnica
target_layer: silver_analitica

business_keys:
  - codigo_venda
  - codigo_cliente

required_business_columns:
  - codigo_venda
  - codigo_cliente
  - data_venda
  - valor_venda
  - status_venda

business_rules:
  - nome: venda_valida
    regra: valor_venda > 0 and data_venda is not null

  - nome: status_conformado
    regra: status_venda in ('ATIVA', 'CANCELADA', 'PENDENTE')

derived_columns:
  - indicador_venda_ativa
  - faixa_valor_venda
  - ano_mes_venda

on_business_rule_violation: quality_quarantine
write_strategy: merge_incremental

Esse contrato define:

  • chaves de negócio;

  • regras de negócio;

  • colunas obrigatórias analíticas;

  • atributos derivados;

  • domínios válidos;

  • estratégia de escrita;

  • regra de quarentena;

  • critérios de aprovação.

9. Regras de negócio

As regras de negócio precisam ser explícitas e versionadas.

Exemplos:

valor_venda não pode ser negativo
data_cancelamento não pode ser anterior à data_adesao
cliente ativo não pode ter data_inativacao preenchida
contrato cancelado deve possuir motivo_cancelamento
status deve pertencer a uma lista controlada

Cada regra deve ter:

nome da regra
descrição
severidade
campos avaliados
ação em caso de falha
camada onde se aplica
versão
responsável

Severidades possíveis:

INFO
WARNING
BLOCKER

Regra INFO apenas registra.Regra WARNING alerta, mas pode permitir avanço.Regra BLOCKER manda para quarentena de qualidade.

10. Quarentena de qualidade

A quarentena aqui deixa de ser puramente técnica e passa a ser quarentena de qualidade ou regra de negócio.

Motivos comuns:

campo obrigatório de negócio ausente
valor fora de domínio permitido
regra de negócio violada
relacionamento órfão
chave de negócio ausente
data inconsistente
valor negativo indevido
duplicidade de negócio não resolvível
classificação inválida
percentual de erro acima do limite

A quarentena deve guardar:

batch_id
source_system
domain
entity
business_key
record_original
record_analitico_parcial
regra_violada
severidade
campo_com_erro
valor_recebido
valor_esperado
data_processamento
status
reprocess_flag

Status possíveis:

SILVER_ANALYTICS_QUARANTINED
SILVER_ANALYTICS_FAILED
SILVER_ANALYTICS_REPROCESS_REQUESTED
SILVER_ANALYTICS_REPROCESSED

11. Relacionamentos e integridade analítica

A Silver Analítica já pode validar relacionamentos importantes.

Exemplos:

venda precisa ter cliente válido
contrato precisa ter produto válido
movimento financeiro precisa ter conta válida
evento precisa ter entidade de referência

Falhas comuns:

cliente não encontrado
produto inexistente
contrato sem entidade mestre
registro filho sem registro pai
chave de negócio inconsistente

Esses casos podem ir para quarentena de qualidade ou entrar como alerta, dependendo da criticidade.

12. Métricas intermediárias e atributos derivados

A Silver Analítica pode criar atributos reutilizáveis, mas deve evitar ser a camada final de KPI executivo.

Permitido:

faixa_valor
faixa_atraso
idade_cliente
tempo_relacionamento
indicador_ativo
indicador_cancelado
classificacao_risco
status_conformado
tipo_pessoa
ano_mes_referencia

Evitar:

KPI executivo final sem governança
métrica com múltiplas definições
indicador financeiro oficial sem validação de negócio
regra duplicada em múltiplos modelos

KPIs oficiais devem ser consolidados preferencialmente na Gold ou na camada semântica.

13. Escrita na Silver Analítica

A escrita depende da natureza da entidade.

Entidade conformada atual

merge incremental
SCD1 analítico

Boa para:

cliente_conformado
produto_conformado
agencia_conformada
conta_conformada

Entidade histórica

SCD2 analítico
append versionado

Boa para:

contrato_historico
status_cliente_historico
produto_historico

Evento ou transação

append tratado
merge incremental com deduplicação

Boa para:

movimentos
vendas
transacoes
eventos
logs

Base de ciência de dados

snapshot por data de referência
feature table
dataset analítico versionado

Boa para:

features_cliente
features_contrato
base_churn
base_score_risco

14. Idempotência na Silver Analítica

A Silver Analítica também precisa ser idempotente.

Regras práticas:

mesma business_key não pode duplicar sem regra histórica
mesmo batch_id não deve gerar duplicidade
mudança de regra deve gerar nova versão controlada
reprocessamento deve preservar parent_batch_id
rebuild deve registrar transformation_version

Campos úteis:

_metadata_batch_id
_metadata_parent_batch_id
_metadata_business_key_hash
_metadata_analytics_row_hash
_metadata_rule_version
_metadata_transformation_version
_metadata_quality_score
_metadata_is_reprocess
_metadata_processed_at

15. Reprocessamento Silver Técnica → Silver Analítica

Tipos principais:

Reprocessamento por batch

Reprocessar batch_id específico da Silver Técnica

Reprocessamento por domínio

Reprocessar todas as entidades de um domínio

Reprocessamento por entidade

Reprocessar cliente_conformado, contrato_conformado, venda_conformada

Reprocessamento por regra de negócio

Reprocessar porque uma regra analítica mudou

Reprocessamento por data de referência

Reprocessar snapshot analítico de determinada data

Reprocessamento de quarentena

Reprocessar registros corrigidos da quarentena de qualidade

Rebuild analítico

Reconstruir a Silver Analítica a partir da Silver Técnica ou Bronze

16. Tabela de controle Silver Analítica

Recomendo uma tabela operacional:

control_silver_analytics_loads

Campos sugeridos:

silver_analytics_load_id
silver_tech_load_id
batch_id
parent_batch_id
source_system
domain
entity
silver_technical_table
silver_analytics_table
load_type
write_strategy
business_rule_version
transformation_version
status
record_count_input
record_count_output
record_count_quarantine
quality_score_business
schema_hash_input
schema_hash_output
started_at
finished_at
duration_seconds
is_reprocess
reprocess_reason
error_message

Status possíveis:

PENDING_SILVER_ANALYTICS
SILVER_ANALYTICS_RUNNING
SILVER_ANALYTICS_PROCESSED
SILVER_ANALYTICS_FAILED
SILVER_ANALYTICS_QUARANTINED
SILVER_ANALYTICS_REPROCESS_REQUESTED
SILVER_ANALYTICS_REPROCESSED

17. Observabilidade da Silver Analítica

Métricas importantes:

quantidade de registros de entrada
quantidade de registros aprovados
quantidade de registros em quarentena
percentual de rejeição por regra
tempo de execução
custo de execução
domínios afetados
entidades impactadas
quality_score por domínio
quantidade de relacionamentos órfãos
quantidade de regras violadas

Alertas úteis:

quality_score abaixo do limite
aumento anormal de quarentena
queda brusca de volume
duplicidade de negócio acima do limite
relacionamento órfão acima do limite
regra crítica violada
falha em entidade crítica

18. Critérios para avançar para Gold

Só deve avançar quando:

status = SILVER_ANALYTICS_PROCESSED

Condições mínimas:

regras de negócio aplicadas
domínios conformados
qualidade analítica aprovada
relacionamentos críticos validados
metadados preservados
quality_score de negócio aprovado
quarentena dentro do limite aceito
contrato analítico atendido

19. Saída esperada da Silver Analítica

Ao final do estágio, devemos ter:

entidades conformadas por domínio
regras de negócio aplicadas
dados prontos para análise reutilizável
bases analíticas para ciência de dados e ML
tabelas específicas por área
metadados preservados
quality_score analítico registrado
quarentena de qualidade controlada
base pronta para Gold

Status final esperado:

SILVER_ANALYTICS_PROCESSED

ou, em caso de erro:

SILVER_ANALYTICS_FAILED
SILVER_ANALYTICS_QUARANTINED

20. Resumo visual do estágio

SILVER TÉCNICA
  ↓
CONTRATO ANALÍTICO
  ↓
REGRAS DE NEGÓCIO
  ↓
CONFORMAÇÃO POR DOMÍNIO
  ↓
RELACIONAMENTOS E VALIDAÇÕES
  ↓
ATRIBUTOS DERIVADOS
  ↓
QUARENTENA DE QUALIDADE, se necessário
  ↓
SILVER ANALÍTICA
  ↓
SILVER_ANALYTICS_PROCESSED

Em caso de falha:

REGRA DE NEGÓCIO / VALIDAÇÃO ANALÍTICA
  ↓
QUARENTENA DE QUALIDADE
  ↓
CORREÇÃO
  ↓
REPROCESSAMENTO CONTROLADO
  ↓
SILVER ANALÍTICA

Definição final do estágio

A camada Silver Técnica → Silver Analítica é onde o dado passa de tecnicamente confiável para analiticamente reutilizável.

Ela organiza os dados por domínio, aplica regras de negócio, cria atributos derivados, valida relacionamentos, prepara bases para analytics, ciência de dados, machine learning e produtos de dados.

Essa camada evita que a Gold vire um local de correção e interpretação desorganizada.

A Silver Analítica deve entregar:

dados conformados por domínio, com regras de negócio aplicadas, qualidade analítica controlada e prontos para modelagem de consumo na Gold.


 
 
 

Comentários


bottom of page