+38% de capacidade numa frota de transcrição, sem comprar hardware

O problema

O volume ia dobrar e a pergunta era “qual máquina comprar”. Antes de responder, medi o que a frota atual estava desperdiçando.

O que foi descoberto

• O áudio médio tem 3,95 s, mas a janela do reconhecedor é fixa em 30 s: o sistema processava 7,6× o áudio real, quase tudo silêncio acrescentado por ele mesmo.
• O parâmetro temperature não é um número — é uma lista de fallback. Quando a primeira passada não passa nos limiares, ele reamostra com temperatura maior, e best_of=5 multiplica cada tentativa por cinco. A triagem era não-determinística: 10,6% dos textos divergiam entre duas execuções idênticas.
• Fixar em zero deu −27% de tempo mudando 0,5% das decisões, contra um piso de ruído de 0,4% — e errando para o lado seguro.

Duas otimizações “óbvias” foram reprovadas pela mesma bancada: detector de voz (perde 2,4% dos casos) e empacotar vários áudios na janela (−65% de tempo, mas o modelo passa a entender o aluno e o erro some). O dano do empacotamento é degrau, não rampa: dois clipes por janela já causam 70% do estrago.

O que foi medido em produção

A máquina sem o patch virou grupo de controle involuntário — a única que não melhorou. É ela que sustenta a causalidade.

O que o cliente não precisou fazer

Comprar nada ainda. A recomendação de compra veio depois, com a conta refeita sobre a capacidade real.