Glossario de IA: o que voce precisa saber antes de construir

O jargao da IA pode ser um filtro silencioso

Voce le sobre IA e encontra LLM, RAG, RLHF, tokens, inferencia. Em cinco minutos, ate quem ja trabalha com tecnologia se sente perdido. Esse glossario tenta resolver isso. Mas mais do que uma lista de definicoes, ele revela onde as decisoes tecnicas realmente acontecem.

O fato: um glossario vivo para um campo que nao para

A equipe do IA Feed compilou e atualiza regularmente um glossario com os principais termos de inteligencia artificial. A ideia e oferecer um documento de referencia que acompanhe a evolucao do setor. Nao se trata de teoria abstrata: cada termo representa uma escolha de engenharia com impacto direto em custo, latencia e arquitetura.

Como funciona na visao de operador

Vamos pegar alguns exemplos do glossario e traduzir para quem constroi:

• Token e token throughput: tokens sao os fragmentos de texto que um modelo processa. A taxa de tokens por segundo determina quantos usuarios voce pode atender simultaneamente e qual o custo por requisicao. Empresas cobram por token, entao otimizar o throughput e economizar dinheiro vivo.
• Inferencia: e o processo de rodar o modelo ja treinado. Hardware importa: um modelo grande pode levar segundos num laptop, mas milissegundos num servidor com GPUs dedicadas. O equilibrio entre velocidade e custo e o dilema central de qualquer deploy.
• Memory cache (KV cache): uma otimizacao que armazena calculos intermediarios para evitar reprocessar tudo a cada pergunta. Sem cache, conversas longas ficam inviaveis por causa do custo computacional. Com cache, voce ganha velocidade, mas consome mais RAM. O famoso tradeoff entre memoria e latencia.
• Fine tuning e distillation: fine tuning e pegar um modelo base e adapta lo com dados especificos. Distillation e ensinar um modelo menor a imitar um maior. Ambas sao formas de reduzir custo e latencia mantendo qualidade. Mas distillation a partir de um concorrente viola termos de servico e e arriscado.

O que isso muda na pratica

Quem ganha? Desenvolvedores que entendem esses conceitos conseguem projetar sistemas mais eficientes desde o inicio. Quem perde? Equipes que tratam a API como caixa preta e so ajustam prompts, sem olhar para o consumo de tokens ou o impacto do cache. A acao pratica imediata e monitorar o token throughput e o custo por chamada de API. Ferramentas como LangSmith ou logs customizados ajudam a identificar gargalos.

A tensao real: o glossario da seguranca ou so a ilusao de controle?

Saber o que significa cada termo e necessario, mas nao suficiente. O campo muda rapido: tecnicas como chain of thought ou agentes de codigo redefinem o que e possivel a cada trimestre. O risco e acumular definicoes e achar que entendeu, enquanto a engenharia real exige experimentacao constante. Voce sabe o que e um endpoint de API, mas seu agente consegue usar um sem intervencao manual? Saber o nome nao substitui testar na pratica.

Fechamento: comeco pelos tokens

De todos os termos, tokens e token throughput sao os que mais impactam o bolso e a experiencia do usuario. Entenda como seu modelo quebra o texto, quanto custa cada mil tokens e como otimizar o cache. O resto do glossario e importante, mas esse e o primeiro passo para construir algo que funcione em producao sem quebrar o orcamento.