A API da NotHoly entra no seu código OpenAI ou Anthropic

Trocar de provedor de modelo quase sempre significa reescrever: outro cliente, outros campos de requisição, outro streaming. É esse custo que prende um time a um provedor muito depois de ter motivo para sair. A NotHoly tira o custo falando as duas formas de API que o seu código já usa.

A API é compatível com os formatos da OpenAI e da Anthropic. Você troca a base URL, a chave e o ID do modelo, e a biblioteca cliente, os corpos de requisição, as definições de ferramenta e o streaming que você já escreveu continuam funcionando. A mesma conta e a mesma chave alcançam as duas formas. Chaves, orçamentos e a lista de modelos ficam em uma conta só, então um time pode migrar um serviço de cada vez.

#A forma OpenAI

Aponte o SDK da OpenAI para a NotHoly e escolha um ID de modelo no catálogo. Nada mais na chamada muda, inclusive as ferramentas de função que você passa e o jeito de ler uma resposta em stream.

from openai import OpenAI

client = OpenAI(base_url="https://api.notholy.com/v1", api_key="nh_live_...")

r = client.chat.completions.create(
    model="MODEL_ID",
    messages=[{"role": "user", "content": "List the auth checks this endpoint is missing."}],
    max_tokens=800,
)
print(r.choices[0].message.content)

GET /v1/chat/completions, /v1/completions e /v1/responses respondem nessa forma, com server-sent events quando você liga stream, cada evento uma linha data: que termina em data: [DONE]. Tanto Authorization: Bearer quanto x-api-key são aceitos, então um cliente que manda qualquer um dos cabeçalhos funciona sem mudança.

#A forma Anthropic

Os SDKs da Anthropic usam https://api.notholy.com como base URL, sem /v1, e chamam POST /v1/messages. Você mantém max_tokens e mantém o reasoning: thinking com um orçamento de tokens, ou output_config.effort para um nível nomeado que mapeia para o mais próximo que o modelo tem. Os turnos user e assistant carregam blocos text, tool_use e tool_result do mesmo jeito.

curl https://api.notholy.com/v1/messages \
  -H "x-api-key: $NOTHOLY_API_KEY" \
  -H "anthropic-version: 2023-06-01" \
  -H "Content-Type: application/json" \
  -d '{"model": "MODEL_ID", "max_tokens": 800, "thinking": {"type": "enabled", "budget_tokens": 2000}, "messages": [{"role": "user", "content": "Explain this stack trace and name the likely bug class."}]}'

A resposta é a forma de mensagem da Anthropic, os erros usam os tipos de erro da Anthropic, e um stream devolve eventos da Anthropic. POST /v1/messages/count_tokens estima o tamanho da entrada antes de você enviar, sem chamar o modelo.

#As ferramentas que você já roda

Como as formas batem, as bibliotecas em cima delas também batem. Os SDKs da OpenAI e da Anthropic em qualquer linguagem apontam para a NotHoly só por configuração, e o mesmo vale para os agentes de código que falam esses protocolos. A CLI escreve essa configuração para agentes como Claude Code, Codex e OpenCode, então você não edita cada um na mão. O guia de migração é a versão curta: base URL, chave, modelo. O uso é medido por token na tarifa publicada de cada modelo em todos esses endpoints, então a troca não muda como você pensa o custo. Seu harness de avaliação, seu wrapper de log e sua lógica de retry mantêm o sentido, porque a requisição e a resposta que eles embrulham não mudaram.

#Onde não encaixa

Algumas coisas não passam junto. A API Responses é sem estado, então previous_response_id devolve 400. cache_control é aceito e ignorado, porque o cache roda sozinho. Nos endpoints crus o servidor não roda nenhuma ferramenta própria; ele roda só as ferramentas de função que você manda, e o seu código as executa. n tem que ser 1. Ainda não há modelo de embedding, e não há endpoint de batch, fine-tuning, assistants, áudio ou geração de imagem. Uma fonte document em PDF na forma Messages devolve 400, então mande arquivos pelo chat ou pelo endpoint de arquivos.

Se a única coisa que te prende a um provedor é o trabalho de integração, aqui tem pouco dele. Ponha um saldo pequeno em preços, troque três valores e rode o código que você já tem.