O que acontece com seu conteúdo
O conteúdo de inferência da API não é gravado em banco, fila, log ou trace. Chats salvos ficam guardados e cifrados até você apagar.
Inferência da API
- Conteúdo que guardamos
- Nenhum. Prompts e respostas existem na memória do gateway enquanto a requisição roda.
- Proteção
- TLS em trânsito.
- Remoção
- Ao fim da requisição, exceto o cache de idempotência descrito abaixo.
- O que fica
- Metadados de uso.
Chat salvo
- Conteúdo que guardamos
- Títulos, mensagens, raciocínio, citações e arquivos anexados.
- Proteção
- AES-256-GCM, com uma chave por conversa e uma por arquivo.
- Remoção
- Quando você apaga a conversa. Os arquivos anexados não saem junto.
- O que fica
- Um registro de exclusão da conversa, registros de execução, rótulos das etapas de ferramenta, arquivos anexados e metadados de uso.
Chat efêmero
- Conteúdo que guardamos
- Nenhuma conversa e nenhuma mensagem. Eventos de execução cifrados, além de qualquer arquivo enviado.
- Proteção
- Os eventos de execução usam uma chave aleatória por execução, só na memória do processo. Arquivos enviados usam uma chave por arquivo, envolvida pela chave da organização.
- Remoção
- Os eventos de execução são apagados 1 hora depois do fim da execução.
- O que fica
- Um registro de execução, rótulos das etapas de ferramenta, arquivos enviados e metadados de uso.
- Cache de idempotência
- Se você envia um Idempotency-Key em uma chamada sem streaming, a resposta completa fica na memória do processo do gateway por 24 horas, para que uma nova tentativa receba a mesma resposta. Ela nunca vai para o disco, só sua organização consegue reaproveitá-la e um reinício apaga tudo.
- Rótulos das etapas de ferramenta
- As execuções de chat registram em texto claro o alvo de cada chamada de ferramenta, sem expiração automática: a consulta de busca na web, a consulta de busca em arquivos, a consulta de CVE, o nome do arquivo ou o hostname do read_url. As URLs de citação também ficam em texto claro.
- Treinamento de modelos
- Não usamos conteúdo de clientes para treinar modelos de IA nem para análise de modelos. Metadados são analisados para cobrança, monitoramento de abuso e operação.
- Parceiros de data center de IA
- Todos os parceiros ficam nos Estados Unidos ou na China e confirmaram à NotHoly que não retêm, não armazenam nem usam o conteúdo da inferência. A NotHoly os verifica e checa periodicamente.