Cosa succede ai tuoi contenuti
Il contenuto dell'inferenza API non finisce in database, code, log o trace. Le chat salvate restano cifrate finché non le elimini.
Inferenza API
- Contenuto che salviamo
- Nessuno. Prompt e output esistono nella memoria del gateway mentre la richiesta è in corso.
- Protezione
- TLS in transito.
- Rimosso
- Quando la richiesta finisce, salvo la cache di idempotenza descritta sotto.
- Cosa resta
- Metadati di utilizzo.
Chat salvata
- Contenuto che salviamo
- Titoli, messaggi, ragionamento, citazioni e file allegati.
- Protezione
- AES-256-GCM, con una chiave per conversazione e una per file.
- Rimosso
- Quando elimini la conversazione. I file allegati non vengono rimossi con lei.
- Cosa resta
- Una traccia della conversazione eliminata, i record delle esecuzioni, le etichette dei passi degli strumenti, i file allegati e i metadati di utilizzo.
Chat effimera
- Contenuto che salviamo
- Nessuna conversazione e nessun messaggio. Eventi dell'esecuzione cifrati, più gli eventuali file caricati.
- Protezione
- Gli eventi dell'esecuzione usano una chiave casuale per esecuzione, tenuta solo nella memoria del processo. I file caricati usano una chiave per file avvolta dalla chiave dell'organizzazione.
- Rimosso
- Gli eventi dell'esecuzione vengono eliminati 1 ora dopo la fine dell'esecuzione.
- Cosa resta
- Un record dell'esecuzione, le etichette dei passi degli strumenti, gli eventuali file caricati e i metadati di utilizzo.
- Cache di idempotenza
- Se invii un Idempotency-Key in una chiamata non in streaming, la risposta completa resta nella memoria del processo del gateway per 24 ore, così un nuovo tentativo riceve la stessa risposta. Non viene mai scritta su disco, solo la tua organizzazione può riprodurla e un riavvio la cancella.
- Etichette dei passi degli strumenti
- Le esecuzioni in chat registrano in chiaro il bersaglio di ogni chiamata di strumento, senza scadenza automatica: la query di ricerca web, la query di ricerca nei file, la query CVE, il nome del file o l'hostname di read_url. Anche gli URL delle citazioni sono in chiaro.
- Addestramento dei modelli
- Non usiamo i contenuti dei clienti per addestrare modelli di IA né per analisi sui modelli. I metadati vengono analizzati per fatturazione, monitoraggio degli abusi e operatività.
- Partner di data center di IA
- Ogni partner ha confermato a NotHoly che non conserva, non archivia e non usa il contenuto dell'inferenza. NotHoly li verifica e li controlla periodicamente.