Le problème : surveiller les abus sans stocker les données

Le Zero Data Retention répond à une demande classique : ne pas laisser un fournisseur conserver des prompts et des réponses qui peuvent contenir des secrets (données clients, informations financières, stratégie, propriété intellectuelle). Mais les risques les plus graves ne se lisent pas toujours sur une seule interaction. Ce qu’on observe souvent en entreprise, c’est un usage qui devient problématique “par accumulation” : une suite de requêtes qui contourne des garde-fous, ou un agent qui continue d’agir après qu’on lui a demandé d’arrêter.

Conserver des logs détaillés aide à investiguer, mais augmente la surface d’exposition (accès interne, réquisition, fuite, durées de conservation, transferts). D’où la tension : renforcer la sécurité sans revenir à une logique de rétention systématique.

Ce qu’OpenAI annonce (faits, périmètre, calendrier)

D’après OpenAI, le Zero Data Retention signifie que les prompts et réponses ne sont pas conservés après traitement, que le contenu n’est pas disponible pour revue par des équipes OpenAI, et que les données des clients entreprise ne sont pas utilisées pour entraîner les modèles sauf opt-in.

Avec Private Safety Processing, OpenAI dit vouloir :

• détecter des schémas d’abus sur plusieurs interactions liées

• le faire via des systèmes automatisés, sans donner accès au contenu à des équipes humaines

• ne remonter à OpenAI qu’un signal “étroitement défini” (type d’activité), pas les textes

OpenAI indique que la fonctionnalité est en test avec des clients pilotes et prévoit un déploiement plus large ainsi qu’un document technique (white paper) en septembre 2026.

Point à noter : comme souvent, une promesse “ZDR” doit se lire avec ses exceptions. Par exemple, OpenAI mentionne explicitement une exception légale pour le signalement de contenus d’abus sexuel sur mineurs (CSAM) sur les images, qui peuvent être retenues pour revue et signalement, y compris en ZDR.

Pourquoi ça compte (sécurité, conformité, contrats, architecture)

Pour une organisation, l’intérêt est double.

D’un côté, cela peut réduire un frein majeur à l’adoption : si les équipes sécurité et conformité considèrent qu’aucune donnée sensible ne doit être stockée chez le fournisseur, un mécanisme qui maintient cette posture tout en améliorant la détection d’abus rend le compromis plus acceptable.

De l’autre, cela oblige à clarifier les responsabilités. Si OpenAI ne conserve pas le contenu, une partie de l’investigation doit se faire chez vous : traces applicatives, logs d’orchestration, journaux d’accès, et conservation encadrée (durée, chiffrement, droits).

En pratique, trois zones méritent une lecture attentive :

• Contrats et DPA : qui est responsable de quoi quand un signal de sécurité déclenche une action (blocage, limitation, escalade) ?

• Architecture : où vivent les logs nécessaires à l’audit, et comment les protéger ?

• Gouvernance : comment documenter qu’un agent n’a pas dépassé ses droits, sans stocker des conversations complètes ?

Cas d’usage concrets en entreprise

1) Agents qui exécutent des actions (IT, support, finance). Quand un agent enchaîne des étapes (chercher une info, rédiger, déclencher une action), le risque vient parfois du workflow, pas d’un prompt isolé. Une détection multi-interactions, même sans contenu, peut aider à repérer des séquences anormales.

2) Équipes data/BI qui automatisent de la préparation de données. Les pipelines “agentiques” manipulent des jeux de données sensibles. Un mode ZDR plus robuste peut faciliter un feu vert, si l’observabilité interne est au niveau.

3) Développement logiciel et tooling. Quand des prompts contiennent du code propriétaire, la non-rétention reste un prérequis. Mais les abus (exfiltration, contournements) se détectent souvent via des patterns, d’où l’intérêt de signaux.

Implications pour les équipes (RSSI, juridique, data/produit, procurement)

RSSI / sécurité. Préparez une grille d’évaluation : quels signaux sont remontés, quels contrôles existent, quel est le “mode dégradé” si un signal se déclenche (blocage, revue interne, changement de modèle) ?

Juridique / conformité. Vérifiez les mécanismes de transfert et de conservation : qui conserve quoi, où, combien de temps, et comment vous répondez à une demande d’audit ou à un incident sans journaux complets chez le fournisseur.

Produit / data. Faites la différence entre logs nécessaires (traçabilité d’actions, IDs, horodatage, scopes) et logs risqués (texte intégral). Concrètement, on peut souvent conserver des métadonnées utiles sans stocker le contenu.

Achats / procurement. Traitez le white paper de septembre comme une pièce de due diligence. C’est typiquement le document qui clarifie les garanties techniques, les limites, et les exceptions opérationnelles.