SOC 2 avec l’IA

Est-il sûr de transmettre des documents de sécurité à ChatGPT ou à Claude ?

La réponse courte

Cela peut l’être, à condition de vérifier d’abord quatre points et de masquer les données sensibles de vos documents avant de les coller. Utiliser ChatGPT ou Claude pour des travaux de conformité revient à envoyer des documents hors de votre environnement : déterminez donc précisément ce qui en sort, qui peut le voir, si cela est conservé ou utilisé pour l’entraînement, et quel contrat couvre votre formule. Retirez les secrets, les données personnelles, les données clients et les détails exploitables de tout ce que vous téléversez. Traitez ensuite le fournisseur d’IA comme l’un de vos fournisseurs.

Points clés

  • La réponse dépend de votre formule, de vos paramètres et de votre contrat. Lisez la documentation du fournisseur lui-même pour la formule que vous utilisez.
  • Masquez les données sensibles d’une copie avant que l’assistant ne la voie. Conservez l’original inchangé.
  • Ne collez jamais de secrets, de clés ni de jetons. Procédez à la rotation de tous ceux qui ont été collés par erreur.
  • Un fournisseur d’IA qui reçoit des informations de l’entreprise a sa place dans votre inventaire des fournisseurs, avec une revue au dossier.

Que faut-il vérifier avant de coller des documents de sécurité dans ChatGPT ou Claude ?

Quatre questions déterminent si un document peut être transmis à un assistant. Répondez-y une fois pour chaque formule que votre entreprise utilise, et consignez les réponses par écrit.

Questions sur le traitement des données auxquelles répondre avant d’utiliser un assistant IA pour des travaux de conformité, et où trouver chaque réponse.
QuestionCe qu’il faut déterminerOù se trouve la réponse
Qu’est-ce qui sort de votre environnement ?Le texte que vous collez, les fichiers que vous téléversez et tout ce qu’un connecteur ou un agent peut lire en votre nomVotre propre configuration : les dossiers, les dépôts et les comptes auxquels l’assistant peut accéder
Qui peut le voir ?Quels collègues partagent l’espace de travail ou la conversation, et si le personnel du fournisseur ou ses sous-traitants ultérieurs peuvent accéder aux contenusLes paramètres de votre espace de travail et les conditions du fournisseur
Est-ce conservé ou utilisé pour l’entraînement ?Combien de temps les conversations et les fichiers sont conservés, si vous pouvez les supprimer, et si les contenus servent à entraîner des modèlesLa documentation du fournisseur sur la confidentialité et les paramètres de votre formule
Quel contrat le couvre ?Si votre entreprise a accepté des conditions commerciales ou si une personne a accepté, à titre individuel, des conditions grand public, et si un accord de traitement des données s’appliqueLe contrat lui-même, et la personne qui a ouvert le compte

Vérifiez aussi vos contrats clients. Certains limitent les lieux où les données des clients peuvent être traitées ou les sous-traitants ultérieurs auxquels vous pouvez recourir.

Une formule professionnelle est-elle différente d’une formule grand public ?

En général, oui. Les formules professionnelles et API relèvent habituellement de conditions commerciales et les formules grand public de conditions grand public, et les deux peuvent différer sur l’entraînement et la conservation. Nous ne résumons ici les conditions d’aucun fournisseur : elles changent, et la source est la page du fournisseur lui-même. Lisez la page qui correspond à la formule que vous utilisez.

Déterminez quel compte chaque personne utilise réellement. Un contrat d’entreprise couvre les comptes de l’entreprise. Il ne couvre pas un compte personnel qu’un salarié utilise pour son travail.

Que faut-il masquer dans un document de sécurité avant de le téléverser ?

Masquez les données sensibles sur une copie de travail et laissez l’original là où il est. La copie sert à l’analyse. Elle ne constitue pas un élément probant : ce que vous envoyez à l’auditeur, c’est l’enregistrement d’origine issu du système, comme l’expliquent le guide Ce que les auditeurs acceptent de l’IA et les bonnes pratiques de gestion des éléments probants d’audit (en anglais).

  • Secrets, clés et jetons : mots de passe, clés d’API, clés privées, chaînes de connexion, cookies de session.
  • Données personnelles : noms, adresses e-mail, dossiers RH et dossiers de vérification des antécédents. Remplacez-les par des fonctions ou des marqueurs de remplacement.
  • Données clients : noms de clients, clauses contractuelles, enregistrements issus de bases de données de production ou de tickets de support.
  • Détails de vulnérabilités non corrigées : constats ouverts issus de scans ou de tests d’intrusion, avec les hôtes concernés et les étapes de reproduction.
  • Topologies réseau exactes : adresses IP, noms d’hôte, identifiants de compte, règles de pare-feu, schémas comportant des identifiants réels.
  • Documents que vous détenez en vertu d’un accord de confidentialité, tels que le rapport SOC 2 d’une autre entreprise.

Les politiques et les procédures sont généralement les documents qui demandent le moins de masquage ; les rapports de scan, les listes d’accès et les documents d’architecture sont ceux qui en demandent le plus. La même prudence vaut pour les questionnaires de sécurité remplis avec l’IA.

Prompt : planifier le masquage des données sensibles d’un document avant analyse

Je veux analyser un document de sécurité avec vous, et je dois d’abord en masquer les données sensibles. Ne me demandez pas encore de coller le document.

Demandez-moi de quel type de document il s’agit (politique, description d’architecture, rapport de scan, liste d’accès, questionnaire), quels systèmes il décrit et ce que je veux en apprendre, afin que nous gardions ce dont l’analyse a besoin et retirions le reste.

Aidez-moi ensuite à planifier le masquage :
1. Listez les catégories à rechercher dans ce type de document : secrets, clés et jetons ; données personnelles ; données clients ; détails de vulnérabilités non corrigées ; topologies réseau exactes telles que les adresses IP, les noms d’hôte et les identifiants de compte.
2. Pour chaque catégorie, donnez-moi des motifs de recherche que je peux exécuter sur ma propre machine et un marqueur de remplacement cohérent pour chaque occurrence, par exemple [HÔTE-1] ou [SALARIÉ-A], afin que le document reste lisible.
3. Dites-moi quels détails sont nécessaires à l’analyse et lesquels ne le sont pas. Signalez chaque hypothèse que vous faites au sujet du document.

J’appliquerai moi-même le masquage à une copie et je conserverai l’original inchangé. Lorsque je collerai la copie dont les données sensibles ont été masquées, vérifiez-la une nouvelle fois et dites-moi si un élément de la liste y figure encore, sans répéter la valeur sensible dans votre réponse.

Indiquez tout ce que vous avez supposé et que je dois vérifier.

Utiliser un assistant IA fait-il de son éditeur l’un de nos fournisseurs ?

Oui. Dès que des informations de l’entreprise sont transmises à un assistant, son éditeur est un fournisseur qui traite vos données. Ajoutez-le à votre inventaire des fournisseurs, classez-le par niveau selon les données qu’il reçoit, revoyez ses conditions et sa documentation de sécurité, et consignez qui a approuvé son utilisation. Les étapes sont décrites dans notre guide sur la gestion des fournisseurs pour la conformité SOC 2 (en anglais). Si l’assistant fait partie du service que vous fournissez à vos clients, vérifiez si son éditeur est une organisation sous-traitante.

Rédigez une règle courte sur l’usage acceptable : quelles formules sont approuvées, ce qui peut être partagé et ce qui ne peut pas l’être. Puis appliquez-la. Les politiques et les descriptions rédigées avec une IA ne sont acceptables que si elles décrivent ce que votre entreprise fait réellement. L’audit teste le fonctionnement des contrôles, non la rédaction des documents.

Un agent qui a accès à votre compte cloud peut lire bien plus que le fichier que vous vouliez lui montrer. Donnez-lui un accès en lecture seule limité à la tâche : voir la collecte des éléments probants SOC 2 avec des agents IA.

Ces décisions appartiennent à la direction. Nous ne choisissons pas votre fournisseur d’IA, n’approuvons pas vos paramètres et ne rédigeons pas votre règle. Dans un audit SOC 2 Zero-Platform, nous examinons les éléments probants montrant que vos contrôles ont fonctionné. C’est le principe : préparation guidée par l’IA, audit réalisé par un cabinet CPA ; l’ensemble de la démarche est décrit dans SOC 2 avec l’IA.

Qui fait quoi

Qui fait quoi lorsque vous décidez de ce qui peut être transmis à un assistant IA.
TâcheVotre équipe (avec ou sans IA)Votre assistant IAL’auditeur
Formule et paramètresDécide de l’assistant et de la formule approuvés, et de qui peut les utiliserExplique une clause ou un paramètre que vous collez ; vous lisez la sourceAucun rôle
Masquage des données sensiblesMasque les données sensibles d’une copie sur ses propres machines et conserve l’originalPropose des catégories, des motifs et des marqueurs de remplacement ; vérifie la copie après masquageN’intervient pas. Examine les enregistrements d’origine, non les copies de travail
Revue du fournisseur d’IAAjoute le fournisseur à l’inventaire, revoit ses conditions, consigne l’approbationÉbauche des questions de revue à partir de votre politique de gestion des fournisseursInspecte l’inventaire des fournisseurs et les revues au dossier
Règle d’usage acceptableLa rédige, l’approuve et l’appliqueÉbauche une formulation à partir de ce que vous lui ditesLit la règle et teste si la pratique y correspond

Questions fréquentes

Pouvons-nous téléverser nos politiques SOC 2 dans ChatGPT ou Claude ?

Les politiques contiennent rarement des secrets ; elles comptent donc parmi les documents les moins risqués sur lesquels travailler. Retirez tout de même les noms, les noms d’hôte internes et tout ce qu’un contrat client considère comme confidentiel, et utilisez une formule que votre entreprise a approuvée.

Et si quelqu’un a déjà collé une clé ou un mot de passe ?

Procédez immédiatement à sa rotation. Supprimez ensuite la conversation si la formule le permet, et consignez ce qui s’est passé comme l’exige votre processus de gestion des incidents.

Une formule professionnelle est-elle toujours plus sûre qu’une formule grand public ?

Pas automatiquement. Les conditions sont habituellement différentes, et elles peuvent différer sur l’entraînement et la conservation. La réponse pour votre formule se trouve dans la documentation du fournisseur lui-même et dans le contrat que votre entreprise a accepté. Lisez les deux.

L’auditeur s’intéresse-t-il à l’assistant IA que nous utilisons ?

Nous ne choisissons ni n’approuvons vos outils. Nous regardons si l’éditeur de l’assistant figure dans votre inventaire des fournisseurs, s’il a été revu comme le prévoit votre politique, et si vos équipes suivent votre propre règle sur ce qui peut être partagé.

Sources et lectures complémentaires

AICPA, 2017 Trust Services Criteria (with revised points of focus, 2022) ; SSAE No. 18, sections AT-C 105 et 205. Les liens vers la documentation des fournisseurs figurent plus haut.

À lire aussi : Gestion des fournisseurs pour SOC 2 (en anglais), Comment définir le périmètre des systèmes pour SOC 2 (en anglais), SOC 2 avec Claude ou ChatGPT.

Les noms de produits sont des marques de leurs propriétaires respectifs. Auditsuisse n’est affilié à aucun de ces éditeurs.

Sébastien Ruosch

Travaillez avec un cabinet CPA agréé

Auditsuisse Assurance NA PC est un cabinet CPA américain agréé, inscrit au programme de revue par les pairs (Peer Review) de l’AICPA et autorisé à réaliser des examens SOC 2 et à émettre des rapports SOC 2. Vous préparez ; nous examinons vos éléments probants. Consultez l’audit SOC 2 Zero-Platform ou réservez un appel de cadrage.

Haut de page ↑