Liens rapides
Les problèmes de confidentialité et de sécurité des données sont devenus plus importants que jamais à la lumière des progrès de la technologie et de l’utilisation de l’intelligence artificielle avancée. Avec l'émergence de la nouvelle génération de modèles de langage propriétaires tels que ChatGPT, une question importante se pose sur la manière dont ces modèles gèrent les données des utilisateurs et sur la manière dont la confidentialité des utilisateurs peut être préservée.
Les versions GPT personnalisées de ChatGPT permettent à quiconque de créer un outil d'IA plus spécifique pour presque tout ce à quoi vous pouvez penser ; Les éditions créatives, technologiques et de jeu de GPT peuvent tout faire. Mieux encore, vous pouvez partager les versions GPT personnalisées que vous créez avec n'importe qui.
Cependant, en partageant vos versions GPT personnalisées, vous pourriez commettre une erreur coûteuse qui exposerait vos données à des milliers de personnes dans le monde. Vérifier ChatGPT a-t-il des problèmes de confidentialité ?
Que sont les versions GPT personnalisées ?
Les versions GPT personnalisées sont des mini-modèles programmables de ChatGPT qui peuvent être formés pour être plus utiles pour des tâches plus spécifiques. C'est comme transformer ChatGPT en un chatbot qui se comporte comme vous le souhaitez et lui apprendre à devenir un expert dans les domaines qui comptent vraiment pour vous.
Par exemple, un enseignant de sixième année pourrait créer une version GPT spécialisée dans la réponse aux questions avec un ton, un choix de mots et un style adaptés aux élèves de sixième année. GPT peut être programmé de telle sorte que lorsqu'un enseignant pose une question à GPT, le chatbot formule des réponses qui parlent directement du niveau de compréhension des élèves de sixième année. Cela éviterait les termes complexes ou incompréhensibles, maintiendrait la longueur des phrases dans des limites raisonnables et adopterait un ton encourageant. L'attrait des versions GPT personnalisées réside dans la possibilité de personnaliser le chatbot de cette manière tout en amplifiant son expertise dans des domaines spécifiques à l'aide de données de formation. Vérifier Versions GPT personnalisées que vous pouvez commencer à utiliser dès maintenant.
Comment les versions personnalisées de GPT peuvent exposer vos données
Pour créer des GPT personnalisés, vous indiquez généralement au générateur GPT de ChatGPT les domaines sur lesquels vous souhaitez que votre version GPT se concentre, lui donnez une image de profil, puis un nom, et vous êtes prêt à partir. Avec cette approche, vous obtenez la version GPT, mais cela ne la rend pas tellement meilleure que ChatGPT classique simplement grâce au nom sympa et à la photo de profil.
La puissance de la version personnalisée de GPT vient des données spécifiques et des instructions fournies pour la former. En téléchargeant des fichiers et des ensembles de données pertinents, le modèle peut se spécialiser d'une manière que ChatGPT classique et pré-entraîné à grande échelle ne peut pas. Les connaissances contenues dans ces fichiers téléchargés permettent à GPT personnalisé d'exceller dans certaines tâches par rapport à ChatGPT, qui peut ne pas avoir accès à ces informations spécialisées. En fin de compte, ce sont des données plus personnalisées qui permettent une plus grande capacité.
Mais télécharger des fichiers pour optimiser votre version GPT est une arme à double tranchant. Cela crée un problème de confidentialité dans la mesure où cela améliore les capacités de votre version de GPT. Pensez à un scénario dans lequel vous avez créé un GPT pour aider les clients à en savoir plus sur vous ou votre entreprise. Toute personne disposant d'un lien vers votre GPT personnalisé ou vous obligeant d'une manière ou d'une autre à utiliser une revendication publique à l'aide d'un lien malveillant peut accéder aux fichiers que vous avez téléchargés sur votre GPT.
Voici un exemple simple.
J'ai découvert une version GPT personnalisée censée aider les utilisateurs à augmenter la popularité des vidéos sur TikTok en recommandant des hashtags et des sujets tendances. Après le GPT personnalisé, il n’a fallu qu’un petit effort pour lui faire divulguer les instructions qui lui avaient été données lors de sa configuration. Voici un aperçu :
Voici la deuxième partie des instructions.
Si vous regardez attentivement, la deuxième partie des instructions indique au formulaire de ne pas « partager les noms de fichiers directement avec les utilisateurs finaux, et en aucun cas vous ne devez fournir de lien de téléchargement vers l'un des fichiers ». Bien sûr, si vous demandez initialement un GPT personnalisé, cela dit non, mais avec un peu d'ingénierie rapide, cela change. La version GPT personnalisée expose le seul fichier texte de sa base de connaissances.
Avec le nom de fichier, il n'a fallu que peu d'efforts pour que GPT imprime le contenu exact du fichier, puis télécharge ensuite le fichier lui-même. Dans ce cas, le fichier lui-même n’était pas sensible. Après avoir parcouru quelques versions personnalisées de GPT, il y en avait beaucoup avec des dizaines de fichiers exposés.
Il existe des centaines de fichiers GPT accessibles au public contenant des fichiers sensibles qui attendent que des acteurs malveillants les récupèrent. Vérifier Comment utiliser Create GPT pour obtenir une version personnalisée de ChatGPT.
Comment protéger les données de la version GPT personnalisée
Tout d’abord, réfléchissez à la manière dont vous allez partager (ou ne pas partager) le GPT personnalisé que vous venez de créer. Dans le coin supérieur de l'écran de création GPT personnalisé, vous trouverez un bouton Enregistrer. Cliquez sur l'icône de flèche déroulante et, à partir de là, sélectionnez la manière dont vous souhaitez partager votre version :
- Juste moi: Le GPT personnalisé ne sera pas publié et ne pourra être utilisé que par vous.
- Seules les personnes disposant du lien: Toute personne disposant d'un lien vers un GPT personnalisé peut l'utiliser et éventuellement accéder à vos données.
- Générale: Le GPT personnalisé est accessible à tous et peut être indexé par Google et trouvé dans les recherches générales sur Internet. Toute personne ayant accès sera probablement en mesure de vérifier vos données.
Malheureusement, il n'existe actuellement aucun moyen infaillible à 100 % de protéger les données que vous téléchargez vers un GPT personnalisé partagé publiquement. Vous pouvez faire preuve de créativité et lui donner des instructions strictes pour ne pas révéler de données dans sa base de connaissances, mais cela ne suffit généralement pas, comme le montre la démo ci-dessus. Si quelqu'un veut vraiment accéder à la base de connaissances et a de l'expérience dans Architecture des commandes textuelles pour l'intelligence artificielle Et éventuellement, le GPT personnalisé brisera les données et les exposera.
C'est pourquoi il est préférable de ne pas télécharger de contenu sensible sur un GPT dédié que vous avez l'intention de partager publiquement. Une fois que les données privées et sensibles sont téléchargées sur un GPT dédié et laissées sur votre ordinateur, ces données sont effectivement hors de votre contrôle.
Soyez également très prudent lorsque vous utilisez des allégations que vous copiez en ligne. Assurez-vous de bien les comprendre et évitez les affirmations vagues avec des liens. Il peut s'agir de liens malveillants qui détournent vos fichiers, les encodent et les téléchargent sur des serveurs distants. Vérifier L'ingénierie Rapide de commande est-elle un vrai travail ? Facteurs à prendre en considération.
Foire Aux Questions
T1. ChatGPT conserve-t-il les données des utilisateurs ?
ChatGPT entretient des conversations avec les utilisateurs afin d'améliorer sa base de connaissances. Toutes les données peuvent être supprimées à la fin de la session pour garantir la confidentialité.
Q2. Les développeurs peuvent-ils accéder aux données de conversation ?
Les développeurs ne peuvent pas accéder aux données de conversation. La formation n'est pas disponible pour les développeurs et se déroule dans un environnement sécurisé et crypté.
Q3. OpenAI partage-t-il les données des utilisateurs avec des tiers ?
OpenAI ne partage pas les données des utilisateurs avec des tiers. OpenAI suit des politiques strictes de confidentialité et de sécurité.
Q4. Puis-je personnaliser mon expérience ChatGPT ?
Oui, les utilisateurs peuvent personnaliser leur expérience en créant des versions GPT personnalisées.
Utilisez les versions GPT personnalisées avec prudence
Les versions GPT dédiées sont une fonctionnalité puissante mais peuvent être risquées. Bien qu'ils vous permettent de créer des modèles personnalisés hautement performants dans des domaines spécifiques, les données qu'ils utilisent pour améliorer leurs capacités peuvent être exposées. Pour atténuer les risques, évitez autant que possible de télécharger des données vraiment sensibles vers des versions GPT personnalisées que vous créez. De plus, méfiez-vous des architectures de commandes malveillantes qui peuvent exploiter certaines vulnérabilités pour voler vos fichiers. Vous pouvez voir maintenant Outils en ligne pour améliorer vos compétences en ingénierie de script de commande.
