Les contrôles parentaux de ChatGPT sont pour le moment disponibles sur la version web du bot, la version pour les apps mobiles est dans les tuyaux. Il s’agit d’encadrer l’usage de l’IA par les ados, tout en respectant leur autonomie et la confidentialité des échanges qu’ils peuvent avoir avec le chatbot. L’initiative intervient après le suicide d’un ado ; sa famille accuse ChatGPT de l’avoir poussé au pire.
De nouveaux garde-fous pour ChatGPT
Concrètement, une fois le compte d’un parent connecté à celui de son ado, plusieurs réglages deviennent accessibles, à commencer par la réduction des contenus sensibles : limitation des contenus graphiques, défis viraux, jeux de rôle sexuels ou violents, idéaux de beauté extrêmes. La génération d’images et le mode vocal sont désactivés. ChatGPT n’enregistre plus l’historique des conversations. Il y a aussi la possibilité de définir des plages horaires durant lesquelles le bot n’est pas disponible.
Les parents recevront des notifications si un problème de sécurité est détecté. Les adolescents conservent la possibilité de couper le lien entre comptes, mais leurs parents seront prévenus. Les conversations restent privées : aucune lecture n’est possible par les parents, sauf si les systèmes d’OpenAI identifient un risque grave pour la sécurité.
OpenAI précise avoir intégré un système d’alerte en cas de signaux de détresse psychologique. Si un risque sérieux est détecté, une équipe interne examinera la situation. Le cas échéant, les parents peuvent recevoir une alerte. Dans des situations extrêmes, l’entreprise se réserve la possibilité de prévenir les services d’urgence. Elle souligne toutefois qu’elle ne partagera que les informations strictement nécessaires.
Quant au système de prédiction de l’âge, il est toujours en construction. « Lorsque nous détecterons qu’un utilisateur a moins de 18 ans, il sera automatiquement orienté vers une expérience ChatGPT avec des politiques adaptées à son âge », explique OpenAI. Un guide pour les parents, en anglais pour le moment, est accessible à cette adresse.
🔴 Pour ne manquer aucune actualité de 01net, suivez-nous sur Google Actualités et WhatsApp.
Source : OpenAI
