« Les ados grandissent avec l’IA, et c’est à nous de faire en sorte que ChatGPT les accompagne là où ils en sont », explique OpenAI. L’entreprise poursuit la discussion entamée au début de mois, suite à la plainte d’une famille américaine qui estime que ChatGPT a contribué au suicide d’un ado. À cette occasion, le créateur du bot avait annoncé la mise en place de contrôles parentaux et un renforcement des garde-fous pour les utilisateurs mineurs.
Le principe général est qu’un utilisateur de 15 ans ne doit pas recevoir les mêmes réponses qu’un adulte, car il a des besoins différents. Pour y parvenir, OpenAI annonce un système de prédiction d’âge pour distinguer un utilisateur majeur d’un utilisateur mineur.
Quand l’âge exact ne peut pas être confirmé, OpenAI choisira par défaut la prudence : l’expérience proposée sera alors celle conçue pour les moins de 18 ans. Dans ce cadre, certains contenus seront bloqués, notamment ceux à caractère sexuel, et des mécanismes spécifiques d’accompagnement pourront être activés en cas de situation de détresse.
OpenAI reconnaît que ces garde-fous ne seront pas infaillibles. La détection de l’âge reste une technologie complexe et sujette à des erreurs. Mais la société insiste sur son approche : priorité à la sécurité des mineurs. Les adultes pourront, si nécessaire, prouver leur âge pour débloquer l’accès à des fonctionnalités réservées.
En attendant que ce système soit opérationnel, OpenAI mise sur des contrôles parentaux. Les familles pourront bientôt relier leur compte à celui de leur adolescent (à partir de 13 ans). Elles disposeront d’outils pour ajuster le comportement du modèle selon des règles spécifiques aux ados, désactiver certaines fonctions comme l’historique de conversation, ou encore définir des plages horaires durant lesquelles l’outil sera inaccessible.
Autre nouveauté : des alertes seront envoyées aux parents si l’IA détecte que leur enfant traverse un moment de détresse aiguë. Et si ces derniers ne peuvent pas être joints, OpenAI se réserve la possibilité d’impliquer les autorités. L’entreprise assure toutefois que ce dispositif sera affiné avec l’aide d’experts.
🔴 Pour ne manquer aucune actualité de 01net, suivez-nous sur Google Actualités et WhatsApp.
Source : OpenAI
