Tech • IA • Crypto
ChatGPT alerte vos proches
7/10INTRO
OpenAI déploie une fonctionnalité « Trusted Contact » qui alerte une personne désignée si une IA détecte des signes de risque d’auto‑mutilation dans les conversations d’un utilisateur.
POINTS CLÉS
Lancement de Trusted Contact
OpenAI a commencé à déployer une nouvelle fonctionnalité appelée Trusted Contact aux États-Unis, avec des plans d’extension plus larges. L’outil permet aux utilisateurs de désigner une seule personne de confiance pouvant être notifiée en cas de comportement préoccupant détecté. La fonctionnalité est présentée comme une couche de sécurité supplémentaire dans l’usage personnel de l’IA.
Fonctionnement du système
Une fois activé, le système analyse les conversations pour identifier des signaux de détresse, notamment des idées d’auto‑mutilation ou des chutes émotionnelles sévères. Les utilisateurs gardent le contrôle et peuvent activer ou désactiver ce suivi à tout moment. L’analyse fonctionne en continu tant que la fonctionnalité est active.
Processus d’escalade
Si des indicateurs de risque sont détectés, l’IA répond d’abord directement à l’utilisateur avec des messages apaisants et des suggestions de recourir à une aide professionnelle, comme des services médicaux ou psychologiques. Dans les cas plus graves, l’échange peut être transmis à un examinateur humain chez OpenAI pour une évaluation supplémentaire.
Notification du contact de confiance
Lorsque les seuils d’escalade sont atteints, la personne désignée reçoit une alerte indiquant que l’utilisateur pourrait avoir besoin de soutien. La notification ne contient pas de détails des conversations mais encourage le contact à prendre directement des nouvelles de l’utilisateur. Cela préserve un certain niveau de confidentialité tout en permettant une intervention.
Supervision humaine et responsabilité
L’ajout d’examinateurs humains introduit une couche supplémentaire de jugement avant l’envoi d’alertes. Cette approche hybride reflète un effort plus large pour combiner la détection automatisée avec la prise de décision humaine dans des situations sensibles.
Préoccupations liées à la vie privée et à l’éthique
La fonctionnalité soulève des questions sur la surveillance des données, le consentement et l’étendue du contrôle de l’IA dans des conversations privées. Certains estiment qu’elle pourrait déplacer la responsabilité hors de la plateforme en impliquant des tiers, tandis que d’autres y voient une mesure de sécurité proactive.
Disponibilité et limites
Trusted Contact devrait être disponible sur la plupart des offres d’abonnement individuelles, mais exclu des environnements d’équipe ou d’entreprise, où les frontières de confidentialité diffèrent. Son adoption dépendra probablement du niveau de confort des utilisateurs à partager des signaux de vulnérabilité.
CONCLUSION
La fonctionnalité Trusted Contact marque une avancée vers l’intégration d’un soutien humain dans les interactions avec l’IA, en équilibrant les objectifs de sécurité avec des préoccupations persistantes sur la vie privée et la responsabilité.