Ce dossier a été initialement partagé avec les abonnés de la newsletter en
juin 2024. Alors que les outils comme ChatGPT, Claude ou Gemini deviennent incontournables, il est essentiel de prendre du recul sur leurs limites structurelles pour les utiliser avec discernement. Voir le numéro complet →
Si le portrait que l’on dresse des IA génératives est souvent flatteur au vu de leurs prouesses, ces outils restent marqués par des limites importantes. Qu’il s’agisse de ChatGPT ou de ses concurrents, comprendre ces zones d’ombre est indispensable pour utiliser cette technologie de manière éclairée, en toute connaissance de cause.
La neutralité impossible : pourquoi les IA sont-elles biaisées ?Images générée par Google Gemini et publiée dans Frandroid.com “Les IA seront toujours biaisées, n’en déplaise au patron de Google”
En raison des données sur lesquelles il a été entraîné, des teraoctets de données provenant notamment de diverses sources internet, ChatGPT peut parfois refléter des biais culturels, sociaux et politiques présents dans ces données d’entraînement et dans les milliards de paramètres écrits par des humains... Tout cela peut alors influencer l’objectivité des réponses fournies et obliger les utilisateurs à être très vigilants pour détecter et corriger ces éventuels biais.
Plus vous lui demanderez de générer des contenus factuels basés sur sa base de connaissance, plus le risque qu’il vous retourne des données biaisées sera grand... Pour atténuer ces biais, il faut essayer de diversifier les sources de données. Ça oblige clairement à rester vigilant et à ne pas utiliser les yeux fermés ce qu’il vous génère. Et cela peut parfois limiter le gain de temps attendu…
Du côté des éditeurs de ces outils, pas de magie, il faut sans cesse que des humains corrigent et améliorent les paramètres pour éviter ou au moins limiter au maximum ces biais... au risque d’avoir de gros soucis sur les contenus générés (cf l’exemple de Gemini en illustration).
?A noter le lancement d’un projet soutenu par Bpifrance pour « Débiaiser l’IA ». Plus d’infos dans le post Linkedin de l’excellente Fabienne Billat.
Vos secrets sont-ils bien gardés ? L’enjeu de la confidentialitéCapture d’écran des paramètres liés à la gestion des données dans ChatGPT (avec un compte “ChatGPT Team”)
Concernant la confidentialité, la version gratuite de ChatGPT peut poser certains problèmes… Par défaut, les données fournies par les utilisateurs lors des interactions sont utilisées pour améliorer le modèle d’entrainement, ce qui peut provoquer des soucis de confidentialité notamment pour les données sensibles.
Là encore, il faut être vigilant et il est conseillé de ne pas partager d’informations personnelles ou confidentielles sans avoir désactivé le partage des données pour l’entraînement des modèles (je vous explique comment faire plus bas).
Que vous décidiez de partager ou non vos données, voici quelques conseils pratiques qu’il est toujours bon d’appliquer (c’est surtout du bon sens) :
Évitez de partager des informations sensibles : Ne saisissez pas de données personnelles ou confidentielles dans vos interactions avec ChatGPT.
Utilisez des pseudonymes : Si vous devez mentionner des personnes ou des lieux, utilisez des pseudonymes pour protéger leur identité.
Nettoyez régulièrement votre historique de conversations : Vérifiez et supprimez régulièrement l’historique des conversations pour minimiser les risques de fuite d’informations.
Hallucinations : quand l’IA invente la réalité avec aplombUn autre problème, et oui encore un, est celui des "hallucinations". ChatGPT peut parfois produire des informations factuellement incorrectes voir complètement inventées… ça arrive surtout lorsqu’il est confronté à des questions en dehors de ses domaines d’expertise ou à des requêtes très spécifiques. Ces erreurs peuvent être particulièrement problématiques dans des contextes où la précision est essentielle.
On parle…