Comprendre les limites de l’IA
ChatGNB est un outil puissant, mais il est important de comprendre ce qu’il peut et ne peut pas faire. Comme tous les outils d’IA génératives, il produit des réponses basées sur des modèles dans les données utilisées pour le former, et non sur des connaissances directes, un raisonnement ou un jugement humain.
Il peut sembler confiant et tout de même avoir tort
ChatGNB, comme tous les outils d’IA générative, peut générer des réponses qui semblent soignées, mais qui sont factuellement incorrectes, obsolètes ou trompeuses. C’est ce qu’on appelle l’hallucination de l’IA.
Exemple : Il peut mal citer une loi, résumer de manière incorrecte des politiques ou inventer des références qui n’existent pas.
Il incombe aux utilisateurs de vérifier l’exactitude, l’exhaustivité et la pertinence de tout le contenu généré par l’IA. Vérifiez toujours les informations clés à l’aide de sources fiables et examinez-les attentivement avant de les utiliser ou de les partager.
Il ne sait pas ce qui est vrai ou faux
L’IA ne « comprend » pas le contenu et n’en vérifie pas l’exactitude. Il prédit simplement le prochain mot le plus probable en fonction de votre invite et des données utilisées pour le former. Cela signifie qu’il :
- Ne saura pas si une déclaration est justifiée ou non;
- Peut générer des explications faussées ou incomplètes;
- Peut ignorer le contexte ou les nuances critiques.
Il ne connaît pas l’actualité
ChatGNB n’est pas connecté à Internet et n’a pas accès aux informations en temps réel ou ultérieures à la date des données utilisées pour sa formation.
Le modèle d’IA actuel a été formé avec des données antérieures à octobre 2023. Il n’est pas au courant des événements, des développements ou des publications publiés après cette date.
Si votre travail comporte des informations actuelles (par exemple, des annonces récentes, des lois ou des échéanciers), vous devez fournir ces informations dans votre invite.
Il n’a pas accès aux systèmes du gouvernement
ChatGNB ne peut pas accéder à vos fichiers, à vos lecteurs partagés ou à vos bases de données internes. L’outil ne fonctionne qu’avec ce que vous entrez dans le clavardage. Si vous souhaitez qu’il analyse ou réécrive du contenu, vous devez coller ce contenu dans votre invite.
Il ne peut pas appliquer de jugement ou de valeurs
L’IA manque d’empathie, d’éthique et d’expérience vécue. Elle ne peut pas évaluer le ton dans une situation délicate ou décider de ce qui est approprié pour un public particulier. Elle ne remplace pas l’intervention humaine, en particulier dans les domaines de la communication, des politiques ou de la prestation de services.
Bien que ChatGNB soit un outil puissant, il ne devrait jamais être utilisé pour prendre des décisions de manière indépendante. Il n’est pas en mesure d’évaluer le contexte, d’appliquer un jugement professionnel ou de comprendre les implications plus larges d’une recommandation.
L’utilisateur est responsable de toutes les décisions. Vous êtes responsable de la façon dont vous interprétez et utilisez les résultats obtenus et vous êtes responsable de toutes les mesures prises en conséquence. ChatGNB est destiné à soutenir votre travail, et non à remplacer le raisonnement, l’expertise ou la créativité humaine.