Aperçu de ChatGPT d’OpenAI

Les robots conversationnels (ou chatbot) n’ont rien de nouveau. Il est fort probable que vous interagissez tous les jours avec ce type de technologie d’intelligence artificielle (IA). Par exemple, c’est le cas lorsque vous cliquez sur l’icône en bas à droite de votre écran, où il est indiqué « Comment puis-je vous aider aujourd’hui? » pour connaître la façon d’effectuer un retour sur un site Web sur lequel il semble impossible de s’orienter. Les fonctions de ce type sont généralement conçues pour faciliter les interactions entre les organisations et leur clientèle. Or, que se passerait-il si, au lieu de vous aider à vous orienter sur un site Web, un agent conversationnel pouvait répondre à n’importe quelle question, sur n’importe quel sujet? C’est en raison de cette fonctionnalité que les gens pensent que ChatGPT change la donne.

Principes fondamentaux

Créé par OpenAI, un organisme de recherche en IA établi en Californie, ChatGPT (en anglais seulement) est un robot conversationnel alimenté par l’IA et programmé pour produire du contenu original, synthétiser des renseignements et générer des conversations réalistes avec des utilisatrices et utilisateurs humains. Le logiciel a été mis à la disposition du public le 30 novembre 2022 sur le site Web d’OpenAI (en anglais seulement) et, bien qu’il soit encore en phase de recherche, toute personne peut s’inscrire et le mettre à l’essai gratuitement.

ChatGPT utilise la technologie linguistique du Transformateur génératif pré-entrainé 3.5 (GPT 3.5) (en anglais seulement) pour interpréter les données des utilisatrices et utilisateurs et y répondre. À partir d’une question ou d’un mot-clé de l’utilisatrice ou de l’utilisateur, le programme peut générer presque n’importe quoi en quelques secondes – du code Python complexe à des essais de niveau universitaire, en passant par des chansons et des poèmes. Les réponses générées par ChatGPT ont même réussi l’entrevue de codage de Google (en anglais seulement) pour un poste d’ingénieur au salaire de 183 000 $US par an.

Ceci dit, à quoi peut servir le programme et comment fonctionne-t-il? Nous avons demandé à ChatGPT et voici les réponses que nous avons obtenues…

Question :En langage simple, écrivez ce à quoi peut servir ChatGPT en 150 mots maximum.

[traduction] « ChatGPT peut être utilisé pour créer des applications conversationnelles telles que des robots conversationnels, des assistants virtuels et des systèmes de recherche d’information. Ces applications peuvent être utilisées de diverses manières, par exemple pour répondre aux demandes de la clientèle, fournir des renseignements sur des produits ou des services, ou proposer des recommandations personnalisées.

ChatGPT est entraîné sur un vaste ensemble de données de conversations et peut générer des réponses qui sonnent naturelles, qui tiennent compte du contexte et peuvent être adaptées à chaque utilisatrice et utilisateur. Il peut également être utilisé pour créer des histoires et des jeux interactifs, ainsi que pour simuler des conversations entre agents virtuels. Les applications de ChatGPT sont virtuellement illimitées et peuvent contribuer à rendre les applications plus attrayantes et plus conviviales. »

– ChatGPT

Question : En termes simples, comment ChatGPT génère-t-il ses réponses?

[traduction] « ChatGPT utilise un type d’intelligence artificielle appelé “traitement du langage naturel” (TLN) pour générer ses réponses. Le TLN est un moyen pour les systèmes informatiques de comprendre, d’interpréter et de générer du langage humain. Pour générer des réponses, ChatGPT examine le contexte de la conversation et génère une réponse appropriée fondée sur sa compréhension de la conversation. Il utilise un modèle linguistique pré-entraîné pour générer la réponse. Ce modèle est entraîné sur de grands ensembles de données conversationnelles afin d’apprendre les motifs et les nuances du langage naturel. »

– ChatGPT

Les personnes peuvent donc poser des questions en langage naturel et obtenir des réponses, ce qui signifie que les agents virtuels et les contextes des demandes de renseignements de la clientèle ont un sens. Or, bien que ce programme soit inspiré du modèle de robot conversationnel, ses ramifications sont plus vastes. Que se passerait-il si une rédactrice ou un rédacteur en chef demandait à ChatGPT « d’écrire un article sur les perspectives économiques à l’automne » ou si un étudiant lui demandait « d’écrire un essai sur la façon dont le Traité de Westphalie a vu le jour »? Dans les deux cas, ChatGPT fournit des réponses étonnamment approfondies, mais avec une réserve majeure, que nous allons aborder. Qu’en est-il si un ou une fonctionnaire lui demande de « rédiger une note d’information sur des enjeux commerciaux »?

Qu’est-ce que ça veut dire?

La possibilité qu’ont ces modèles de langage évolués et généralisés, entraînés sur d’énormes volumes de données, de perturber le service à la clientèle fourni par des humains et de l’automatiser, de générer des contenus créatifs et des analyses fondées sur des données, suscite à la fois beaucoup d’enthousiasme et de craintes.

Nombreux sont celles et ceux qui voient le potentiel et la valeur du développement de contenus automatisés. Certains des principaux fournisseurs de contenu Web mettent déjà discrètement en œuvre des générateurs de contenu d’IA. D’autres, en revanche, voient les risques et les perturbations qui non seulement auront une incidence sur le marché du travail en ce qui concerne les emplois souvent déjà précaires, mais aussi entraîneront, à plus long terme, une déshumanisation de ce que nous lisons et consommons quotidiennement. Étant donné que les modèles de langage utilisent le contenu de l’Internet comme données d’entraînement, ces modèles pourraient progressivement devenir un écho indistinct et brouillé d’eux-mêmes.

Par ailleurs, comme le programme produit un contenu original, l’intégrité universitaire peut être menacée si les étudiants sont en mesure de générer des essais sur n’importe quel sujet.

Étant donné que le programme fonctionne et apprend à partir de l’information écrite par des êtres humains, une information qui peut être empreinte de préjugés, il est possible que le programme reproduise ces préjugés, ce qui se traduirait par des résultats discriminatoires. Nous avons assisté à des exemples désastreux avec d’autres modèles de langage à grande échelle au cours des dernières années.

[traduction] Les préjugés peuvent se glisser dans les algorithmes de plusieurs manières. Les systèmes d’IA apprennent à prendre des décisions en fonction de données d’apprentissage, lesquelles peuvent comprendre des décisions humaines empreintes de préjugés ou refléter des inégalités historiques et sociales, même si les variables sensibles telles que le genre, la race ou l’orientation sexuelle sont supprimées. – Harvard Business Review (en anglais seulement)

La propagation de la mésinformation et de la désinformation est aussi un sujet de préoccupation. Bien que la technologie soit conçue pour apprendre de ses erreurs et améliorer ses réponses au fil du temps, ainsi que pour remettre en cause des hypothèses inexactes, ChatGPT n’a pas encore la capacité de vérifier l’exactitude de l’information qu’il produit. En d’autres termes, lorsque les données d’entraînement sont erronées, ChatGPT ment, et ce, à la fois sans le savoir et en toute confiance. En outre, de petites modifications dans les questions posées à ChatGPT peuvent produire des réponses très différentes.

[traduction] ChatGPT écrit parfois des réponses plausibles, mais incorrectes ou absurdes. – OpenAI (en anglais seulement)

C’est là le point crucial : les modèles de langage ne comprennent pas les concepts comme savent le faire les êtres humains; plutôt, ils calculent les probabilités statistiques selon lesquelles un certain ensemble de mots et d’expressions devrait suivre ce qui a précédé.

D’ailleurs, ces préoccupations ne sont que la partie émergée de l’iceberg. Par conséquent, tout cela signifie que l’éthique constitue la question centrale des premières réflexions à effectuer et qu’une surveillance constante est essentielle en ce qui concerne ChatGPT et les autres technologies similaires.

Et maintenant?

ChatGPT soulève de nombreuses questions, mais il n’existe pas de données sur l’avenir. Toutefois, dans le bruit ambiant que génèrent les bouleversements technologiques actuels, ce bond en avant est véritablement perçu comme un signal. La capacité des gouvernements à anticiper les conséquences potentielles, à apprendre de concert avec les autres secteurs et à suivre le rythme du changement est vitale dans des moments comme celui-ci.

Au Canada, la Directive sur la prise de décisions automatisée, qui est entrée en vigueur le 1er avril 2019, continue d’orienter l’utilisation de ces technologies par le gouvernement fédéral. La Directive présente le plan du gouvernement pour intégrer l’IA et évoluer avec elle, en particulier en ce qui concerne les processus décisionnels administratifs et la prestation de services.

La Directive s’applique aux systèmes décisionnels automatisés utilisés pour les décisions qui ont une incidence sur les droits juridiques, privilèges ou intérêts des personnes ou des entreprises à l’extérieur du gouvernement, par exemple, l’admissibilité aux prestations ou la sélection de personnes qui feront l’objet d’une vérification. – Gouvernement du Canada

Toutefois, c’est une question différente en ce qui concerne le rôle du gouvernement fédéral en tant que législateur et régulateur. Dans l’Union européenne, un projet de loi sur l’intelligence artificielle (en anglais seulement) a été proposé, et des travaux sur des principes et des cadres pour une utilisation responsable de l’IA sont largement répandus dans le monde. Toutefois, les ramifications éthiques et la disponibilité croissante des outils d’IA pourraient inciter les gouvernements à s’engager dans ce domaine plus rapidement et avec plus de vigueur.

Pourquoi devez-vous vous y intéresser?

ChatGPT et les technologies d’IA similaires sont probablement là pour de bon, et elles entraîneront des répercussions sur la façon dont nous travaillons et interagissons dans la société, d’une manière ou d’une autre. À mesure qu’elles progressent et que leur adoption se généralise, la connaissance, la sensibilisation et la capacité à travailler en parallèle avec ces innovations vous aideront à rester adaptable. Il est de notre responsabilité à toutes et tous de nous engager dans un apprentissage continu et d’acquérir des compétences qui nous aideront à mieux servir la population (Ambition numérique du Canada et les normes numériquess ont de bons guides pour atteindre cet objectif).

Personne ne peut prédire l’avenir, mais on peut affirmer sans risque de se tromper qu’il est essentiel d’y être préparé. Lancez-vous un défi en tirant parti des ressources qui sont à votre disposition pour accroître vos connaissances. Vous pourriez même trouver des moyens de vous servir de ce que vous avez appris et découvrir des façons innovantes d’intégrer les technologies de l’IA à votre travail – de façon éthique bien sûr (ne copiez pas et ne collez pas de texte protégé, personnel ou potentiellement sensible dans des outils en ligne).

En conclusion, voici quelques pistes de réflexion

• Avez-vous pris connaissance d’Ambition numérique du Canada et des normes du numérique du gouvernement du Canada? Qu’en est-il de la Directive sur la prise de décisions automatisée? De quelle manière l’adoption de technologies modernes telles que ChatGPT peut-elle améliorer – ou remettre en question – la prestation de services du gouvernement à l’ère numérique?
• Comment le fait de se tenir au courant des innovations technologiques peut-il vous aider, vous et votre organisation, à favoriser la résilience?
• Si vous utilisez l’IA dans votre travail, quelles mesures avez-vous mises en place pour vous assurer que la technologie est utilisée de manière éthique et responsable?

Cours et événement 

• Cours | Découvrez l’intelligence artificielle
• Cours | Appliquer la technologie d’assistance virtuelle
• Cours | Transformer l’environnement de travail avec l’intelligence artificielle
• Cours | Démarrer avec l’apprentissage automatique

Ressources 

Article | Forecasting Potential Misuses of Language Models for Disinformation Campaigns—and How to Reduce Risk (en anglais seulement)