Comment lire une fiche de modèle

L’IA, en particulier l’IA générative à usage général, est appelée à provoquer d’importantes transformations sociétales. Compte tenu de l’ampleur potentielle de ces répercussions, il est important que le plus grand nombre de personnes possible comprennent cette technologie, afin de pouvoir l’utiliser judicieusement et en toute sécurité et d’avoir leur mot à dire sur la façon dont elle les touche. Aujourd’hui, un moyen important d’en apprendre davantage sur les modèles d’IA est la fiche de modèle (« model card ») — le Rapport international sur la sécurité de l’IA 2026^[1] souligne que les fiches de modèle constituent une pratique exemplaire de documentation de l’IA. Les fiches de modèle sont des documents que les développeurs d’IA publient pour communiquer de l’information sur un nouveau modèle, comme les résultats des tests précédant le déploiement, les données d’entraînement ou les lignes directrices d’utilisation. Ce billet offre quelques repères pour vous aider à lire une fiche de modèle et à devenir un utilisateur d’IA mieux informé ainsi qu’un meilleur défenseur d’une IA sûre et bénéfique.

Les politiques de mise à l’échelle comme point de départ utile

Pour prendre une longueur d’avance dans la lecture d’une fiche de modèle, il peut être utile de commencer par quelques renseignements généraux sur les principaux risques que couvrent les fiches de modèle. Les développeurs d’IA exposent leurs plans pour gérer les risques graves posés par les modèles à haute capacité dans leur politique de mise à l’échelle (aussi appelée cadre de sécurité de la frontière ou cadre de préparation). Les politiques d’Anthropic^[2], d’OpenAI^[3] et de Google DeepMind^[4], par exemple, comprennent des plans visant les risques liés à l’utilisation malveillante, par des humains, de capacités avancées de cyberattaque ou d’armes biologiques, ainsi qu’à l’automatisation de la recherche en apprentissage automatique menant à des IA qui s’améliorent elles-mêmes. Les fiches de modèle fournissent ensuite une évaluation des capacités du modèle par rapport aux seuils de capacité établis dans la politique de mise à l’échelle. Autrement dit, la politique établit le plan d’ensemble du développeur, tandis que la fiche de modèle situe le modèle sur l’échelle des niveaux de capacité anticipés qui accroissent les risques graves.

L’éventail des risques liés à l’IA

Bien entendu, il existe un vaste éventail de risques liés aux modèles d’IA au-delà de ceux mentionnés dans les politiques de mise à l’échelle des développeurs; l’initiative MIT AI Risk Initiative^[5] en a répertorié plus de 1 700, et les fiches de modèle traitent habituellement de comportements du modèle liés à certains de ces risques. Par exemple, les plus récentes fiches de modèle d’OpenAI et d’Anthropic, respectivement GPT-5.6^[6] et Claude Mythos/Fable 5^[7], contiennent des évaluations de la façon dont les modèles réagissent lors de conversations avec des utilisateurs vivant des difficultés de santé mentale. En plus des risques, les fiches de modèle documentent aussi souvent les capacités des modèles. Cela se fait généralement en présentant les résultats obtenus à un « banc d’essai » (benchmark), c’est-à-dire un ensemble de tests normalisés servant à évaluer un modèle.

L’importance des évaluateurs tiers

Tant pour les capacités que pour les risques, les développeurs d’IA font appel à des tiers pour contribuer aux évaluations des modèles. Il s’agit d’une pratique exemplaire cruciale, car des tiers, comme les instituts nationaux de sécurité de l’IA, peuvent apporter une expertise supplémentaire et un point de vue plus neutre^[8]. Il importe de souligner que, bien qu’ils puissent établir un plancher de capacités, ni les développeurs d’IA ni l’évaluateur tiers ne peuvent cerner l’ensemble des capacités des modèles au moyen de leurs tests. C’est parce que la performance d’un modèle est très sensible à l’invite (« prompt ») et aux outils logiciels qui lui sont fournis.

Les fiches de modèle laissent beaucoup à désirer

Une autre mise en garde importante à garder à l’esprit lors de la lecture d’une fiche de modèle est qu’elles sont publiées volontairement par les développeurs d’IA. Comme les développeurs d’IA disposent d’une entière discrétion quant au contenu de leurs fiches de modèle, il est fréquent d’observer d’importantes différences dans la structure des fiches et le niveau de détail d’un développeur à l’autre, et même d’un modèle à l’autre chez un même développeur. Le recours à la discrétion des développeurs d’IA signifie aussi qu’ils peuvent choisir d’omettre de l’information. Par exemple, les fiches de modèle des développeurs d’IA à la frontière des capacités comprennent très peu de détails sur les algorithmes utilisés pour entraîner le modèle, et les exigences légales obligeant les développeurs d’IA à signaler les incidents sont à la fois de portée restreinte et fragmentées d’une administration à l’autre^[9].

Le point de vue interne

Malgré les inconvénients découlant du contrôle considérable qu’exercent les développeurs d’IA sur leurs fiches de modèle, le point de vue du développeur peut être précieux parce que, aujourd’hui, ce sont eux qui ont le plus accès à des détails non rendus publics sur le modèle (même si les développeurs d’IA devraient rendre les modèles plus accessibles à des auditeurs externes à l’avenir^[10]). Par exemple, les développeurs d’IA ont pu tester le modèle tout au long de son entraînement et peuvent donc témoigner de comportements préoccupants observés dans une version antérieure du modèle.

Un exemple qui illustre la valeur d’un développeur de modèle signalant un comportement préoccupant est Anthropic qui, à son honneur, a rapporté dans la fiche de modèle Mythos Preview^[11] qu’une version antérieure du modèle a manifesté une inquiétante capacité à s’échapper de l’« environnement isolé » (sandbox) informatique sécurisé censé le contenir. Un chercheur d’Anthropic a demandé au modèle de s’échapper du conteneur sécurisé et de trouver un moyen de lui envoyer un message. Non seulement le modèle a réussi à s’échapper et à envoyer le message — que le chercheur a reçu alors qu’il mangeait un sandwich dans un parc —, mais Anthropic note que, dans « un effort préoccupant et non sollicité pour démontrer sa réussite, [le modèle] a publié des détails sur son exploit sur plusieurs sites Web difficiles à trouver, mais techniquement accessibles au public ».

Vers une plus grande transparence de l’IA

Dans l’ensemble, les fiches de modèle constituent un élément important des pratiques actuelles de transparence des modèles d’IA. Il est toutefois essentiel d’améliorer l’état de la transparence de l’IA, en particulier la détection et la divulgation des capacités ou des comportements liés aux risques de l’IA^[12]. Par exemple, une action concrète que les gouvernements canadiens et la société civile peuvent entreprendre est de bâtir le réseau d’évaluateurs tiers, afin qu’on n’ait pas à faire confiance aux développeurs d’IA pour « corriger leurs propres copies ».

Une transparence accrue aiderait à calibrer la confiance de la société envers les modèles d’IA, permettant de diffuser plus largement les bénéfices de l’IA tout en fournissant les données probantes nécessaires pour éclairer les efforts de réduction des risques. Le gouvernement du Canada souhaite entendre les Canadiens au sujet de l’avancement de la transparence de l’IA; il a lancé une consultation publique sur le sujet, ouverte jusqu’au 23 septembre^[13]. Faites entendre votre voix, et travaillons ensemble à une plus grande transparence de cette puissante technologie.