Sécurité de l’IA
Qui est touché, et comment ?
L’IA n’est pas une technologie unique avec un impact uniforme. Ses risques et ses préjudices se manifestent différemment selon qui vous êtes, ce que vous faites et à quelle étape de votre vie vous vous trouvez. Cette page examine en profondeur comment l’IA affecte six groupes de Canadiens, en langage clair, avec une attention particulière aux lois et politiques canadiennes.
L’IA affecte les jeunes Canadiens avant qu’ils puissent y consentir de façon significative
Les jeunes Canadiens grandissent dans des environnements façonnés par l’IA : des fils d’actualité conçus pour maximiser l’engagement, des systèmes scolaires qui commencent à déployer des outils de surveillance automatisés, et un marché du travail restructuré plus rapidement que les établissements d’enseignement ne peuvent s’y adapter. Contrairement à la plupart des technologies du passé, l’IA influence le développement, les convictions et les perspectives d’avenir des jeunes à grande échelle, avec une surveillance limitée et peu de protections spécifiques.
Algorithmes des médias sociaux et santé mentale
Les algorithmes de recommandation qui alimentent TikTok, Instagram, YouTube et Snapchat n’ont qu’un seul objectif principal : maintenir les utilisateurs sur la plateforme le plus longtemps possible. Pour les jeunes, cela crée un système extraordinairement puissant et largement invisible. Des recherches internes de Meta, rendues publiques en 2021, ont révélé qu’Instagram aggravait significativement les problèmes d’image corporelle chez les adolescentes. L’algorithme de recommandation de YouTube a été documenté comme guidant les adolescents vers du contenu de plus en plus extrême, non pas parce qu’il a été programmé pour le faire, mais parce que l’indignation et l’intensité stimulent l’engagement, et l’algorithme l’a appris.
Ce ne sont pas des erreurs de conception que les entreprises n’ont simplement pas encore corrigées. Ce sont les résultats de systèmes qui fonctionnent exactement comme prévu, mais dont les objectifs ne sont pas alignés avec le bien-être des jeunes qui les utilisent.
Hypertrucages et abus basés sur l’image ciblant les mineurs
Les outils de génération d’images par IA ont créé une crise pour les jeunes, en particulier les jeunes femmes. En 2024, des élèves d’une école du New Jersey ont utilisé des générateurs d’images pour créer des images intimes non consensuelles de camarades de classe et les diffuser dans des chats de groupe. Des incidents similaires ont été signalés au Canada. Les outils nécessaires sont gratuits, ne requièrent aucune compétence technique et produisent des résultats difficiles à distinguer de vraies photographies.
La création et la distribution d’images intimes non consensuelles au Canada constituent une infraction criminelle en vertu de l’article 162.1 du Code criminel. Mais la loi a été rédigée avant que la génération d’images par IA n’existe, et les capacités d’application de la loi n’ont pas suivi le rythme de la technologie.
Surveillance par IA dans les écoles
Des écoles au Canada et aux États-Unis ont commencé à déployer des outils de surveillance alimentés par l’IA : des systèmes qui suivent les frappes au clavier pour détecter les comportements « hors tâche », des logiciels de surveillance d’examens qui analysent les mouvements des yeux, et des plateformes d’analyse comportementale qui signalent des élèves sur la base de scores algorithmiques. Ces systèmes génèrent des données sur les enfants qui peuvent les suivre tout au long de leur scolarité, et parfois au-delà. La précision de ces outils, notamment selon les groupes démographiques, est rarement vérifiée.
Le marché du travail que les jeunes Canadiens intègrent
Les étudiants qui entrent aujourd’hui sur le marché du travail le font dans un contexte de disruption par l’IA sans précédent. Les postes de débutants qui ont historiquement servi de premiers échelons de carrière, notamment le traitement de données, la modération de contenu, la recherche juridique de base, la rédaction et le design élémentaire, sont automatisés à grande échelle. Les compétences que les institutions d’enseignement forment les étudiants à développer pourraient avoir une durée de vie substantiellement plus courte qu’à n’importe quel moment de l’histoire moderne.
Radicalisation algorithmique
Les jeunes passent plus de temps en ligne que tout autre groupe démographique et sont plus susceptibles à l’influence algorithmique sur leurs croyances et leur identité. Des « pipelines de radicalisation » documentés, chemins du contenu grand public vers des communautés extrémistes entretenus par les algorithmes de recommandation, touchent de manière disproportionnée les jeunes hommes dans la vingtaine. Ces phénomènes ont été documentés par des chercheurs d’universités canadiennes, américaines et britanniques.
L’enjeu central : Les jeunes sont parmi les plus exposés aux systèmes d’IA et parmi les moins en mesure de s’y opposer. Une gouvernance de l’IA qui ne traite pas spécifiquement les risques pour les mineurs, notamment les préjudices algorithmiques, les abus par hypertrucage et la surveillance scolaire, est une gouvernance qui laisse ses citoyens les plus vulnérables sans protection.
À surveiller au Canada
- Si la législation canadienne proposée sur l’IA (projet de loi C‑27 / LIAD) inclut des protections spécifiques pour les mineurs
- Si les ministères provinciaux de l’Éducation vérifient les outils de surveillance par IA déployés dans les écoles
- Si le Code criminel est mis à jour pour traiter les images intimes non consensuelles générées par IA
- Si le Canada exige une vérification de l’âge sur les plateformes de génération d’images par IA
Les femmes subissent une part disproportionnée des préjudices les plus immédiats de l’IA
Les préjudices de l’IA ne sont pas répartis équitablement. Les femmes sont ciblées de manière disproportionnée par le harcèlement et les abus d’image permis par l’IA, systématiquement désavantagées par les outils de recrutement et de diagnostic formés sur des données biaisées, et davantage exposées aux perturbations du marché du travail entraînées par l’IA. Parallèlement, les femmes sont sous-représentées dans les instances où la politique en matière d’IA est élaborée et dans les équipes techniques qui construisent ces systèmes.
Images intimes non consensuelles
La génération d’images par IA a considérablement abaissé la barrière à la création d’images intimes réalistes de vraies personnes. Des recherches de Sensity AI ont révélé que 96 % des vidéos hypertrucquées en ligne sont des images intimes non consensuelles, et que la grande majorité des victimes sont des femmes. Cette technologie est utilisée contre des personnalités publiques et des particuliers. Au Canada, la création et la distribution d’images intimes non consensuelles constituent une infraction criminelle. Mais la justice pénale est lente ; les images se diffusent instantanément.
Les femmes qui s’expriment publiquement, notamment les politiciennes, journalistes et militantes, rapportent que la menace d’abus par hypertrucage a un effet dissuasif sur leur participation au discours public. C’est une menace directe à la vie démocratique.
Biais algorithmique dans l’embauche
Les outils d’IA utilisés pour filtrer les candidatures sont répandus dans les entreprises canadiennes. Ces outils apprennent à partir de données d’embauche historiques, qui encodent la discrimination historique. Amazon a abandonné son outil de recrutement par IA en 2018 après avoir découvert qu’il déclassait systématiquement les CV mentionnant le mot « femmes » et pénalisait les diplômées d’établissements féminins. L’outil avait appris, à partir des pratiques d’embauche passées de l’entreprise, à préférer les hommes.
Les employeurs canadiens ne sont actuellement pas tenus de vérifier ces outils pour détecter les biais de genre avant de les déployer.
Biais de genre dans l’IA médicale
La plupart des systèmes d’IA utilisés dans le diagnostic médical ont été formés sur des ensembles de données qui surreprésentent les patients masculins. Cela crée des systèmes moins précis pour les femmes, notamment dans les domaines où la maladie se présente différemment selon le sexe. Les maladies cardiovasculaires, qui se manifestent différemment chez les femmes, en sont un exemple bien documenté. Une étude publiée dans The Lancet a révélé que les outils de diagnostic par IA présentaient une précision significativement moindre pour les femmes dans de multiples conditions médicales.
Harcèlement assisté par IA à grande échelle
Des outils d’IA sont utilisés pour harceler les femmes en ligne avec une efficacité sans précédent. Des comptes automatisés génèrent des centaines de messages ciblés par heure. La synthèse vocale crée des enregistrements menaçants. Les hypertrucages sont utilisés comme moyen de coercition. Pour les femmes qui s’expriment publiquement, ce ne sont pas des risques hypothétiques.
Perturbation du marché du travail et inégalité du travail de soin
Les professions les plus exposées à l’automatisation par IA sont celles où les femmes sont majoritaires : rôles administratifs, traitement de données, service à la clientèle, soutien aux soins de santé. En même temps, le travail de soin non rémunéré que les femmes effectuent de manière disproportionnée, notamment la garde d’enfants, le soin des aînés et le travail domestique, n’est pas automatisé. L’IA risque d’éroder les possibilités d’emploi rémunéré des femmes sans alléger leurs obligations non rémunérées, approfondissant ainsi les inégalités économiques.
L’enjeu central : Nombre des préjudices les plus aigus de l’IA, notamment les abus par hypertrucage, les biais dans le recrutement et les erreurs de diagnostic, touchent de manière disproportionnée les femmes. Ce ne sont pas des accidents technologiques. Ce sont les conséquences de la construction de systèmes sur des données biaisées, de leur déploiement sans vérification de l’équité, et du manque d’application des protections légales existantes à la vitesse qu’exige la technologie.
À surveiller au Canada
- Si la législation canadienne sur l’IA exige des audits obligatoires de biais de genre pour les outils de recrutement par IA
- Si Santé Canada établit des exigences d’équité pour les outils de diagnostic par IA approuvés pour usage clinique
- Si le Code criminel est mis à jour pour traiter les images non consensuelles générées par IA à l’échelle où elles sont produites
- Si la Loi sur les préjudices en ligne (projet de loi C‑63) crée une responsabilité réelle pour les plateformes facilitant les abus par IA
Les petites entreprises font face à la disruption de l’IA avec moins de ressources que les grandes sociétés
L’IA transforme la concurrence d’une manière qui favorise de manière disproportionnée les grandes organisations bien dotées en ressources. Les grandes entreprises peuvent déployer l’IA dans leurs services à la clientèle, leur marketing, leur logistique et leurs finances à une échelle que la plupart des PME ne peuvent égaler. En même temps, les propriétaires de petites entreprises font face à de nouvelles menaces induites par l’IA pour lesquelles ils ne sont souvent pas équipés.
Déplacement concurrentiel
Quand une grande entreprise remplace des centaines de représentants du service à la clientèle par un système d’IA, sa structure de coûts change radicalement par rapport aux concurrents qui ne peuvent se permettre le même investissement. Quand un grand détaillant utilise l’IA pour optimiser sa chaîne d’approvisionnement en temps réel, les petits concurrents naviguent avec moins d’information. L’accès à l’IA est inégalement réparti, et l’écart entre ce que les grandes et les petites entreprises peuvent déployer se creuse.
Concurrence générée par IA
Les outils d’IA peuvent maintenant générer des images de produits réalistes, du contenu marketing persuasif et des sites Web fonctionnels à coût marginal presque nul. Pour les entreprises de services créatifs, de communication ou professionnels, les alternatives générées par IA sont déjà une réalité concurrentielle. Une entreprise qui facturait une prime pour la rédaction de qualité, le design graphique ou le soutien comptable est maintenant en concurrence avec des outils qui produisent des résultats similaires pour une fraction du coût.
Fraude assistée par IA ciblant les entreprises
La compromission de messagerie professionnelle, où des fraudeurs se font passer pour des dirigeants ou des fournisseurs pour autoriser des virements, a été significativement accélérée par l’IA. Les criminels peuvent générer des courriels d’usurpation convaincants, synthétiser la voix d’un PDG ou personnaliser les attaques à grande échelle. Les petites entreprises sont ciblées de manière disproportionnée parce qu’elles ont généralement moins d’infrastructure de sécurité que les grandes entreprises.
Propriété intellectuelle et confidentialité des données
Les entreprises qui partagent des informations propriétaires avec des outils d’IA, notamment les données clients, les plans stratégiques, les documents internes et les secrets commerciaux, risquent de contribuer par inadvertance ces informations aux données d’entraînement de l’IA. La plupart des grands fournisseurs d’IA incluent dans leurs conditions d’utilisation des dispositions leur permettant d’utiliser le contenu soumis pour améliorer leurs modèles. De nombreux propriétaires d’entreprise ne comprennent pas pleinement comment leur utilisation des outils d’IA interagit avec leurs obligations en matière de protection des données.
Dépendance aux plateformes et risque algorithmique
La plupart des petites entreprises dépendent fortement de plateformes alimentées par IA, notamment les algorithmes de recherche, les systèmes de recommandation des réseaux sociaux et les classements des marchés en ligne, sur lesquelles elles n’ont aucun contrôle, aucune transparence et aucun recours contractuel en cas de changement. Un changement dans l’algorithme de Google ou dans le système de classement d’Amazon peut dévaster une petite entreprise du jour au lendemain, sans avertissement ni explication.
L’enjeu central : Les avantages économiques de l’IA profitent de manière disproportionnée aux grandes organisations dotées de nombreuses ressources, tandis que ses risques, notamment la fraude, la dépendance aux plateformes, la pression concurrentielle et l’incertitude juridique, pèsent sur les petites entreprises qui sont les moins bien équipées pour les gérer. La politique canadienne sur l’IA n’a pas encore traité sérieusement cette asymétrie.
À surveiller au Canada
- Si la politique canadienne en matière d’IA et de concurrence s’attaque à la concentration des capacités d’IA parmi quelques grandes plateformes
- Si la BDC et les programmes d’ISDE aident les petites entreprises à accéder à l’IA de manière compétitive
- Si les réformes de la loi sur la protection de la vie privée (projet de loi C‑27) créent des règles claires sur l’utilisation des outils d’IA par les entreprises
- Si le gouvernement fédéral soutient une infrastructure d’IA canadienne pour réduire la dépendance aux plateformes américaines
L’IA a été construite sur le travail des artistes sans consentement, et leur fait maintenant concurrence directement
Le secteur créatif fait face à un défi structurellement différent de celui des autres industries. Les systèmes d’IA ont littéralement été formés sur le travail des artistes, sans permission, sans compensation et souvent à leur insu, et génèrent maintenant des résultats qui leur font directement concurrence. Ce n’est pas comparable à une technologie qui automatise des tâches répétitives. C’est une situation où la production créative d’une industrie a été captée, industrialisée et retournée contre elle.
Données d’entraînement sans consentement ni compensation
Les générateurs d’images par IA, les outils de musique par IA et les outils de rédaction ont été formés sur d’énormes ensembles de données extraits d’Internet, y compris des œuvres protégées par le droit d’auteur. Dans pratiquement aucun de ces cas les créateurs n’ont consenti, reçu une rémunération ou même su que leur travail était utilisé. Des recours collectifs intentés par des artistes et des organisations médiatiques sont en cours aux États-Unis et au Royaume-Uni.
Au Canada, le droit d’auteur n’a pas été mis à jour pour aborder les données d’entraînement de l’IA. La Loi sur le statut de l’artiste, qui régit certains aspects de la rémunération des créateurs au Canada, est antérieure à l’IA.
Réplication de style et perturbation du marché
Les outils d’IA peuvent maintenant générer des œuvres qui reproduisent de manière convaincante le style visuel distinctif d’artistes vivants, parfois en les nommant explicitement dans une invite. Cela est possible parce que le droit d’auteur protège les œuvres spécifiques mais pas le style artistique. Un artiste qui a mis des années à développer une esthétique reconnaissable n’a aucun recours légal contre une IA qui a absorbé cette esthétique et peut la reproduire à la demande, à coût nul.
Hypertrucages d’interprètes
La synthèse vocale et la génération vidéo par IA créent de nouvelles catégories de préjudices pour les musiciens, les acteurs et les interprètes. Des performances vocales convaincantes d’artistes spécifiques peuvent maintenant être synthétisées sans leur participation. Des « interprétations » non consensuelles, comme un artiste semblant approuver un produit ou un musicien décédé « lançant » de nouveau matériel, sont technologiquement réalisables aujourd’hui. L’industrie musicale canadienne a soulevé ces préoccupations auprès du gouvernement fédéral lors des consultations sur le projet de loi C‑11 (Loi sur la diffusion continue en ligne).
L’économie du travail créatif
Le travail créatif a toujours été économiquement précaire pour la plupart des praticiens. L’IA ne crée pas cette précarité, mais l’accélère et l’approfondit. Quand l’IA peut générer des images suffisamment bonnes pour une brochure marketing, rédiger du texte publicitaire adéquat ou produire de la musique de fond en quelques secondes, les prix du marché pour ce niveau de travail créatif subissent une pression à la baisse. Les marchés d’images de stock, le design de niveau débutant et la rédaction commerciale connaissent déjà cette compression.
IA et souveraineté culturelle canadienne
Le Canada maintient depuis longtemps des politiques culturelles, notamment les exigences de radiodiffusion, les subventions au contenu et les réglementations CanCon, fondées sur la conviction qu’une démocratie saine nécessite une voix culturelle domestique. L’IA abaisse considérablement les coûts de production, rendant triviale pour les plateformes américaines la diffusion massive de contenu généré par IA dans les espaces numériques canadiens. La question de savoir si les cadres de politique culturelle du Canada sont adéquats à ce défi n’a pas encore été sérieusement abordée.
L’enjeu central : Les artistes canadiens n’ont pas consenti à ce que leur travail soit utilisé pour former des systèmes d’IA. Ils font maintenant concurrence à des systèmes construits sur leur propre production créative. Le droit d’auteur canadien, la politique culturelle et le droit des interprètes n’ont pas été mis à jour pour faire face à cette réalité. La réponse du gouvernement fédéral jusqu’à présent a été prudente et lente par rapport à la vitesse à laquelle le marché évolue.
À surveiller au Canada
- Si la Loi sur le droit d’auteur est modifiée pour aborder les données d’entraînement de l’IA
- Si le Conseil des arts du Canada développe une politique explicite sur l’IA régissant ses décisions de financement
- Si le Canada soutient un traité international sur l’IA et les droits créatifs (en discussion à l’OMPI)
- Si les règlements du projet de loi C‑11 exigent que les plateformes financent du contenu canadien créé par des humains
- Si le Canada suit l’UE en exigeant la divulgation lorsque l’IA est utilisée pour générer du contenu culturel publié
Les aînés canadiens sont ciblés par la fraude alimentée par l’IA et laissés de côté par des systèmes conçus sans eux
Les aînés canadiens font face à une combinaison distinctive de risques liés à l’IA : ils sont les principales cibles des escroqueries alimentées par l’IA, ils risquent d’être exclus des services de plus en plus dépendants de l’IA, et leurs besoins en matière de santé et de soins sont de plus en plus gérés par des systèmes d’IA qui n’ont pas été conçus en pensant à eux. En même temps, les aînés sont parmi les moins représentés dans les discussions sur la politique en matière d’IA.
Clonage vocal et l’arnaque des grands-parents
L’arnaque des grands-parents, où un fraudeur appelle une personne âgée en se faisant passer pour un petit-enfant en détresse, existe depuis des années. Le clonage vocal par IA l’a rendue beaucoup plus convaincante. Un fraudeur peut maintenant synthétiser une approximation convaincante de la voix d’une personne spécifique à partir de quelques secondes d’audio disponibles sur les réseaux sociaux. L’appel ne ressemble plus à un étranger: il ressemble à de la famille.
Le Centre antifraude du Canada a signalé que les Canadiens ont perdu plus de 554 millions de dollars en fraude en 2023, les aînés étant représentés de manière disproportionnée parmi les victimes. À mesure que la synthèse vocale et vidéo par IA s’améliore, la sophistication de ces escroqueries continuera d’augmenter.
Exclusion numérique des services dépendants de l’IA
L’IA est intégrée dans des systèmes dont les Canadiens dépendent : portails de soins de santé, demandes de prestations gouvernementales, services bancaires, service à la clientèle. À mesure que ces systèmes deviennent plus dépendants de l’IA, les aînés canadiens moins à l’aise avec les interfaces numériques risquent d’être exclus des services auxquels ils ont droit. Il existe un risque réel d’un système de services à deux vitesses : l’un pour ceux qui peuvent naviguer dans des interfaces gérées par IA, et l’autre, plus lent et moins fonctionnel, pour ceux qui ne le peuvent pas.
IA médicale et patients âgés
Les outils de diagnostic par IA déployés dans les soins de santé canadiens ont souvent été formés sur des ensembles de données qui sous-représentent les patients plus âgés, qui ont des antécédents médicaux plus complexes, plus de comorbidités et des présentations de maladies différentes des populations plus jeunes. Des données croissantes suggèrent que les outils de diagnostic par IA sont moins précis pour les patients plus âgés que pour les plus jeunes.
Au-delà de la précision, il y a une préoccupation concernant la qualité des soins. L’IA est utilisée pour automatiser des décisions sur les trajectoires de soins d’une manière qui réduit le jugement humain et la valeur thérapeutique du contact humain. Pour les patients plus âgés, qui bénéficient souvent le plus de relations stables avec leurs soignants, ce changement a des coûts réels qui n’apparaissent pas dans les mesures d’efficacité.
Vie privée et surveillance dans les établissements de soins
Des outils de surveillance par IA sont déployés dans les établissements de soins de longue durée: capteurs de mouvement, caméras et moniteurs de santé qui suivent en continu les déplacements, le sommeil et le comportement des résidents. Ces outils sont généralement présentés comme des mesures de sécurité. Mais ils représentent également une surveillance continue de certains des Canadiens les plus vulnérables dans des contextes où ils ont peu de choix et une capacité limitée à donner un consentement éclairé.
Discrimination algorithmique dans les services financiers
Les systèmes d’IA utilisés dans la notation du crédit, la tarification des assurances et la détection de fraude peuvent discriminer les adultes plus âgés d’une manière difficile à détecter et à contester. La détection de fraude par IA peut signaler à tort des comportements financiers ordinaires des aînés, notamment les grands transferts à des membres de la famille et les habitudes de dépenses irrégulières, comme suspects, entraînant des gels de comptes ou des perturbations de service. Quand ces décisions sont prises par des algorithmes, il n’y a souvent pas de processus d’appel transparent.
L’enjeu central : Les aînés canadiens sont à la fois parmi les plus ciblés par les préjudices liés à l’IA, notamment la fraude, la surveillance et l’exclusion des services, et parmi les moins représentés dans les instances où la politique en matière d’IA est conçue. Un cadre de gouvernance de l’IA qui ne traite pas spécifiquement les besoins et les vulnérabilités des aînés canadiens est un cadre conçu pour quelqu’un d’autre.
À surveiller au Canada
- Si les organismes fédéraux (CRTC, ACFC, BSIF) établissent des protections spécifiques des consommateurs liées à l’IA pour les aînés
- Si les normes canadiennes en matière de soins de longue durée traitent de la surveillance par IA et des droits au consentement des résidents
- Si Santé Canada exige que les outils médicaux par IA démontrent des performances adéquates pour tous les groupes d’âge avant approbation
- Si Service Canada et les gouvernements provinciaux maintiennent des voies de service non numériques accessibles à mesure qu’ils se numérisent
- Si le Centre antifraude du Canada reçoit plus de ressources pour lutter contre la fraude alimentée par l’IA ciblant les aînés
L’IA dans les conflits armés dépasse les règles conçues pour les encadrer
Les systèmes d’armes autonomes, le ciblage assisté par IA et la prise de décision algorithmique sur le champ de bataille ne sont plus théoriques. Ils sont testés et déployés dans des conflits actifs. Pour les personnes qui travaillent dans l’armée, la politique de défense ou la sécurité nationale, les implications vont au-delà de l’efficacité opérationnelle : l’IA transforme qui prend les décisions létales, à quelle vitesse elles sont prises, et s’il est possible d’en demander compte à quelqu’un lorsque les choses tournent mal.
Escalade rapide et rétrécissement de la fenêtre de désescalade
Les systèmes d’armes modernes pilotés par IA peuvent détecter, classifier et répondre aux menaces perçues plus rapidement que tout cycle décisionnel humain ne le permet. Dans une confrontation entre deux adversaires dotés de capacités en IA, des réponses automatisées peuvent survenir avant qu’un commandant soit même informé d’un événement déclencheur. Le temps qui a toujours existé pour la communication, la négociation et la désescalade, notamment un appel entre généraux, une communication diplomatique discrète ou une pause pour vérifier le renseignement, peut ne plus exister dans un conflit où les deux parties opèrent des systèmes autonomes.
Ce n’est pas un risque hypothétique. Le conflit de 2020 au Haut-Karabakh a vu des essaims de drones guidés par IA utilisés à grande échelle pour la première fois, comprimant considérablement les délais d’engagement sur le champ de bataille. Dans une confrontation entre grandes puissances nucléaires, la marge entre une réponse automatisée et un incident international irréversible pourrait se réduire à quelques secondes. Des systèmes conçus pour réagir plus vite que l’adversaire peuvent, collectivement, produire une situation qui dégénère plus rapidement qu’aucun acteur humain ne l’avait voulu.
Erreurs de ciblage de civils à l’échelle des machines
Les systèmes de ciblage par IA classifient les menaces potentielles par reconnaissance de formes, en déduisant le statut de combattant à partir du comportement observé, de la localisation, des signatures de communication, du type de véhicule et d’autres données. Cette inférence peut être erronée. Quand un soldat humain commet une erreur d’identification, il s’agit d’une erreur individuelle aux conséquences individuelles. Quand un système de ciblage par IA est mal calibré, il applique cette erreur systématiquement à toute personne ou tout objet correspondant au profil défaillant.
En avril 2024, le média israélien +972 Magazine et la publication hébraïque Local Call ont publié une enquête détaillée sur l’utilisation d’un système d’IA appelé « Lavender » par le renseignement militaire israélien. Basée sur des entretiens avec des agents du renseignement en poste et anciens, l’enquête a révélé que Lavender avait généré une base de données d’environ 37 000 Palestiniens signalés comme militants présumés du Hamas ou du Jihad islamique palestinien. Des sources ont indiqué aux médias que le système présentait un taux d’erreur d’environ 10 %, ce qui signifie qu’une personne sur dix désignée comme cible était probablement un civil sans affiliation militante. Sur une liste de 37 000 noms, ce taux d’erreur représente environ 3 700 personnes faussement désignées pour un ciblage létal potentiel.
La supervision humaine décrite par les soldats était minimale. Des sources ont indiqué que les décisions de frappe étaient autorisées en aussi peu que 20 secondes par cible, les soldats décrivant leur rôle comme n’étant guère plus qu’un simple tampon encreur sur les résultats de l’algorithme. L’armée israélienne aurait approuvé jusqu’à 15 à 20 morts civiles comme dommages collatéraux acceptables lors du ciblage d’un militant de bas rang, et jusqu’à 100 ou plus pour un commandant de haut rang. Un système complémentaire appelé « Where’s Daddy? » était utilisé pour traquer les cibles jusqu’à leur domicile familial, de sorte que beaucoup ont été tués la nuit aux côtés de leur famille, y compris des enfants. L’armée israélienne a contesté certaines caractérisations figurant dans l’enquête, mais n’a pas nié l’existence de l’un ou l’autre de ces systèmes.
Le droit international humanitaire exige que chaque attaque soit évaluée individuellement sous l’angle de la proportionnalité et de la distinction entre combattants et civils. L’enquête sur Lavender décrit un processus où cette exigence légale a été comprimée à quelques secondes et la décision de ciblage déléguée à un algorithme présentant un taux d’erreur connu. Les systèmes d’IA qui génèrent des listes de cibles plus vite qu’une évaluation humaine significative ne peut être effectuée sont en tension structurelle avec les lois des conflits armés, quelle que soit la façon dont leurs opérateurs sont instruits de les utiliser.
L’élargissement de la définition d’une cible légitime
Le droit international humanitaire autorise les attaques contre des infrastructures qui procurent un avantage militaire direct: la doctrine du ciblage à double usage. À mesure que les opérations militaires deviennent plus dépendantes de l’IA, l’infrastructure qui soutient l’IA (centres de données, informatique en nuage, câbles de communication sous-marins, liaisons par satellite, réseaux électriques) peut être juridiquement qualifiée de cible militaire. Les populations civiles qui dépendent de cette même infrastructure pour les hôpitaux, les services d’urgence, le traitement de l’eau et les communications en subissent les conséquences.
Ce n’est pas un risque lointain. Les planificateurs militaires de plusieurs pays débattent activement du statut juridique et stratégique des infrastructures d’informatique en nuage commerciales qui hébergent également des charges de travail de défense. Si un centre de données traite à la fois des opérations bancaires civiles et de la logistique militaire, son statut au regard du DIH est véritablement ambigu, et l’intégration de l’IA dans les systèmes militaires rend cette ambiguïté plus fréquente, non moins.
Le vide de responsabilité
En vertu du droit international humanitaire, les militaires sont légalement responsables de la licéité des frappes qu’ils autorisent. Cette chaîne de responsabilité repose sur une décision humaine. Quand un système autonome sélectionne une cible et initie un engagement sans révision humaine substantielle, cette chaîne se brise, et la responsabilité ne se transfère pas simplement à la machine. Elle se dilue.
L’ingénieur qui a écrit l’algorithme de ciblage est-il responsable ? Le responsable des marchés publics qui a approuvé le système ? Le commandant qui l’a déployé dans un théâtre sans en comprendre pleinement les paramètres ? Le dirigeant politique qui a autorisé le programme de défense ? En pratique, l’autonomie complète peut permettre l’emploi de la force létale tout en répartissant la responsabilité entre un si grand nombre d’acteurs qu’aucun individu ne peut être tenu légalement responsable. Pour certains gouvernements, cette dilution de la responsabilité n’est pas un problème à résoudre, mais un avantage à préserver.
La loi militaire canadienne existante et la Loi sur la défense nationale n’ont pas été rédigées pour aborder les armes autonomes. La question de ce qui constitue une autorisation licite du recours à la force létale lorsqu’un système d’IA appuie sur la gâchette n’a pas été résolue en droit ou en politique canadiens.
Prolifération et abaissement des barrières au recours à la force létale
Les systèmes de drones autonomes et les capacités d’armes assistées par IA qui nécessitaient une capacité industrielle de niveau étatique il y a dix ans sont maintenant disponibles dans le commerce et de moins en moins coûteux. Les groupes armés non étatiques, les organisations terroristes et les réseaux criminels commencent à déployer des systèmes d’armes assistés par IA. La prolifération de ces capacités vers des acteurs qui n’ont aucune obligation de se conformer au droit international humanitaire, et aucun territoire ou population susceptible de dissuasion, modifie l’environnement sécuritaire du Canada d’une manière qui ne correspond pas aux doctrines de défense existantes.
Manipulation adverse des systèmes d’IA
Les systèmes de ciblage et de renseignement par IA peuvent être délibérément trompés. Les entrées adversariales, des signaux soigneusement conçus qui amènent les systèmes d’IA à mal classifier ce qu’ils observent, constituent un domaine actif de recherche et de planification opérationnelle. Un système de ciblage par IA peut potentiellement être manipulé pour identifier des sites civils comme des cibles militaires, ou des cibles militaires comme des sites civils. La fiabilité des systèmes d’IA dans des conditions adversariales, dans des environnements spécifiquement conçus pour les déjouer, est une question que les environnements d’essai ne peuvent résoudre et qui a de sérieuses implications pour les décisions opérationnelles prises dans cette incertitude.
L’enjeu central : L’IA est intégrée dans les conflits armés plus rapidement que les cadres juridiques, éthiques et stratégiques conçus pour la gouverner ne peuvent s’adapter. Le risque n’est pas seulement que des systèmes individuels échouent: c’est que la logique cumulée de la prise de décision létale automatisée, à grande vitesse et distribuée, produise des résultats qu’aucun acteur n’a voulus et qu’aucun cadre juridique existant ne peut imputer à quiconque. Le Canada n’a pas encore légiféré de contraintes significatives sur les armes autonomes ni établi quelle autorisation humaine doit exister avant que les systèmes d’IA puissent initier le recours à la force létale.
À surveiller au Canada
- Si le Canada soutient un traité international contraignant sur les Systèmes d’armes létales autonomes (SALA) à la Convention des Nations Unies sur certaines armes classiques, comme il l’a fait pour les mines antipersonnel et les armes à sous-munitions
- Si la Loi sur la défense nationale est mise à jour pour définir le niveau minimal d’autorisation humaine requis avant que les systèmes d’IA puissent initier le recours à la force létale
- Si le Canada établit des mécanismes de responsabilité obligatoires pour les dommages causés par les systèmes d’IA déployés par les Forces armées canadiennes
- Si le processus d’approvisionnement en défense du Canada exige un examen éthique indépendant des systèmes d’armes intégrant l’IA avant leur déploiement opérationnel
- Si le Canada développe une position de politique publique sur le ciblage à double usage des infrastructures d’IA civiles dans les conflits armés
Les travailleurs du cinéma perdent leur image, leur travail et leur pouvoir de négociation face à l’IA
L’industrie cinématographique et télévisuelle canadienne se trouve au cœur de l’un des affrontements les plus importants entre le travail et l’IA dans n’importe quel secteur. La grève SAG-AFTRA de 2023 aux États-Unis, qui a duré 118 jours et a été la plus longue de l’histoire du syndicat, était en grande partie motivée par l’IA — notamment par les tentatives des studios d’obtenir des droits illimités pour numériser et reproduire l’image des artistes, remplacer les figurants par des doublures numériques générées par IA, et automatiser le travail de postproduction. La technologie évolue plus vite que les conventions collectives conçues pour l’encadrer. Au Canada, des négociations similaires sont en cours à l’ACTRA et à l’IATSE.
Acteurs et actrices : image, performance synthétique et consentement
L’enjeu central de l’IA pour les artistes devant la caméra n’est pas seulement le remplacement, bien que ce risque soit réel. C’est la propriété. La synthèse vocale par IA peut désormais reproduire la voix d’un acteur précis à partir d’un petit échantillon audio avec des résultats difficiles à distinguer d’un enregistrement authentique. La génération vidéo par IA peut placer l’image d’un artiste dans des scènes auxquelles il n’a jamais participé. Et les contrats qui régissent la plupart des productions canadiennes ont été rédigés avant que ces capacités n’existent.
Les studios ont commencé à inclure des clauses IA dans les contrats qui, dans certains cas, accordent le droit de numériser et d’utiliser l’image numérique d’un artiste à perpétuité, pour des projets futurs, sans compensation supplémentaire ni approbation. Pour les vedettes établies, ces clauses sont souvent négociables. Pour les artistes en milieu de carrière ou en émergence qui ont besoin du travail, ce n’est souvent pas le cas. L’artiste qui accepte un paiement unique pour une numérisation complète risque de voir son image utilisée dans des productions auxquelles il n’a jamais consenti et dont il ne tire aucun revenu.
Des outils de sélection par IA sont également utilisés pour présélectionner les auditions, analysant les expressions faciales, la voix et la présence à la caméra par le biais d’algorithmes dont les critères sont opaques et les biais non vérifiés de façon indépendante. Un artiste rejeté par un outil de présélection IA n’a aucun recours, aucune explication, et souvent aucune connaissance que la décision a été prise par un algorithme plutôt que par un lecteur humain.
Au Canada, la Loi sur le droit d’auteur protège les prestations spécifiques, mais ne précise pas clairement si la reproduction synthétisée par IA de la voix ou de l’image d’un artiste constitue une violation. Les accords types de l’ACTRA sont mis à jour dans le cadre de négociations en cours, mais la couverture n’est pas uniforme dans l’ensemble de l’industrie.
Figurants : numérisés une fois, remplacés pour toujours
Les figurants — les milliers de Canadiens qui apparaissent comme membres d’une foule, passants, convives, employés de bureau et comparses dans les productions canadiennes — font face au risque de déplacement le plus immédiat lié à l’IA. La technologie existe déjà pour peupler des scènes de foule entièrement avec des personnages générés par IA, pour remplacer les figurants en postproduction, et pour numériser un groupe de figurants une fois et reproduire leurs images dans des productions futures illimitées.
Lors de la grève SAG-AFTRA de 2023, des propositions de studios ayant fuité ont révélé que certaines compagnies de production cherchaient à obtenir le droit de numériser le visage, le corps et les mouvements des figurants contre une seule journée de salaire, le studio conservant la propriété illimitée du modèle numérique résultant. Ce modèle pourrait ensuite être utilisé dans toute production future, indéfiniment, sans consentement ni compensation supplémentaires. L’accord convertirait effectivement une journée de travail de figuration en un transfert permanent et non rémunéré de l’identité physique complète d’une personne.
Pour les figurants canadiens, qui dépendent de cette activité comme principale source de revenus, notamment des nouveaux arrivants, des Canadiens racialisés et d’autres personnes aux alternatives limitées, le risque est réel et immédiat. Le déplacement des figurants élimine des voies d’entrée dans l’industrie et des moyens de subsistance que la politique publique n’a pas encore cherché à protéger explicitement.
Monteurs et artistes en effets visuels : l’automatisation de l’intérieur du métier
La perturbation à laquelle font face les monteurs et les artistes en effets visuels est différente de celle que vivent les artistes devant la caméra. Il s’agit moins d’un remplacement que d’une compression : les outils IA réduisent le temps nécessaire pour accomplir des tâches qui ont historiquement défini le métier, réduisant la taille des équipes requises et modifiant l’ensemble des compétences valorisées.
La rotoscopie — l’isolation minutieuse image par image des personnages sur fond — peut maintenant être accomplie par des outils IA en une fraction du temps autrefois requis. Les outils de mise à l’échelle et de restauration par IA ont automatisé un travail qui nécessitait auparavant des artistes spécialisés en restauration. La détection de scènes, l’assemblage de prémontages et le nettoyage des dialogues sont gérés par l’IA avec une fiabilité croissante.
Plus perturbant encore que l’automatisation des outils individuels est l’émergence de l’IA générative dans le pipeline de préproduction et de production. L’IA est utilisée pour générer des illustrations conceptuelles et des séquences de prévision que les studios commandaient auparavant à des artistes. Le rajeunissement et le remplacement de visages par IA réduisent le travail VFX nécessaire pour des effets qui demandaient autrefois de grandes équipes spécialisées pendant des mois. Le Canada a bâti une industrie VFX importante, notamment à Vancouver et Toronto. Ce modèle dépend d’une main-d’œuvre qualifiée en VFX — si l’IA réduit systématiquement le contenu en main-d’œuvre de ce travail, l’argument économique pour attirer des productions internationales au Canada s’affaiblit avec lui.
L’enjeu fondamental : Les travailleurs canadiens du cinéma — des artistes aux équipes de postproduction — négocient leur relation avec l’IA sans cadre juridique clair. La Loi sur le droit d’auteur ne traite pas de la synthèse IA des prestations. Les accords de l’ACTRA et de l’IATSE sont en cours de mise à jour, mais ne couvrent qu’une partie de l’industrie. Les organismes de financement public de l’écran n’ont pas encore établi de politiques sur l’IA. Les travailleurs les plus à risque — les figurants et les artistes VFX de niveau intermédiaire — ont le moins de pouvoir de négociation et la moindre visibilité dans les discussions politiques.
Ce qu’il faut surveiller au Canada
- Si l’ACTRA obtient des protections en matière d’image numérique équivalentes à l’accord SAG-AFTRA de 2023, notamment l’interdiction de numériser des figurants pour une journée de salaire avec utilisation future illimitée
- Si la Loi sur le droit d’auteur est modifiée pour donner aux artistes un droit clair de contrôler et d’être rémunérés pour les reproductions IA de leur voix ou de leur image
- Si Téléfilm Canada et le Fonds des médias du Canada établissent des conditions au financement public exigeant le consentement explicite des artistes avant l’utilisation de leurs images générées par IA
- Si la réglementation CanCon est mise à jour pour clarifier si le contenu généré par IA est admissible comme contenu canadien aux fins du financement et de la radiodiffusion
- Si les accords de l’IATSE couvrant les maisons VFX canadiennes incluent des restrictions exécutoires sur le remplacement par IA du travail des unités de négociation sans consultation préalable
Que pouvez-vous faire ?
Comprendre comment l’IA vous affecte est la première étape. La boîte à outils citoyenne vous donne des outils concrets pour faire entendre votre voix: modèles de lettres à votre député et au ministre de l’IA, et des instructions étape par étape sur comment participer au processus politique avant que les décisions soient prises sans vous.