La stratégie d’IRCC en matière d’IA réduit les immigrants à des points de données

Le film Rapport minoritaire (2002) de Steven Spielberg, dont l’action se déroule en 2054, nous a mis en garde contre un avenir technologique qui n’est peut-être pas aussi lointain qu’il semblait autrefois, particulièrement compte tenu de l’utilisation croissante de l’intelligence artificielle (IA) au nom de l’efficacité. On y suit le détective Anderton (joué par Tom Cruise), qui se retrouve pris au piège d’un système de police prédictive qui constitue l’un des éléments les plus marquants du film. Ce système imagine un État de surveillance dans lequel toute personne peut être arrêtée pour des crimes qu’elle n’a pas encore commis.

À l’heure où l’IA fait l’objet d’une utilisation croissante dans divers domaines, le message inquiétant du film semble de plus en plus d’actualité. La Faculté des arts et des sciences de l’Université de Toronto a récemment publié un article sur le racisme des systèmes d’IA, selon lequel les données sélectionnées qui les alimentent prennent comme référence les hommes blancs et tendent à discriminer les personnes de couleur. Cette situation pose un grave problème lorsque l’IA est employée dans des contextes profondément humains et liés à des traumatismes tels que les procédures d’immigration.

Le ministère fédéral Immigration, réfugiés et citoyenneté Canada (IRCC), qui fait appel à des technologies automatisées et assistées par l’IA, affirme que sa stratégie en matière d’IA « décrit comment [il] utiliser[a] l’IA pour accroître l’efficacité, améliorer la prestation de services et renforcer l’intégrité des programmes, tout en respectant les normes éthiques les plus élevées ».

« Éthiques », mais pour qui ? Qui est responsable lorsque les gouvernements délèguent certains aspects d’un processus décisionnel aux conséquences cruciales à des systèmes technologiques et que ces systèmes commettent des erreurs ? IRCC précise qu’elle n’utilisera l’IA que dans certains domaines tels que le traitement automatisé, les outils algorithmiques destinés à assister les agents d’immigration, les systèmes d’IA ou d’apprentissage automatique, l’évaluation des risques de même que le triage et la hiérarchisation des priorités. L’organisme ajoute qu’un agent d’immigration humain est responsable de toute décision définitive. Il semble donc s’agir d’une mesure visant à gagner en efficacité et à alléger la charge de travail d’un système qu’on n’a cessé de souligner à quel point il est débordé. Mais les intentions de ce système importent peu lorsque les conséquences de ses erreurs bouleversent la vie des personnes qui en sont victimes.

Un aperçu de l’approche du Québec en matière d’IA et d’immigration offre une autre perspective. Plutôt que de se concentrer principalement sur la manière dont l’IA peut être intégrée aux processus d’immigration, le Québec a fait appel à l’IA dans le cadre d’une initiative visant à attirer des personnes immigrantes qui possèdent une expertise dans le domaine de même qu’en technologies de l’information et en effets visuels. Ce contraste soulève une question importante : si les gouvernements reconnaissent la valeur des immigrants susceptibles de contribuer au développement de l’IA, accordent-ils suffisamment d’attention à la façon dont l’IA peut affecter les personnes qui passent par le système d’immigration ?

Imaginez qu’un système d’IA interprète de manière erronée des aspects essentiels de la vie d’une personne candidate à l’immigration. Incapable de saisir les subtilités de son parcours scolaire ou la résilience que celui-ci a exigée, le système réduit ses expériences vécues à un simple résumé. Ce faisant, il risque d’occulter les circonstances mêmes qui auraient pu amener un décideur humain à porter un regard plus favorable sur cette personne.

C’est ce qui est arrivé à Kémy Adé, chercheuse-boursière et enseignante à l’Université McMaster, dont la demande de résidence permanente a été rejetée après qu’une évaluation assistée par l’IA d’IRCC lui a attribué des fonctions sans rapport avec son travail réel. Bien que M^me Adé ait contesté cette décision, les conséquences plus graves de cette erreur demeurent largement ignorées. Au dossier administratif s’ajoutent en effet l’instabilité financière, les perturbations qu’a subies sa vie professionnelle et personnelle, sans parler des répercussions sur sa santé mentale.

Une demande d’immigration ne se limite pas à un ensemble de formulaires, de documents et de points de données. Derrière chaque dossier se trouve une personne qui a consacré des années de travail, d’études, de revenus et d’espoir à se construire une vie au Canada. Les documents remis à IRCC racontent l’histoire de ces personnes : leur parcours professionnel, leur famille, leurs épreuves, leurs réussites et, souvent, les raisons qui les poussent à chercher un avenir ici.

Lorsque ces parcours sont de plus en plus filtrés par des systèmes automatisés, les personnes immigrantes risquent d’être perçues davantage comme des données que comme des êtres humains. Une efficacité accrue peut certes aider les gouvernements à gérer de grands volumes de demandes, mais elle ne saurait se substituer à leur compréhension.

En fin de compte, le problème ne réside pas simplement dans le fait que l’IA prenne ou non la décision définitive. Il s’agit plutôt de savoir si l’IA modifie la perception qu’a le décideur à l’égard d’un être humain avant même que sa décision ne soit prise.