Énoncé du défi 

La croissance et l’adoption rapides des technologies émergentes redessinent l’avenir du travail. Cela crée des défis uniques et complexes pour les personnes en situation de handicap. [5] En particulier, l’intelligence artificielle (IA) est intégrée dans les pratiques de recrutement, servant de gardien  à chaque étape de l’emploi. Mais les préjugés des systèmes d’IA peuvent mener à des pratiques.

discriminatoires qui affectent de manière disproportionnée les personnes en situation de handicap. [6], [7]

Les impacts incluent (mais ne sont pas limités à) l’exclusion des opportunités d’emploi, les algorithmes qui stéréotypent (sélection injuste des candidats), les technologies inaccessibles et le manque de représentation dans les équipes qui développent des outils d’IA. [8], [9]

C’est pourquoi MaRS et la CIBC recherchent des solutions pour prévenir ou réduire les préjugés liés à l’intelligence artificielle et leurs effets sur le recrutement des personnes en situation de handicap.

Les solutions devront :

• Lutter contre les préjugés liés à l’IA dans le cadre du recrutement, et
• Être dirigés par des personnes en situation de handicap ou élaborés en partenariat direct avec elles.

Qu’entend-on par « préjugés liés à l’IA » ?

Les préjugés liés à l’IA se réfèrent à des situations où l’IA produit des résultats injustes, tels que le reflet de préjugés injustes ou le renforcement d’inégalités sociales existantes. Il se produit lorsqu’un système d’IA produit des résultats systématiquement préjudiciables en raison d’hypothèses erronées dans : le processus d’apprentissage automatique, les données de formation ou la conception des algorithmes. [10], [11] 

Les préjugés liés à l’IA dans le recrutement désignent les résultats injustes et discriminatoires dans les processus d’embauche résultant d’algorithmes qui ont été formés sur des données historiquement préjudiciables, ce qui entraîne une perpétuation de la discrimination sur le lieu de travail, un manque de diversité et des opportunités manquées pour les candidats sous-représentés. [12]

Volets de solutions 

Nous acceptons les solutions technologiques et non technologiques à ce défi et proposons deux catégories de prix, en fonction de l’étape et de la nature de la solution. 

Volet A : Génération d’idées non technologiques

Ce volet est consacré à la recherche de nouvelles solutions non technologiques permettant de prévenir et/ou de réduire les préjugés liés à l’intelligence artificielle dans le recrutement des personnes en situation de handicap. Les nouvelles idées/solutions signifient que la solution proposée n’a pas été testée ou mise en œuvre auparavant.

Voici quelques exemples d’idées non technologiques qui permettent de prévenir et/ou de réduire les préjugés liés à l’IA dans le recrutement des personnes en situation de handicap : 

• Politiques guidant l’utilisation/le développement de l’IA ;
• Initiatives visant à promouvoir des pratiques plus responsables en matière d’IA ; 
• Méthodologies d’audit des pratiques d’IA au sein des organisations ; 
• Campagnes d’éducation visant à promouvoir l’IA inclusive ;
• Normes de transparence des données ;
• Nouveaux modèles de collaboration/partenariat entre experts et praticiens.

Nous encourageons toute personne ayant une idée visant à réduire ou à prévenir les préjugés liés à l’IA dans le recrutement des personnes en situation de handicap à présenter sa demande pour ce volet. Cela inclut les personnes en situation de handicap, les organismes communautaires, les étudiants, les décideurs politiques, les chercheurs, les innovateurs, les défenseurs d’intérêts, etc.

Volet B : Solutions technologiques ou non technologiques développées  

Ce volet est consacré aux solutions technologiques et non technologiques qui ont déjà été mises en œuvre pour prévenir et/ou réduire les préjugés liés à l’AI dans le recrutement des personnes en situation de handicap. Les solutions retenues disposent d’un prototype, d’un produit minimum viable (MVP) ou sont opérationnelles dans ce domaine. 

Des exemples de ces solutions incluent, mais ne sont pas limités à :

• Applications logicielles spécifiques
• Modifications innovantes (plugiciels ou des ajouts) des technologies d’IA existantes
• Outils, bases de données inclusives, méthodologies, politiques ou meilleures pratiques reconnues actuellement efficaces pour prévenir et/ou réduire les préjugés liés à l’IA dans le recrutement des personnes en situation de handicap. Il est essentiel que ces solutions soient accompagnées de données probantes tangibles de leur impact.

Les participants doivent déclarer le volet auquel ils participent lorsqu’ils présentent leur demande. Les participants ne peuvent pas s’inscrire dans les deux volets.

[5] Bogen, M. (2019, 6 mai). Toutes les façons dont les algorithmes d’embauche peuvent introduire des biais. Harvard Business Review. https://hbr.org/2019/05/all-the-ways-hiring-algorithms-can-introduce-bias 

[6] Caccavale, J. (2022, 28 octobre). Rapport sur les préjugés en matière de recrutement : Comment les préjugés affectent l’embauche et comment les éliminer. Recruitment Software &amp ; Hiring Platform. https://www.beapplied.com/post/recruitment-bias-report-how-bias-affects-hiring-and-how-to-remove-it 

[7] Tilmes, N. (2022, April 19). Disability, fairness, and algorithmic bias in AI recruitment – ethics and Information Technology. SpringerLink. https://link.springer.com/article/10.1007/s10676-022-09633-2 

[8] Welker, Y. (2023, May 5). Algorithmic diversity: Mitigating AI bias and disability exclusion. Forbes. https://www.forbes.com/sites/forbestechcouncil/2023/05/09/algorithmic-diversity-mitigating-ai-bias-and-disability-exclusion/?sh=6d9200e6417d 

[9] Nugent, S. E., & Scott-Parker, S. (2022, September 8). Recruitment AI has a disability problem: Anticipating and mitigating unfair automated hiring decisions. SpringerLink. https://link.springer.com/chapter/10.1007/978-3-031-09823-9_6 

[10] Welker, Y. (2023, May 5). Algorithmic diversity: Mitigating AI bias and disability exclusion. Forbes. https://www.forbes.com/sites/forbestechcouncil/2023/05/09/algorithmic-diversity-mitigating-ai-bias-and-disability-exclusion/?sh=6d9200e6417d

[11] Marr, Bernard. (2022, September 30). The problem with biased AIs (and how to make AI better). Forbes. https://www.forbes.com/sites/bernardmarr/2022/09/30/the-problem-with-biased-ais-and-how-to-make-ai-better/?sh=43a7708e4770

[12] Tilmes, N. (2022, April 19). Disability, fairness, and algorithmic bias in AI recruitment – ethics and Information Technology. SpringerLink. https://link.springer.com/article/10.1007/s10676-022-09633-2 d

Admissibilité

Vous ne pouvez participer au défi que si vous remplissez l’une des trois conditions d’admissibilité suivantes, comme indiqué dans le règlement du défi:

1. Vous êtes une personne qui, au moment de votre participation : (a) vous êtes un résident légal du Canada, et (b) vous avez au moins l’âge de la majorité dans votre province de résidence ou entre 13 ans et l’âge de la majorité, avec votre parent/tuteur acceptant le présent règlement officiel en votre nom.
2. Vous êtes un groupe de personnes participant au Défi en tant qu’équipe et : (a) chacun d’entre vous, au moment de l’inscription, est (i) un résident légal du Canada, (ii) au moins l’âge de la majorité dans votre province de résidence ou (iii) entre 13 ans et l’âge de la majorité, avec votre parent/tuteur acceptant le présent règlement officiel en votre nom ; et (b) vous désignez un (1) membre de votre équipe comme votre représentant autorisé admissible (défini ci-dessous) pour participer au défi et signifier votre accord d’être légalement lié par le présent règlement officiel en votre nom ; ou
3. Vous êtes une entreprise ou une organisation qui : (a) au moment de la participation, est soit (i) constituée en vertu des lois du Canada ; ou (ii) exerce légalement ses activités au Canada ; et (b) vous désignez un (1) représentant autorisé admissible (défini ci-dessous) pour participer au défi et qui accepte d’être légalement lié par le présent règlement officiel en votre nom.

Comment présenter une demande

Étape 1 : Créer un profil sur https://challenges.marsdd.com/ 

Étape 2 : Lisez et acceptez les règlements du défi en cliquant sur le bouton « Accepter le défi » sur le site Web du défi de la conception inclusive : L’avenir du travail.

Étape 3 : Remplir le formulaire de soumission :

1. Assurez-vous de respecter les limites de mots. 
2. Enregistrez votre formulaire en format PDF en indiquant le nom de votre équipe/candidat et la date dans le nom du fichier (par exemple Team-MaRS_Mar2024_ Submission-Form).

Étape 4 : Cliquez sur « Soumettre la demande » sur la page web du défi de la conception inclusive : L’avenir du travail, et téléchargez votre formulaire de demande sauvegardé .

Formats alternatifs

Si vous avez besoin d’un autre format d’inscription, veuillez contacter l’équipe MaRS Challenges à l’adresse suivante : challenges@marsdd.com ou en composant le (647) 255-1452 ; nous travaillerons ensemble pour nous assurer que vous disposez d’un format d’inscription alternatif approprié qui vous permettra de remplir toutes les conditions requises.

Date limite

Les participants doivent soumettre leur candidature avant la date limite du 4 mars 2024 à 17 h (heure de l’Est).

Glossaire

Accès: Lieu où l’on peut se rendre facilement, environnement où l’on s’oriente facilement ou programme ou service facile à obtenir.

Accessibilité: Ensemble d’aspects qui peuvent influencer la capacité d’une personne à fonctionner dans un environnement.

Adaptation: Modification personnalisée apportée à un lieu de travail afin de permettre aux personnes en situation de handicap de surmonter les obstacles auxquels elles font face.

Technologie d’assistance: Tout article, équipement, logiciel ou système de produit utilisé pour accroître, maintenir ou améliorer les capacités fonctionnelles des personnes en situation de handicap.

Préjugés comportementaux: Mythes omniprésents sur les personnes en situation de handicap qui se traduisent par des attitudes négatives ou des suppositions sur leur capacité à travailler. 

Barrière: Tout élément physique, architectural, technologique ou comportemental, fondé sur l’information ou la communication ou résultant d’une politique ou d’une pratique, qui fait obstacle à la pleine et égale participation à la société des personnes ayant une déficience physique, mentale, intellectuelle, d’apprentissage, de communication ou sensorielle, ou une limitation fonctionnelle.

Sans barrière: Conçu ou planifié pour donner accès au segment le plus large possible de la population, y compris les personnes en situation de handicap.

Préjugé: Une tendance, un penchant, un sentiment ou une opinion préconçus.

Handicap cognitif: Se dit d’une personne qui a plus de difficultés que la moyenne à effectuer un ou plusieurs types de tâches mentales.

Handicap:

1) Réduction partielle ou totale de la capacité d’un être humain à accomplir une activité d’une manière ou dans des limites considérées comme normales, en raison d’une déficience.

2) Le résultat de l’interaction entre une personne et les barrières comportementales et environnementales qui entravent sa participation pleine et effective à la société sur la base de l’égalité en raison d’une déficience.

Discrimination: Une action ou une décision qui traite mal une personne ou un groupe pour des raisons telles que la race, l’âge ou le handicap.

Divulgation : Un processus dans lequel les individus décident quand et s’ils vont révéler leur handicap à leur employeur, et les implications de cette décision.

Diversité: Reconnaître et valoriser les différences entre les individus et les groupes de personnes.

Conception inclusive: Une conception qui tient compte de toute la diversité humaine en ce qui concerne les capacités, la langue, la culture, le sexe, l’âge et d’autres formes de différences humaines .

Intersectionnalité: La façon dont les différentes identités marginalisées d’une personne se conjuguent pour avoir un impact sur elle. Par exemple, si une personne appartient à la classe ouvrière et souffre d’un handicap, la combinaison de ces deux facteurs façonne ses expériences de vie. Il est essentiel de comprendre comment l’intersectionnalité affecte les autres et son impact sur la société pour éliminer les barrières à la discrimination.

Travail/emploi utile: Un emploi ou un travail qui est utile est un travail qui donne un but et/ou qui permet aux gens de suivre leurs intérêts ou d’atteindre leurs objectifs.

Personnes en situation de handicap: Avoir une déficience significative et persistante en matière de mobilité, sensorielle, d’apprentissage ou une autre déficience physique ou mentale, qui peut être permanente ou temporaire, et subir des restrictions fonctionnelles ou des limitations de leur capacité à accomplir l’ensemble des activités de la vie.

Personnes ayant une expérience vécue: Terme générique englobant les personnes ayant une expérience personnelle d’un problème de santé et les aidants informels, y compris la famille et les amis.

Handicap physique: Une condition physique qui affecte la mobilité, la capacité physique, l’endurance ou la dextérité d’une personne. Il peut s’agir de lésions cérébrales ou de la moelle épinière, de sclérose en plaques, d’infirmité motrice cérébrale, de troubles respiratoires, d’épilepsie, de déficiences auditives et visuelles, etc.

Défis sociétaux: Les barrières qui existent en raison des hypothèses que la majorité des personnes d’une communauté, d’une société ou d’un environnement quelconque font à propos des personnes en situation de handicap. Il peut s’agir de stéréotypes, de préjugés et de messages sur la « façon dont les choses sont » qui peuvent créer ou perpétuer des désavantages pour les personnes en situation de handicap.

Stigmatisatio: Croyances et attitudes négatives associées à une situation, une caractéristique, un état ou une personne spécifique.

Réseaux de soutien: Aider les personnes qui recherchent un soutien sur le lieu de travail en jouant le rôle de source d’information centralisée. Il peut s’agir de membres de la famille, d’amis et d’autres systèmes de soutien pour aider les personnes en situation de handicap à atteindre leurs objectifs professionnels.

Préjugés inconscients: Jugements et évaluations qui créent ou perpétuent involontairement un désavantage pour un groupe particulier (p. ex., les personnes en situation de handicap).

[13] Sauf indication contraire, toutes les définitions sont fournies par le glossaire de l’accessibilité https://www.btb.termiumplus.gc.ca/publications/accessibilite-accessibility-eng.html

[14] Qu’est-ce que la conception inclusive ? Centre de recherche sur la conception inclusive. (n.d.). https://legacy.idrc.ocadu.ca/about-the-idrc/49-resources/online-resources/articles-and-papers/443-whatisinclusivedesign

[15] Kimberlé Crenshaw sur l’intersectionnalité, plus de deux décennies plus tard. Columbia Law School. (2017, 8 juin). https://www.law.columbia.edu/news/archive/kimberle-crenshaw-intersectionality-more-two-decades-later

[16] http://www.cihr-irsc.gc.ca/e/48413.html#a4