L’IA, un miroir déformant de nos discriminations ? Unia nous ouvre les yeux sur les dangers des algorithmes !

Ce jeudi matin, les auditeurs de Bonjour Bruxelles ont eu l’occasion d’entendre Patrick Charlier, le directeur d’Unia. L’organisme interfédéral, bien connu pour sa lutte contre les discriminations et les inégalités, a partagé des chiffres qui interpellent : une hausse de 18% des signalements pour racisme entre 2024 et 2025. Ces chiffres, révélés en exclusivité, touchent principalement le monde du travail et les médias, mais Unia pointe désormais une nouvelle source d’inquiétude majeure : l’intelligence artificielle.

Car oui, selon Patrick Charlier, l’IA n’est pas toujours neutre. « L’IA peut être raciste, elle peut exclure aussi des personnes en situation de handicap », a-t-il expliqué. Le danger est double : soit l’algorithme est conçu dès le départ pour discriminer, par exemple en refusant des crédits hypothécaires à certains profils, soit il est nourri avec des données qui sont elles-mêmes déjà biaisées. Le résultat ? Une discrimination involontaire mais bien réelle, car « le résultat va être biaisé, sans que ce soit conscient ou volontaire ».

Face à ce défi technologique et éthique, Unia ne reste pas les bras croisés. L’organisme a été reconnu comme acteur clé dans le cadre du nouvel « AI Act », la législation européenne visant à encadrer l’intelligence artificielle. Leur mission ? Surveiller attentivement ces systèmes. « Nous commençons à faire un monitoring des systèmes d’IA », a précisé le directeur. Unia est même déjà sollicité pour donner son avis, s’assurant que les algorithmes soient pensés « by design », c’est-à-dire conçus dès le départ pour être non-discriminatoires. Une démarche proactive essentielle pour que l’innovation ne rime pas avec exclusion et serve véritablement l’ensemble de notre société.