dilemmes éthiques et l'intelligence artificielle

L’intelligence artificielle est de plus en plus présente dans notre quotidien aujourd’hui. Elle joue un rôle important dans la vie de milliards de personnes. Parfois inaperçue mais avec des conséquences bien visibles, l’intelligence artificielle transforme la société. Elle remet en question l’être humain et les valeurs humaines. Le développement de ces nouvelles technologies présente de multiples avantages mais aussi des défis et des risques, lorsqu’elles sont utilisées de manière malveillante ou pour aggraver des inégalités ou des clivages. Pour s’assurer que l’intelligence artificielle soit au service du bien commun, il est important de se poser les bonnes questions en se penchant sur les dilemmes éthiques.

Qu’est-ce que l’intelligence artificielle (IA) ? 

Ce terme d’intelligence artificielle est apparu dans les années 1950 pour qualifier des machines capables d’apprendre et de réaliser des tâches de manière automatique. Plusieurs définitions de l’IA existent. Toutefois, il est admis communément que les machines intégrant de l’intelligence artificielle peuvent imiter voire dépasser les capacités cognitives humaines comme le raisonnement, l’analyse, la détection, l’interaction linguistique ou la résolution de problèmes. Ces machines intelligentes peuvent démontrer des facultés d’apprentissage à l’aide d’algorithmes d’apprentissage automatique, le “machine learning” ou d’apprentissage profond, le “deep learning”, afin d’imiter le fonctionnement du cerveau humain.

L’influence de l’IA augmente et se retrouve dans différents domaines comme la santé, la recherche scientifique, les communications, les transports, l’éducation, la sécurité ou encore l’art. Les entreprises utilisant l’intelligence artificielle dans l’entraînement de leur machine ont accès à une grande masse de données “le big data” à collecter et à traiter. 

L’intelligence artificielle peut être un outil puissant pour faire face aux différents enjeux environnementaux. Néanmoins, plusieurs dilemmes éthiques se posent et doivent être discutés. Il est donc important de définir des politiques et des cadres réglementaires internationaux et nationaux pour permettre aux technologies émergentes et à l’IA d’être au service de l’humain. Chaque acteur de la société, individus comme entreprises, a un rôle à jouer. 

La tech for good, la technologie au service du bien commun

“Tech for Good” signifie littéralement “la technologie pour le bien”. C’est une initiative lancée en 2018 par le Président français Emmanuel Macron avec pour objectif de garantir que la technologie agisse pour le bien commun. Cette dynamique manifeste la prise de conscience collective : “l’impact sociétal positif” doit être replacé au cœur de la tech et de la transformation numérique de la société. Elle peut également être un levier pour accomplir les Objectifs de développement durable (ODD) créés par les Nations Unies pour rendre le monde meilleur. Avec le développement des nouvelles technologies, dont l’intelligence artificielle, les différents acteurs de l’économie dont celles de l’économie sociale et solidaire (ESS) peuvent entrevoir de nouvelles opportunités pour agir. 

Chez isahit, l’intelligence artificielle est utilisée pour développer sa plateforme digitale d’externalisation de projets digitaux. Ainsi, la startup propose une solution innovante et responsable autant pour les entreprises qui cherchent à externaliser leurs projets digitaux (annotations d’images ou de vidéos pour entraîner des machines dans le secteur de l’automobile, etc) avec un partenaire aux valeurs fortes, que pour les collaborateurs qui travaillent sur la plateforme digitale, en ayant un soutien financier pour la réalisation de leurs projets professionnels et leur insertion dans le monde qui devient de plus en plus numérique.

Conscient des opportunités offertes par l’intelligence artificielle et le numérique dans sa globalité, isahit fait également partie de la Tech For Good qui veille à ce que les biais de l’IA soient réduits voire absorbés. La réglementation de l’usage de l’intelligence artificielle est primordiale. Ainsi, les représentations stéréotypées profondément ancrées dans nos sociétés pourront être abolies et amener celles de demain à un monde plus juste et équitable.

Post relié : Isahit est présent dans le 1er mapping des startups à impact positif sur la société, l’économie et l’environnement.

Quels sont les exemples de dilemmes éthiques ?

  • Les biais de l’IA : les systèmes d’intelligence artificielle donnent des résultats biaisés. Prenons l’exemple des moteurs de recherche expliqués par l’UNESCO. Si vous faites une recherche sur “les plus grands personnages historiques” dans votre moteur de recherche préféré, vous verrez certainement une liste de personnages masculins les plus connus dans le monde et peu voire pas de femmes mis en avant. Vous pouvez également faire un autre test en recherchant des images sur “les couleurs pour les filles”. La couleur prédominante est le rose avec ses différents tons. Beaucoup d’autres exemples liés à la représentation des femmes dans les moteurs de recherche existent, et notamment dans le numérique. Ce sont des exemples de stéréotypes et de préjugés très ancrés dans la société. La technologie des moteurs de recherche n’est pas neutre. Elle traite et collecte des données complexes, puis hiérarchise les résultats en fonction des préférences et de la localisation des utilisateurs. Pour garantir des résultats plus équitables et plus pertinents, il est crucial que les préjugés de genre soient réduits voire évités dans le développement des algorithmes faisant appel à l’IA, dans leur entraînement et dans leur utilisation. 
  • la voiture autonome : c’est un véhicule qui est capable de détecter, d’analyser son environnement et de se déplacer avec peu ou pas d’intervention humaine. Pour se déplacer en sécurité, la voiture va capturer des milliers de données à l’aide de ses différents capteurs situés dans son intérieur. Ces données vont ensuite être traitées par le système informatique de conduite autonome de la voiture. La voiture autonome doit également être formée dans la compréhension de son environnement afin de pouvoir prendre des décisions selon les différentes situations dans lesquelles elle peut se retrouver.
    Chaque jour, chacun est confronté à des décisions morales. Lorsqu’un conducteur choisit de freiner pour éviter de heurter un piéton, il prend la décision morale de faire passer le risque encouru par le piéton aux personnes qui sont dans la voiture avec lui. Prenons l’exemple d’une voiture avec des freins endommagés allant à toute vitesse vers deux individus : une grand-mère et un enfant. En déviant un peu, un des deux individus peut être sauvé. Dans cette situation, ce sera l’algorithme entraîné de la voiture qui va prendre la décision à la place du conducteur humain. Quelle personne devrait-être sauvée ? Pensez-vous qu’une seule bonne réponse existe dans ce cas ? Le choix est difficile pour l’humain. C’est un dilemme typique qui montre l’importance de l’éthique dans le développement de l’intelligence artificielle, et dans la technologie à plus grande échelle. 
  • D’autres exemples de dilemmes éthiques existent avec l’utilisation de l’intelligence artificielle dans les domaines de l’art ou dans les systèmes juridiques.


Pour remédier à cette problématique que posent les dilemmes éthiques, l’UNESCO a établi un document juridique global sur l’éthique de l’IA.