L'intelligence artificielle (IA) est plus que jamais au cœur du jeu en matière d'innovation. Et le phénomène prend de l'ampleur : selon le cabinet IDC, les dépenses mondiales en systèmes d'IA devraient atteindre 97,9 milliards de dollars en 2023, contre 37,5 milliards de dollars en 2019, avec un taux de croissance annuel de près de 30 %. C'est une tendance de fond, une révolution silencieuse qui touche tous les secteurs. Si les transports et les télécommunications tirent leur épingle du jeu, la cartographie réalisée par France digitale des 432 start-up de l'IA en France montre la grande diversité des applications : robotique, marketing, RH, adtech, fintech, agriculture, santé, big data, commerce.... Même des domaines que l'on pensait exclusivement réservés à la créativité humaine comme l'écriture, la peinture ou la musique ne sont plus hors de portée de l'IA.

Schizophrénie

Cette apparente omnipotence suscite des réactions contrastées chez la plupart d'entre nous : les espoirs suscités par l'intelligence artificielle n'ont d'égal que les inquiétudes qu'elle engendre quant à notre place, notre rôle et notre avenir en tant qu'humains. D'un côté, la promesse d'un dépistage précoce des maladies, la fin des décès sur les routes, des services optimisés, une innovation accrue ; de l'autre, la crainte de devenir obsolète, de perdre le contrôle, d'une singularité lointaine, voire improbable. Tout cela, alimenté par la science-fiction et quelques expériences douteuses qui trouvent un écho dans la presse, comme ces chercheurs américains qui ont mis au point un système de détection de l'orientation sexuelle à partir de simples photos de personnes. Il est temps de dépassionner le débat et d'en finir avec les préjugés.

Humain après tout

Car l'intelligence artificielle n'est pas et ne sera jamais autre chose que la technologie humaine. Ce n'est pas tant la technologie qui est en cause que la manière dont elle est conçue et utilisée. Nous l'avons constaté à de nombreuses reprises : L'IA a tendance à reproduire les préjugés humains, cachés dans les données qu'on lui donne à pratiquer. Par exemple :

• en tant que membre du jury d'un concours de beauté, l'IA éliminait les candidats noirs en premier,
• Dans le cadre de la justice prédictive, le logiciel COMPAS qui évalue le risque de récidive a attribué un taux de risque plus de deux fois supérieur aux Afro-Américains,
• Un algorithme censé relier les mots a reproduit des stéréotypes en associant plus facilement "femme" et "maison", ou les hommes aux professions scientifiques.

Le plus souvent, cela n'est pas dû à l'intention malveillante des créateurs de ces IA, mais à un jeu de données de mauvaise qualité, incomplet ou mal calibré. L'Institut Montaigne vient de publier un rapport sur ce sujet, "Algorithme : Contrôle des biais s'il vous plaît".

Miroir, mon beau miroir

L'IA nous renvoie donc une image de nous-mêmes et de ceux qui l'ont conçue. Mais qui sont les travailleurs derrière l'IA aujourd'hui ? Il y a bien sûr les jeunes geeks de la Silicon Valley, mais aussi et surtout des millions de petites mains qui annotent les images pour permettre à l'algorithme d'apprendre. A chaque clic, elles laissent un peu de leur identité, de leur culture, et parfois de leurs préjugés. Soyons clairs : l'intelligence artificielle de demain ne peut pas être construite par un groupe d'ingénieurs masculins blancs. La diversité, ici plus qu'ailleurs, est la clé. Chez isahit, nous développons une communauté de femmes à travers le monde pour aider à relever ces défis. Ce n'est pas seulement une question d'éthique, mais aussi de précision et d'efficacité. Par exemple :

• dans le cas de la reconnaissance faciale, une personne d'une certaine ethnie aura plus de facilité à reconnaître une autre personne de la même ethnie,
• dans le secteur de l'alimentation, un Africain sera en mesure d'identifier plus finement les plats ou ingrédients spécifiques à la cuisine africaine,
• Il en va de même pour l'analyse des déchets.

Cela peut sembler marginal, mais ce sont des clés fondamentales pour le développement d'une IA réussie. Grâce à la diversité de notre communauté, nous pouvons garantir à nos clients des données précises et valides, spécifiques et contextualisées.

Le pouvoir émancipateur

Plus loin, avoir recours à ces populations des pays en développement est un puissant levier d'émancipation économique et sociale pour ces derniers. La première à l'avoir ressenti est la regrettée Leila Janah, fondatrice de Samasource, partie trop tôt en janvier dernier à l'âge de 37 ans. Depuis 2008, elle mettait en relation ces populations pauvres avec de grands groupes américains pour effectuer des tâches basiques mais non moins essentielles de saisie de données ou d'annotation d'images pour le développement de leurs IA. Ainsi, plus de 50 000 personnes, principalement en Ouganda et au Kenya, ont pu bénéficier de la révolution numérique tout en accédant à un revenu décent. Un levier de développement bien plus important que l'aide humanitaire. C'est cet héritage qu'isahit tente de poursuivre aujourd'hui avec sa communauté de femmes entrepreneurs, dynamique et diverse. Avec une identité propre : fonctionnement en plateforme, gestion horizontale et plus grande diversité (26 pays, 3 continents). Et avec une exigence : qu'elles aient un projet personnel ou professionnel concret, pour qu'isahit ne soit pas une fin mais un tremplin vers d'autres activités et qu'elles puissent multiplier l'impact positif de leur expérience au sein de leur communauté.

Éthique IA

Comme vous pouvez le constater, l'éthique est une question centrale pour l'IA. C'est peut-être l'occasion pour la France et l'Europe de rattraper leur retard dans ce secteur. Mais il n'y a plus de temps à perdre. Le rapport AI for Humanity, remis par Cédric Villani à Emmanuel Macron en 2018, ouvre la voie : "Si nous souhaitons développer des technologies d'IA conformes à nos valeurs et à nos normes sociales, nous devons agir dès maintenant en mobilisant la communauté scientifique, les pouvoirs publics, les industriels, les entrepreneurs et les organisations de la société civile. " Et de proposer plusieurs axes de travail:

• Ouvrir les boîtes noires, c'est-à-dire décrypter comment une IA arrive à un résultat, ce que les chercheurs ont encore parfois du mal à comprendre et qui peut être source de discrimination et de biais.
• Former les chercheurs, ingénieurs et entrepreneurs aux questions éthiques tout en mettant en œuvre des études d'impact sur les risques de discrimination lors du développement des IA, sur le modèle du RGPD sur le traitement des données.
• Créer un comité d'éthique de l'IA pour faire la lumière sur les grandes questions et émettre des recommandations, voire des normes.
• Agir pour la mixité et la diversité afin que l'IA ne devienne pas "une nouvelle machine à exclure".
  

A l'action !

L'Union européenne aussi, avec sa nouvelle Commission, semble enfin avoir pris conscience des enjeux et de l'importance stratégique de développer une IA européenne plus conforme à nos intérêts et à nos valeurs. Passons aux choses sérieuses ! Partout sur le continent, des startups avancent dans ce domaine et innovent. Isahit, fort de sa communauté, est bien décidé à prendre toute sa part dans cette aventure passionnante et exaltante, à leurs côtés.

Isabelle Mashola, PDG d'isahit.

Lisez tout sur Linkedin

Lire le forum dans votre navigateur web

Lire la galerie en PDF