Ouvrons la boîte noire de l’IA: éthique confiance et transparence

Ouvrons la boîte noire de l’IA: éthique confiance et transparence

Imaginons la situation suivante:
Vous êtes un médecin et vous avez 4 patients nécessitant une greffe de reins et vous êtes le seul donneur compatible.
Quel serait votre choix?
Quelles critères adopteriez-vous?
l’âge, les compétences, le système des valeurs, la religion et les croyances du patient, etc?
Imaginons maintenant que le chirurgien est un robot régi par une IA sophistiquée.
Quel serait son choix? et en se basant sur quels critères?
C’est ce types de questions pas aussi futuristes ou fictionnelles qu’ils ne semblent qui nous ont poussé à nous intéresser au plus près à la question d’éthique dans l’IA.

Une Vision saine perenne et humaine de l’IA est-elle possible?
C’est le sujet d’une conférence animée par Vincent Perrin, responsable technique des offres d’intelligence artificielle IBM Watson, lors du Vivatech 2019 à laquelle nous avons eu la chance d’assister et voici ce que nous en avons retenu.

Ouvrons cette boîte!

L’IA : un nouveau paradigme une nouvelle informatique:

Il ne s’agit pas d’une définition technique ou mathématique de l’IA mais plutôt d’une définition qui illustre le paradigme dans lequel notre société est entrée.
Depuis 50 ans L’informatique était basée sur deux grandes entités, les services informatiques, et les métiers.
Quand quelqu’un du métier (logistique, achat, marketing) exprimait un besoin, il devait s’adresser au service informatique qui essayait globalement de comprendre le besoin, demandait aux dév de développer, testait, mettait en prod, validait. Il livrait la solution “aux métiers” et les formait éventuellement et tout le monde était content.
Quelques mois après, les métiers revenaient pour réclamer une évolution car le besoin avait évolué. Alors le service informatique : redéveloppait, “retestait”, remettait en prod etc.

Nous sommes entrés sans un nouveau paradigme qui chiffre la “fin” du code. Désormais et dans notre époque on peut entrainer l’ordinateur et les machines.

En effet, Ces 50 dernières années il fallait apprendre le langage du développement. Il fallait apprendre à comprendre les machines, et d’apprendre les machines de la même manière qu’un humain apprendrait : j’ai une nouvelle donnée, je comprends, et je m’adapte à cette donnée , j’évolue pour donner un nouveau résultat ce qui donne des systèmes plus agiles et qui s’adaptent en fonction des évolutions qui y sont faites.
Les entreprises qui ont mis en place des capacités d’IA et d’interaction avec le langage naturel passent une partie considérable de leurs temps a transférer des connaissances aux machines pour que celles-ci soient capables de les aider dans leurs tâches au quotidien. Cette notion d’aide est importante;

C’est à dire l’IA  n’a pas vocation à se substituer à l’homme mais d’être dans une approche de partenariat avec l’Homme : la machine est extrêmement bonne sur un grand nombre de notions d’apprentissage de forte volumétrie , d’exploitation de signaux faibles, mais elle n’est pas capable d’empathie ou d’émotion ou d’interaction humaine.

Cela illustre bien la nouvelle informatique dans laquelle on est et qui n’est pas sans faille !
La diversité l’inclusion sont des problématiques que l’on retrouve aussi au niveau de l’IA.

lorsque l’on parle de l’IA d’un point de vue éthique voici les 4 corolaires:

La sécurisation de l’IA: ou comment être sur que personne n’a essayé d’atteindre la solution que j’ai mise en place
Lineage : être capable d’avoir une vue sur la continuité du cycle du développement de l’IA pour être sur ensemble des composantes soient de confiance
Intéressons-nous à ces deux aspects intimement liés à savoir l’équité et l’explicabilité.

La notion d’équité

dans le système de reconnaissance de visage utilisée pour les membres du congrès Américain pour détecter s’ils ressemblaient ou pas à des criminels, 40% était identifiés comme des criminels et c’était beaucoup plus des personnes à la peau mate car les données qui ont été utilisées lors du dév contenaient intrinsèquement ce que l’on appelle des biais.

Idem pour des applis pour identifier le risque à travers la reconnaissance faciale et pour la féminisation du vocabulaire de profession existant même chez la gente féminin.

Le biais est non seulement discriminant mais il y a une très grande complexité à l’identifier et surtout à s’en débarrasser car le système apprend au fur et a mesure des interactions durant des années.

Il s’agit d’un mécanisme de pensée a l’origine d’une altération de jugement et qui dans un certain nombre de cas peut fausser la prise de décisions. si je doit faire appel a l’IA pour m’aider dans le processus de prise de décision si la prédiction proposée est erronée parce qu’il y a intrinsèquement des billets => décision biaisée.

 

il y a déjà énormément de biais chez les humains mais si l’ on applique ces biais là dans l’apprentissage automatique on va multiplier d’une manière exponentielle les biais parce que ni le volume de données ni les les interactions ne sont les mêmes, les conséquences sur la société ne sont pas non plus les mêmes.

Pour faire une bonne solution d’IA il faut de bonnes données:

IA is as good as your data.

On peut être le meilleur data scientist , le résultat sera biaisé.

La notion d’Explicabilté:

Les systèmes d’IA sont apparus au fur et à mesure du temps et on y a vu  un certain nombre de “problèmes”.

la sophistication des réseaux de neurones et la précision des résultats données ne sont étonnement pas expliqués par une équation mathématique.

La sophistication des réseaux de neurones et la précision des résultats donnés ne sont étonnement pas expliqués par une équation mathématique. certains l’appellent le talon d’achille de l’IA et du de l’apprentissage profond

La question d’éthique se pose quand l’IA doit décider à la place de l’homme dans des situations où le bon choix n’est pas forcément optimal sur le plan éthique. Il s’agit d’un problème à multiples variables mais
Vincent Perrin nous a donné le fameux exemple de la voiture autonome qui se trouvera dans une situation où elle doit choisir entre percuter un bébé et percuter une personne agée sachant qu’elle ne peut ni s’arrêter ni dévier de la route.
Quels données fournir aux algorithmes dans ces cas de figure.

 

L’After Talk:

Après ce talk passionnant, le débat a continué et des questions notamment sur la définition même d’un biais ont été posé par le public présents.

d’autres questions ont fait surface chez nous aussi sur la modélisation de l’intelligence humaine qui réside dans des comportement tels que l’empathie ou l’altruisme.

D’ailleurs prenons le cas de l’altruisme. Si une une personne accepte de donner son rein à une personne pour lui sauver une vie alors pour quoi ne pas donner ces deux reins et vivre sous dialyse puisque deux vies en valent plus qu’une.

comment l’IA peut trancher là dessus. Nombreuses sont les situations qui nécessitent une vraie réflexion avant d’être capable de délibérer un choix qui n’est pas du tout optima et où le respect des valeurs est le critère.
wait and see!

 

 

 

 

Recent Posts

Start typing and press Enter to search