29.10.2019, par Grégory Fléchet

Clarifier les enjeux scientifiques et sociaux associés au rapide développement de l’intelligence artificielle, tel est le but du Global Forum on AI for Humanity qui se tient à Paris du 28 au 30 octobre. Le point avec Malik Ghallab, directeur de recherche émérite au CNRS et co-organisateur de l’événement.

Vous co-organisez, avec Bertrand Braunschweig, directeur du centre de recherche Inria Saclay–Île-de-France, le Global Forum on AI for Humanity (GFAIH) ou Forum mondial sur l’intelligence artificielle (IA) qui se déroule du 28 au 30 octobre, à Paris. Dans quelles circonstances ce Forum a-t-il vu le jour ?
Malik Ghallab :  L’objectif de réunir cette conférence a été annoncé par le président de la République Emmanuel Macron il y a un an, en particulier dans le but d’éclairer les travaux d’une future organisation de coopération internationale sur l’IA. La tenue de ce forum à Paris traduit une volonté de positionnement de la France sur ces technologies aussi bien en termes de recherche scientifique et de développement économique qu’en matière d’engagement pour une IA responsable.Les intervenants aborderont la question des risques en termes de sûreté, sécurité, confidentialité, impacts économiques et possibles biais des systèmes d’aide à la décision.

Combien de personnes prendront part à cet événement et quel est leur profil ?
M.G. : Au total, le GFAIH réunit près de 450 participants issus de 24 pays. Tout au long des trois jours du forum, près de 150 orateurs vont apporter leur éclairage sur les défis scientifiques de l’IA en lien avec les grands enjeux humains et sociaux. Les intervenants aborderont par ailleurs la question des risques en termes de sûreté, sécurité, confidentialité, impacts économiques et biais possibles des systèmes d’aide à la décision. La majorité des participants est issue du monde universitaire et académique. Des industriels, des représentants de la société civile et des organismes gouvernementaux participent également au forum.

Dispositif de reconnaissance faciale, campus Huawei’s Bantian, à Shenzhen, en Chine. Certaines utilisations de l’intelligence artificielle peuvent poser des problèmes éthiques. Kevin Frayer/Getty ImagesPartager

Quelle est l’ambition de ce Forum mondial sur l’IA ? 
M.G. : Il s’agit de réunir une large communauté interdisciplinaire de spécialistes provenant des sciences et de l’ingénierie mais aussi des sciences humaines et sociales dans le but de dégager un consensus autour d’un développement responsable de l’IA. Cette approche se décline en deux volets. Le premier traite de la mobilisation des technologies issues de l’IA sur les grands défis actuels de l’humanité. Cela concerne notamment les objectifs de développement durable de l’ONU en matière de santé, d’éradication de la pauvreté, d’accès à l’éducation ou de préservation de l’environnement. Le deuxième volet porte sur une meilleure appréciation des risques inhérents à l’IA et sur les moyens à mettre en œuvre pour les circonscrire.

Le GFAIH compte également aborder la question de l’IA sous un angle plus critique…
M.G. : Toute technologie porteuse de bienfaits comporte aussi des risques. Les incertitudes inhérentes au développement et au déploiement rapide de l’IA et du numérique nécessitent, autant que possible, d’être anticipées et maîtrisées. Ainsi, l’automatisation de l’industrie et des services a des impacts sur la division sociale du travail et sa transformation.L’automatisation de l’industrie et des services a des impacts sur la division sociale du travail et sa transformation.

L’IA modifie aussi les échanges économiques via divers types de plateformes, de transactions financières à haute-fréquence ou de fixation automatique des prix par apprentissage. Quant aux technologies d’aides aux décisions personnelles ou professionnelles, si elles sont souvent précieuses, elles peuvent parfois être aliénantes. Il s’agit donc de déployer des efforts de recherche et des expérimentations afin d’appréhender ces différentes problématiques sur les plans techniques, sociaux et humains.

L’IA est aussi bien sûr vecteur de bienfaits, comme avec ce serious game conçu par les chercheurs du Limsi pour aider les jeunes médecins à se former à la consultation face à un avatar. Limsi CNRSPartager

Le Forum s’inscrit par ailleurs dans le contexte de l’organisation d’un Partenariat mondial sur l’intelligence artificielle (le Global Partnership on Artificial Intelligence ou GPAI). De quoi s’agit-il ?
M.G. : L’idée de mettre en place un organisme de concertation mondial sur l’IA a été discutée officiellement à divers niveaux, en particulier lors des sommets du G7 de Montréal en 2018 et de Biarritz en 2019. Les modalités de fonctionnement de cet organisme sont actuellement en cours de négociation par les représentants des pays du G7, rejoints par d’autres partenaires. Une réunion des futurs membres du GPAI est d’ailleurs prévue pendant le forum.L’acceptabilité sociale d’une technologie (…) ne se mesure pas uniquement à l’aune du nombre d’individus qui se l’approprient. Se posent en particulier des questions éthiques (…)

Quelle suite devrait être donnée à ce premier forum mondial sur l’IA ?
M.G. : Celui-ci fait en quelque sorte office de rampe de lancement au futur Partenariat mondial sur l’intelligence artificielle ou GPAI. Les recommandations publiées à l’issue de la conférence de cette semaine ont ainsi vocation à servir d’agenda initial aux groupes de travail de cet organisme. Dès l’an prochain, une assemblée annuelle plénière du GPAI devrait, en toute logique, prendre le relai du forum.

Le mode de fonctionnement du GPAI sera-t-il similaire à celui du Groupe d’experts intergouvernemental sur l’évolution du climat (GIEC) ?
M.G. : S’il s’agit bien du modèle qui a inspiré la création du GPAI, son fonctionnement devrait toutefois différer de celui du GIEC. Pour l’heure, se dessine la création d’un secrétariat permanent qui devrait s’appuyer sur une structure comme l’Organisation de coopération et de développement économiques (OCDE) et celle d’un conseil réunissant les représentants des différents pays impliqués. Le GPAI devrait également être doté d’un comité de pilotage constitué d’experts et de représentants des États impliqués. Ce partenariat mondial devrait enfin s’appuyer sur des groupes de travail et des réunions plénières annuelles.
 

Il reste de nombreux défis technologiques à relever avant l’arrivée de véhicules complètement autonomes, comme le soulignent les tests menés sur ce circuit expérimental de l’Institut Pascal, à Versailles (voir notre vidéo plus bas). CNRS ImagesPartager Les débats citoyens sur ces questions sont également essentiels. Il convient (…) d’identifier les possibilités de régulation pour des développements éthiques en accord avec nos valeurs humanistes.

Quels sont les défis associés au développement rapide de la recherche en IA ?
M.G. : Les innovations dans ce domaine répondent à des besoins et créent des usages qui se développent très rapidement. Or l’acceptabilité sociale d’une technologie est exigeante et ne se mesure pas uniquement à l’aune du nombre d’individus qui se l’approprient. Se posent en particulier des questions éthiques et d’impacts à long termes, humains, culturels, de cohésion sociale et de respect de l’environnement. Sur tous ces points nos connaissances sont parfois lacunaires. Nous devons donc engager des efforts pour tâcher de mieux comprendre et anticiper toutes ces transformations.

Sur quels leviers faut-il agir en priorité pour construire une vision politique à la fois universelle et ambitieuse en matière d’IA ?
M.G. : Nos relations aux machines évoluent au rythme où se développent nos machines. Ces dernières devraient idéalement être conçues en prenant en compte l’humain, en vue de son épanouissement, et ne pas se révéler in fine une source d’aliénation. Les leviers d’action dont nous disposons pour relever ce genre de défis se situent au niveau de la recherche, tant technique que sociale mais aussi de l’éducation, de l’observation des effets, voire des expérimentations en amont des déploiements à grande échelle. Les débats citoyens sur ces questions sont également essentiels. Il convient enfin d’identifier les possibilités de régulation pour des développements éthiques en accord avec nos valeurs humanistes et ne pas hésiter, lorsque cela se révèle nécessaire, à mettre en œuvre le principe de précaution, comme cela est déjà le cas pour d’autres technologies. ♦
 
 
Pour en savoir plus sur le Forum mondial sur l’intelligence artificielle qui se tient à Paris du 28 au 30 octobre, rendez-vous sur le site du GFAIH.
 
 
À lire :
Comment l’intelligence artificielle va changer nos vies 
Peut-on faire confiance à l’intelligence artificielle ?
Robotique et intelligence artificielle : parlons-en !
 

À voir :
Pour la voiture autonome, la route est encore longue

Copié-collé : https://lejournal.cnrs.fr/articles/un-forum-mondial-pour-une-intelligence-artificielle-responsable

L’Unesco a été mandatée pour élaborer un « instrument normatif mondial » pour encadrer l’intelligence artificielle. Des experts internationaux auront 18 mois pour travailler autour de la diversité culturelle ou du genre pour lutter contre les biais algorithmiques discriminatoires.

L’Organisation des Nations unies pour l’éducation, la science et la culture (Unesco) a été mandatée pour travailler sur l’éthique de l’intelligence artificielle (IA), d’après un article du magazine Notre Temps publié le 21 novembre 2019. Cette décision a été prise à l’unanimité, soit par les 193 pays membres de l’Organisation des Nations unies (ONU). Une situation assez rare pour être soulignée.

Des experts internationaux auront 18 mois pour créer un « instrument normatif mondial » pour encadrer l’intelligence artificielle sans pour autant freiner l’innovation dans ce domaine. Ils se pencheront sur les questions liées à la diversité culturelle ou du genre ou encore à la diffusion des savoirs et technologies.

LUTTER CONTRE LES BIAIS ALGORITHMIQUES

Sans le mentionner explicitement, l’Unesco souhaite construire un rempart contre les biais algorithmiques discriminatoires. Il faut dire que les critiques à leur encontre se multiplient et inquiètent. Dernièrement, le développeur David Heinemeier Hansson, créateur notamment de Ruby on Rails, a accusé la nouvelle carte de crédit d’Apple d’être sexiste. Dans un message publié sur Twitter le 9 novembre 2019, il se lamentait que la firme technologique « piétine sa réputation d’organisation inclusive au profit d’un algorithme terriblement sexiste, ingérable. Ou comment une entreprise valorisée à trois milliards de dollars accepte tranquillement de se soumettre à un algorithme« .

Cette idée avait été esquissée par Audrey Azoulay, directrice générale de l’Unesco, lors de son discours le 12 novembre 2019. Elle avait alors plaidé pour « la construction d’une vision partagée des questions éthiques liées à l’IA » car elle constitue « une rupture anthropologique majeure« . Ce n’est pas la première fois qu’un organe supranational s’intéresse à la réglementation de l’IA. En août 2019, la Commission européenne a annoncé qu’elle planchait sur un texte qui étendrait les droits des citoyens européens sur leurs données liées au domaine de l’IA. 

UN PROJET UTOPIQUE ?

L’initiative est louable et rarissime car prise unanimement. Mais elle reste très utopique car les normes internationales ne sont généralement accompagnées d’aucune sanction du fait d’un petit nombre d’organismes chargés de contrôler leur application. Ces travaux auront tout de même l’avantage de lancer une discussion entre des Etats ayant des positions très différentes.

Copié-collé : https://www.usine-digitale.fr/article/l-unesco-a-18-mois-pour-elaborer-un-cadre-normatif-autour-de-l-intelligence-artificielle.N906344

42 pays se sont engagés cette semaine sur des principes pour éviter les risques de dérive liés à l’intelligence artificielle. Rien de contraignant, alors que les risques de dérives sont immenses et les acteurs privés et publics souvent de mauvaise foi. Sur qui compter ?

La musique qu’on entend au début de la bulle parlée n’a pas été suggéré par un algorithme, elle a été composé par un algorithme, à qui on avait fourni comme base de données, toutes les chansons des Beatles.

Cette expérimentation, vous en conviendrez, ne permet pas vraiment de conclure à la supériorité de la machine sur le cerveau humain pour la composition musicale, mais elle prouve qu’il n’y a aucune limite au développement des intelligences artificielles, pas même la créativité.   

Contrairement aux humains, elles n’éprouvent ni plaisirs, ni désirs, n’ont ni intention propre, ni appétit de vivre, mais elles peuvent faire preuve de créativité, apprendre, prédire (les mouvements boursiers, les pandémies, l’éventualité d’une condamnation judiciaire etc… ), traiter plus de données en une seconde qu’un cerveau humain en une vie.   

Voilà pourquoi aucun métier ne sera épargné, col bleu, col blanc, commerce service, les pertes d’emplois seront immenses. On le sait.   

Les estimations vont de quatre emplois sur 10 pris par des machines d’ici 15 ans, à 30% d’ici 2030, jusqu’à 99% à terme pour les plus pessimistes, en passant par 0 pour ceux qui croient que l’Intelligence artificielle, IA pour les intimes, créera plus d’emplois qu’elle n’en détruira.     

Un nouveau métier : expert en éthique et intelligence artificielle

Parmi ces nouveaux métiers, on peut déjà citer … expert en éthique des systèmes d’intelligence artificielle.   Ah l’éthique, c’est important… Google, Microsoft, Facebook, IBM, Amazon… toutes les entreprises qui développent ces systèmes et ont une image de marque à défendre ont des comités ethique sur l’IA, des chartes éthiques sur l’IA, participent à des partenariats éthiques sur l’IA.    

Les Pays aussi s’engagent. L’Union Européenne a publié récemment  une liste de lignes directrices pour « je cite » des intelligences artificielles dignes de confiance et cette semaine 42 pays dont la France, les États Unis et les autres pays de l’OCDE se sont engagés à respecter aussi des principes. Il y a un an, le mathématicien et député d’En Marche Cédric Villani a publié son rapport intitulé « Donner un sens à l’intelligence artificielle » avec un hashtag : AIforhumanity.   La CNIL (Commission Nationale Informatique et Libertés) a aussi publié le sien.       

Les préconisations sont semblables, on peut les regrouper en quatre catégories.        

• garantir que la technologie elle même est sûre, robuste, sans faille, qu’elle ne produit pas de biais ou d’erreurs.  
• s’assurer qu’elle soit compréhensible, explicable, que les humains soient au courant quand il interagissent avec une machine, qu’ils puisse contester ses décisions.  
• évaluer l’impact environnemental de l’IA que l’on développe, sa consommation d’énergie, la capacité de recyclage de ses composants.  
• responsabiliser les acteurs, autrement dit les entreprises qui effectuent les recherches.  

Ne pas limiter la recherche en l’encadrant  Ces principes sont louables, mais aucun d’eux n’est contraignant. Encadrer, réglementer, au nom de dangers potentiels, cela briderait l’innovation, a expliqué cette semaine à l’OCDE, Michael Kratsios, le conseiller en technologie de Donald Trump. Et ce serait de surcroit, laisser le champ libre aux Etats moins regardants sur l’éthique.  Son discours ici.   

Nous sommes convaincus que se précipiter pour imposer des règles couteuses et multiples ce serait céder notre avantage concurrenciels à des gouvernements qui ne partagent pas nos valeurs.   We firmly believe that a rush to impose onerous and duplicative regulations will only cede our competitive edge to authoritarian governments who do not share our same values. Mikael Kratsios, conseiller en technologie de Donald Trump. 

Énoncer des principes et laisser faire …

Sur l’Intelligence artificielle, comme sur tant d’autres sujets d’envergure internationale, la régulation est vue comme un frein à la compétivité, un boulet, or tous les Etats veulent faciliter l’essor de champions nationaux, la France ne fait pas exception. Ici le discours d’Emmanuel Macron il y a un an sur l’Intelligence artificielle.    

Alors pour le moment, c’est le marché qui choisit les projets de recherche qui méritent d’être financés. Or le marché ne pense pas Ethique quand il pense Intelligence artificielle, il pense Ruée vers l’or.   

Le nombre d’accord d’investissement dans l’IA augmente chaque année de 35% depuis 2011.   

ll y a 8 ans, les start ups spécialisées dans l’intelligence artificielle avaient recueilli 3% des fonds de capital investissement mondiaux, l’an dernier 11%. Les États Unis font la course en tête, largement, puis vient la Chine, et loin derrière l’Union Européenne et Israël.   

Que finance t’on ? La recherche sur la voiture autonome, beaucoup (23% du total), mais aussi les systèmes de reconnaissance faciale.   

Au début du mois, le leader mondial chinois de cette technologie n’a eu aucun mal à trouver 750 millions de dollars de capitaux, y compris américains, en dépit des critiques sur son usage non éthique en Chine. 

Cette semaine, l’assemblée générale d’Amazon a refusé d’interdire la vente de service de reconnaissance faciale à la police américaine alors que des actionnaires s’étaient inquiétés des erreurs, et des menaces pour la vie privée, mais la majorité a suivi l’avis du conseil d’administration selon lequel « Une technologie nouvelle ne devait pas être interdite ou condamné à cause de mauvais usages potentiels ».   

L’an dernier, Google a publié son code éthique au moment même où il adaptait son moteur de recherche aux besoins de censure de l’Etat Chinois.  

Après le green washing, l’ethic washing

Sur l’intelligence artificielle et l’éthique, les doubles discours sont donc légions, on appelle même cela du Ethic Washing.   

Pour le moment, les meilleurs remparts sont la presse, notamment américaine via ses révélations (voir ici les articles de The Intercept sur le programme Dragonfly de Google), et les salariés de ces entreprises, qui dans le cas de Google ont réussi à faire abandonner le contrat avec les chinois, et un autre contrat avec le Pentagone.    

Vous trouverez ici le témoignage d’un ancien de ses salariés qui a depuis démissionné.         

Peut on compter sur les États ??   

Les États jouent eux aussi double jeu, car s’ils énoncent dans leurs principes la supériorité des intérêts humains sur le progrès technique, ils sont aussi très intéressés par tout ce que l’intelligence artificielle leur permettra de contrôler, de prédire et de surveiller.     

Les associations et ONGs mobilisées sur ces questions existent (voir liste en lien du tweet ci dessous) mais pour le moment le public est peu conscient ou peu soucieux (voire les deux) des risques qui pèsent sur sa vie privée, comme s’il avait déjà déclaré forfait, suggèrent des experts cités par cet article du Financial Times sur les « formidables » nouvelles capacités de surveillance des salariés par les IA.

Copié-collé : https://www.franceculture.fr/emissions/la-bulle-economique/intelligence-artificielle-et-ethique-ne-font-pas-encore-bon-menage