• L'Europe à l'honneur au Club Citoyens.

Archives annuelles

03/06/2024 - Serge ABITEBOUL - L’Intelligence Artificielle, comment arbitrer entre les perspectives de progrès et les risques civilisationnels ?

Pascale Cossart, secrétaire perpétuel de l’académie des sciences, présente Serge Abiteboul, membre de l’Académie des Sciences dans la section mécanique/informatique, Professeur au Collège de France 2011-2012. Il a travaillé à Stanford, il est membre de la Royal Society, directeur de recherches émérite à l’INRIA. Il est membre de l’ARCEP, Autorité de régulation des communications électroniques et des postes.
Il est l’auteur, entre autres, de :

  • Les communs numériques : logiciels libres, Wikipedia, le Web, La science ouverte, avec F. Bancilhon (2024), éd. O. Jacob.
  • Nous sommes les réseaux sociaux, avec Jean Cattan, (2022) éd. O. Jacob ;
  • Le temps des algorithmes (2017) éd. O. Jacob.
  • Il anime le Blog binaire au Monde depuis 2014.
    Il est également romancier et auteur de théâtre.

Serge Abiteboul :
Dans 8 jours, on va voter un accord politique au sein de l’UE pour encadrer les pratiques, parfois les conditionner sans brider l’innovation. Quel potentiel de développement pour l’Intelligence Artificielle ? Pour comprendre ces potentiels, il faut arriver à monter en compétences. Cela va changer notre façon de vivre, d’être citoyens. Il y a de grands risques et de grandes opportunités. Quels dangers nous menacent-ils ? Faut-il un moratoire de 6 mois comme le demandent certains pour décider de ce qu’on va faire et ne pas faire. ? Elon Musk demandait 3 ans de moratoire, c’était parce qu’il était en retard de 3 ans. C’est
impossible !
L’IA, c’est une branche de l’informatique, une technique, une machine learning. Quelles sont les possibilités et les limites de l’IA générative ?
C’est vers 1950 que l’IA et l’informatique naissent scientifiquement et se développent ensemble. Peut-on avoir des outils pour calculer ? Alan Turing (1912-1954) pose les bases de la calculabilité et définit l’Intelligence Artificielle. La notion d’algorithme date du début des mathématiques pour résoudre un problème.

On peut donner ce problème à une machine. On peut s’en rappeler, le transmettre : programme, suite d’étapes à faire réaliser à une machine, l’ordinateur, qui résout le problème.
S. Abiteboul présente le Power Point ci-joint dont il est l’auteur et qu’il commente.

Questions

Qu’est-ce que le Métavers ?

Un monde virtuel dans lequel on peut vivre. On a eu la vidéo pour pouvoir voir et se parler entre amis. Dans le métavers, on peut se retrouver ensemble dans un bureau virtuel entre Los Angeles et Paris, pour travailler ou discuter. Il y a aussi des jeux comme Second Life, qui demandent une grande puissance de calcul. On peut faire des dessins en trois dimensions. Mais on n’a pas toujours envie de se voir tout le temps …

Avez-vous fait votre Power Point avec l’IA ?

Si on n’aime pas écrire, on peut demander à l’IA de le faire à condition de préciser qu’il a été généré par l’IA. Personne ne le sait si on ne veut pas le dire.

Plus personne ne saura d’où vient un discours ?

Excellente question ! il faudrait des régulations pour ça, que les informations soient signées.

Et les droits d’auteur ? Que deviennent-ils ?

Déjà dans les fanfictions des adolescents écument les livres à succès dont ils sont très amateurs, par exemple Harry Potter et ils s’emparent d’éléments du livre comme points de départ pour créer d’autres aventures d’Harry Potter ou autres … Cela coûte moins cher aux producteurs. Les scénaristes sont contre, les journaux vont se battre. Mais la manière la plus simple de faire d’un programme un logiciel libre est de le mettre dans le domaine public, sans copyright. En tant qu’écrivain c’est un problème.

Peut-être que l’IA va contrer la créativité. Dans l’enseignement cela bouscule !

L’évaluation ! ? Cela incite à réfléchir sur comment on transmet, à remettre à plat ce qu’on attend de la transmission. Voyez une association comme La Main à la pâte…

En quoi les IA génératives vont nous aider à créer ?

Cela change complètement. Il faut inventer de nouveaux tests. Il y a beaucoup d’opportunités à saisir.

Qu’est que ça veut dire que l’IA est plus intelligente que l’homme ?

Pour faire des multiplications de matrices, elles sont super ! Mais il ne faut pas retomber dans le fantasme telles que : elles vont un jour nous dépasser ! elles sont plus intelligentes que nous !!!

L’ouverture des données, comment quantifier la valeur de ces données ? On a des données qu’on met à disposition. Seront-elles pillées par des moteurs de recherche ?

Oui ! La loi protège la propriété privée et l‘Etat, mais protège mal les données ouvertes. On a besoin de lois qui protègent. Si on utilise des communs, on doit offrir des services à la communauté. Le copyright était de 15 ans au 19 ème siècle. Maintenant il va jusqu’à 70 ans après la mort de l’auteur. Google a d’énormes Data Center. Wikipedia est d’accès libre, Il y a les GAFAM plus de petites entreprises, Mistral AI, Albert AI1 , qui grossissent, permettant la reproduction des raisonnements, la planification, et la créativité.

En matière de risques du numérique, de dangers des algorithmes qui bombardent la société d’informations…

Oui, cette technologie apporte des risques mais elle peut aussi nous permettre de vivre mieux et de conserver des valeurs ! Être ado à Romorantin, ce n’était pas… on s’emmerdait ! Il ne faut pas exagérer les risques.

Est-ce qu’on peut réguler l’IA, a-t-on une chance d’aboutir ?

Il faut le faire avec doigté, ne pas empêcher l’innovation. On peut décider déjà entre Européens. Ainsi, le RGPD2 s’est installé dans plusieurs pays. Il faut interdire certaines utilisations une techno peut servir à faire de la surveillance illégale, ou faire des jeux sur internet ou à conduire des voitures autonomes. Le principe c’est qu’il y a des choses qu’on ne doit pas faire et c’est à la société de réguler.
L’Intelligence artificielle, j’aimerais qu’on n’utilise pas le mot intelligence. Quand je vous donne un logiciel, une application, est-elle intelligente ou pas ? Si c’est purement mécanique non, si c’est plus complexe, oui. Un chatbot, c’est un logiciel intelligent, c’est un robot programmé pour simuler une conversation utilitaire en langage naturel. L’Intelligence Générale, ce serait un logiciel qui aurait toutes les compétences d’un humain, ça ne m’intéresse pas. J’ai besoin d’une machine pour aider les humains, pas pour écrire un roman. Il y a des problèmes que les machines résolvent mieux que les humains. AlphaGo Zéro a fait mieux que battre les champions, mais aussi il a battu AlphaGo qui avait battu, en 2018, le meilleur champion du jeu de go, et cela sans être entrainé. Mais Google Deep Mind aide aussi la médecine.

Va-t-on sortir de la destruction créatrice ?

Des économistes pensent qu’il y aura de nouveaux emplois. Je ne le crois pas. On a créé des emplois en créant des besoins. On ne peut plus continuer à faire exploser les besoins pour que chacun ait du travail ! C’est absolument contradictoire avec la sobriété énergétique indispensable à limiter les problèmes climatiques ! Déjà l’informatique est très consommatrice d’énergie !

Le Règlement européen a donné lieu à beaucoup de discussions. Où sont les limites ? Qu’est ce qui est interdit ? Faut-il être plus ou moins libéral ?

Il y a du flou artistique. Au moment où les IA génératives sont sorties, les politiciens voulaient les interdire, il y a toute une tendance à ne pas autoriser certains genres de technologies. Il faut en regarder les usages. On risque de rater les opportunités. Il est difficile de dire à l’avance à quoi une nouvelle technologie va servir, par exemple la reconnaissance faciale. Il y a le risque d’atteinte à la protection de la vie privée. Mais la vie est faite d’intérêt de de compétition. On peut inventer, et ce sera utilisé par des compétiteurs. Les outils sont de plus en plus affûtés. Les informaticiens, ça les intéresse de résoudre des problèmes, pas d’imiter un être humain.
Si vous me donnez un logiciel pour aider à faire de la démocratie participative, je suis preneur.
L’homme augmenté3 , le futur de nos cerveaux où l’on nous grefferait des extensions de mémoire n’est pas pour demain, mais ce qui est intéressant c’est le fait d’hybrider cerveau et machine, en plus des lunettes et des cannes.4

Comment réguler ?

Les hommes politiques ne connaissent rien à l’IA. L’informaticien a la responsabilité d’éclairer le public. Il faudrait enseigner la programmation aux députés ! Cela les aiderait à discuter. Nous, les ingénieurs, on aime bien la technique. Mais ce ne sont pas les scientifiques qui vont faire la loi. Il faut pousser à l’interopérabilité des systèmes. Les juristes, il faudrait les faire monter en compétences pour utiliser l’IA. Ils ont dit non ! Il faut créer un Comité National d’Ethique du Numérique. Les membres ne sont pas encore nommés.

Comment pourrait-on imposer ça au monde entier ?

Dans l’Union Européenne, c’est déjà un niveau économique suffisant. C’est difficile, mais ça ne doit pas empêcher de faire quelque chose. A l’ONU ça n’existe pas ! Il faut faire une déclaration ! L’UE a légiféré, à notre niveau on a fait la RGPD, mais pas la Chine . Sur l’IA, il y a des progrès locaux, collectivement on est incapables de faire des lois.

Quid de la Chine ?

Elle est favorable aux logiciels libres. Ils sont pour la transparence. Localement des gouvernements régionaux ont fait de l’Open Data. En Chine ils ont les meilleurs chercheurs en IA.

Y a-t-il une collaboration internationale des chercheurs ?

Des logiciels Open Source ? Ils ne disent pas toujours avec quelles données ils ont travaillé.

Et la France ?

La France est bien placée, il y a Normale Sup. Des salaires d’embauche supérieurs aux profs !

Sylvie Cadolle

1 L’IA générative pour aider les agents de la fonction publique
2 Règlement Général de Protection des Données (depuis 2018) : droit d’accéder à ses données et d’en obtenir une copie ; de les rectifier ; de s’opposer à leur utilisation sauf si c’est une obligation légale.

3 Titre du livre du psychiatre R. Gaillard
4 permettre à un paralysé de marcher, l’assister technologiquement, avec un exosquelette par ex.

Imprimer ce compte rendu Imprimer ce compte rendu

Laissez un commentaire

Votre adresse mail ne sera pas publiée.

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.