Auteur d'un essai alarmant, Éric
Sadin appelle à une révolte de la société civile contre l'inféodation de la
technique et de la science aux opportunités économiques considérables que
promet l'intelligence artificielle.
Par Eugénie Bastié
Publié le 26/10/2018 à 21h08
- Crédits photo : L'échappée
Écrivain et philosophe, Éric Sadin est l'un des penseurs
majeurs du numérique et de son impact sur nos vies et nos sociétés. Il est
invité à donner des conférences dans le monde entier et ses livres sont de plus
en plus lus et commentés. Son dernier essai La Vie algorithmique.
Critique de la raison numérique (L'échappée, 2015) a rencontré un
accueil enthousiaste de la part de la critique et du public. Il vient de
publier L'Intelligence
artificielle ou l'enjeu du siècle. Anatomie d'un antihumanisme radical (L'échappée,
2018).
FIGAROVOX.- Dans votre livre, L'intelligence
artificielle ou l'enjeu du siècle, vous abordez le mouvement de
numérisation intégrale du monde. En quoi assiste-t-on à un «changement de
statut des technologies numériques»?
Éric SADIN.- Ce qui caractérise l'intelligence
artificielle, c'est que c'est une puissance d'expertise qui ne cesse de se
perfectionner. Ses systèmes auto-apprenants sont capables d'analyser des
situations toujours plus variées et de nous révéler des états de fait dont
certains étaient ignorés à notre conscience. Et ils le font à des vitesses qui
dépassent sans commune mesure nos capacités cognitives. C'est pourquoi nous
vivons un changement de statut des technologies numériques : elles ne sont plus
seulement destinées à nous permettre de manipuler de l'information à diverses
fins, mais à nous divulguer la réalité des phénomènes au-delà des apparences.
En cela, ces systèmes computationnels sont dotés d'une singulière et troublante
vocation: énoncer la vérité. La technique se voit attribuer des prérogatives
inédites : éclairer de ses lumières le cours de notre existence. C'est là le
fait majeur.
En quoi l'intelligence artificielle fait-elle advenir un
«nouveau régime de vérité»?
Les systèmes d'intelligence artificielle sont appelés à
évaluer une multitude de situations de tous ordres. Ce qui caractérise les
résultats de leurs analyses, c'est qu'ils ne se contentent pas de produire une
exactitude supposée, mais recouvrent une valeur de vérité dans la mesure où
c'est dans le sens des conclusions arrêtées qu'il faut ensuite engager des
actions correspondantes. Voilà ce qui distingue l'exactitude de la vérité : la
première prétend restituer un état objectif supposé, alors que la seconde
appelle, par le seul principe de son énonciation, à s'y conformer par des
gestes concrets. Car toute vérité énoncée recouvre in fine une
dimension performative.
La complémentarité homme-machine est une fable.
En ce sens, nous vivons le «tournant injonctif de la
technique». Il s'agit là d'un phénomène unique dans l'histoire de l'humanité
qui voit des techniques nous enjoindre d'agir de telle ou telle manière. Et
cela ne s'opère pas de façon homogène, mais s'exerce à différents degrés. Cela
peut aller d'un niveau incitatif, dans une application de coaching sportif
suggérant tel complément alimentaire par exemple, à un niveau prescriptif, dans
le cas de l'examen de l'octroi d'un emprunt bancaire, ou dans le secteur du
recrutement qui use de robots numériques et de «chatbots» afin de sélectionner
les candidats.
Alors, on argue de la fable de la «complémentarité
homme-machine». En réalité, plus le niveau de l'expertise automatisée se
perfectionnera et plus l'évaluation humaine sera marginalisée. Et cela va
jusqu'à atteindre des niveaux coercitifs, emblématiques dans le champ du
travail, qui voit des systèmes édicter à des personnes les gestes à exécuter.
Le libre exercice de notre faculté de jugement se trouve remplacé par des
protocoles destinés à orienter et à encadrer nos actes. Voit-on la rupture
juridico-politique qui est en train de s'opérer ?
N'êtes-vous pas dans le catastrophisme en professant une
vision aussi sombre des technologies? Après tout, les luddites du XIXe siècle
tenaient le même discours…
Vu l'ampleur des incidences présentes et futures de l'intelligence
artificielle, il serait temps de nous défaire de la sempiternelle et
infructueuse opposition mettant en vis-à-vis les «inquiets» et les
«enthousiastes». Ce mode de perception a le grand défaut de nous enfermer dans
une vision restreinte des choses et mobilise bien trop nos affects. Pour ma
part, je ne me reconnais nullement dans ce «catastrophisme», en revanche je
m'attelle à analyser de près les phénomènes majoritairement structurants. Et le
fait décisif auquel nous sommes en train d'assister, ce n'est rien de moins que
le dessaisissement, à grande vitesse, de notre autonomie de jugement et de
notre faculté à nous déterminer librement relativement au cours de nos destins
individuels et collectifs.
Que répondez-vous à ceux qui soulignent qu'on ne peut pas
lutter contre le sens de l'histoire, et que si nous ne nous mettons pas à
l'intelligence artificielle, d'autres pays qui n'ont pas les mêmes scrupules
que nous (la Chine par exemple) s'y mettront et nous domineront?
L'intelligence artificielle représente, depuis le début des
années 2010, l'enjeu économique jugé le plus décisif et dans lequel il convient
d'investir massivement. Outre les entreprises, ce sont également les États qui
mobilisent tous les moyens nécessaires en vue de se situer aux avant-postes ;
chacun faisant désormais de cet objectif une grande cause nationale. Aux
premiers rangs desquels les États-Unis et la Chine. De son côté, Emmanuel Macron
entend faire de la France un «hub mondial de l'IA» et «attirer
les meilleurs chercheurs étrangers». Comme il est entendu qu'«il ne
faut pas rater le train de l'histoire», les investissements s'opèrent dans
la plus grande précipitation. À tel point que Mounir Mahjoubi, le secrétaire
d'État au Numérique, dit comprendre que «certains préfèrent avancer sur
les technologies d'abord et réfléchir ensuite»! Vu la portée des
conséquences, il est au contraire impératif que ces questions fassent l'objet
de débats à la hauteur des enjeux, ce qui n'est pas le cas aujourd'hui.
Car ce qui est à l'œuvre avec les développements incessants
de l'IA, c'est l'imposition du primat de l'impératif économique sur toute autre
considération. Le techno-libéralisme aura réussi à faire croire que ces
développements s'inscrivent dans le «cours naturel des choses» et à imposer la
rhétorique de l'inéluctable. La question qui nous revient est finalement
celle-ci : allons-nous accepter, au nom de la croissance, de voir s'instituer,
par le fait de ces systèmes, un dessaisissement de notre faculté de jugement,
une marchandisation intégrale de la vie ainsi qu'une extrême rationalisation de
tous les secteurs de la société ? Car au-delà de tous les discours, ce sont là
les conséquences majeures de l'exploitation croissante de l'IA. Pour ma part,
je crois qu'au nom des principes qui nous fondent, nous ne devons pas nous
résoudre à cette vision hygiéniste et utilitariste du monde, et plus encore,
nous devons nous y opposer.
Dans le domaine de la médecine et de la santé,
n'êtes-vous pas d'accord pour affirmer que l'intelligence artificielle apporte
des progrès indéniables qui permettent chaque jour de sauver des vies ?
On ne cesse de louer les avantages que la médecine est
supposée tirer de l'intelligence artificielle. On se réjouit du diagnostic
automatisé qui offrirait, dit-on, un saut qualitatif, dont nous allons tous
bénéficier tôt ou tard. Mais on n'évoque jamais le fait que ces mêmes systèmes
sont déjà dotés de la faculté de prescription, appelée à entraîner l'achat de
mots-clés par les groupes pharmaceutiques. Car l'industrie du numérique entend
faire main basse sur le domaine de la santé voulant rendre obsolète la
consultation et le paiement à l'acte au profit d'abonnements qui, via des capteurs
sur les corps, promettent d'interpréter les états et de recommander des
produits de bien-être ou des traitements thérapeutiques. Il est temps
d'analyser, au-delà des discours enjoliveurs, l'étendue des effets collatéraux
induits par l'intégration de systèmes d'intelligence artificielle dans la
médecine.
À ce titre, il convient de s'inscrire en faux contre les
propos d'un Yann Le Cun, par exemple. Ce spécialiste français du machine learning, qui est devenu le «Chief Scientist» de Facebook, répète partout que
ces avancées légitiment à elles seules l'intelligence artificielle. Pourquoi ne
parle-t-il pas plutôt des techniques d'interprétation des comportements qu'il
conçoit pour cette firme ? Pourtant, si elles étaient rendues publiques, on
comprendrait mieux ce qui est en train de se jouer. À ce titre, j'ai été effaré
d'apprendre, pas plus tard qu'aujourd'hui, qu'alors qu'une émission de
télévision avait invité Yann Le Cun en vue de débattre avec moi, celui-ci n'a
pas voulu répondre, arguant qu'il ne «faisait pas de politique»! Cette façon de
botter en touche est éloquente, car nous touchons là un problème majeur : celui
de l'inféodation des ingénieurs aux intérêts de l'industrie. Cet
assujettissement, et la démission de responsabilité corollaire, représentent une
plaie de notre temps dans la mesure où les techniques revêtent précisément une
portée politique vu qu'elles infléchissent toute notre existence. Voit-on ici
la faillite de la conscience critique du monde de la recherche
technoscientifique ?
Comment et où faut-il résister en priorité ? Faudrait-il
par exemple établir des règles pour entraver la recherche ?
Nous avons la fâcheuse naïveté de croire aux pouvoirs de la
régulation qui est sans cesse invoquée comme susceptible de faire contrepoids
aux évolutions technologiques. Elle se fonde sur l'idée que la fonction du
législateur consiste à nous prémunir de certaines dérives. Mais il s'agit là
d'une vision biaisée qui ne correspond pas à la réalité, car nous vivons
dorénavant sous le régime d'un «ordolibéralisme». Celui qui voit, au sein des
démocraties social-libérales, les lois être rédigées en vue de soutenir
l'économie de la donnée, des plateformes et de l'intelligence artificielle. Car
le monde politique, au nom de la croissance, soutient puissamment ces logiques.
Quant à établir des règles en vue d'entraver la recherche, c'est là - tout
comme le vœu pieux de la régulation - une vaste fable. Car ce qui est à l'œuvre
avec les développements de l'IA, c'est un mouvement sans cesse croissant de
marchandisation intégrale de la vie et d'organisation automatisée - à des fins
d'optimisation - de la société. Allez dire aux chercheurs qui, dans leur
quasi-exclusivité, travaillent pour le monde économique, de ne plus concevoir
des dispositifs destinés à répondre à ces fonctionnalités, ils vous riront au
nez.
Non, ce que je crois, vu la soumission des responsables
politiques et l'inféodation du monde technoscientifique à l'industrie, c'est
que c'est à nous tous, et à toutes les échelles de la société, de faire œuvre
de politique.
C'est la raison pour laquelle je termine mon livre par un
manifeste qui appelle à une nécessaire mobilisation. Alors que les évangélistes
de l'automatisation du monde, parmi lesquels Emmanuel Macron et Cédric Villani,
qui ne jurent que par le dogme de la croissance au mépris de toutes les
conséquences civilisationnelles, ne cessent d'entreprendre, nous nous sommes
laissés aller à une forme d'apathie. Un mouvement contraire, faisant valoir de
tout autres principes, appelle avant toute chose à contredire les
techno-discours fabriqués de toutes pièces et colportés de partout par des
experts patentés. C'est pourquoi il convient d'abord de faire remonter des
témoignages, de salutaires contre-expertises émanant de la réalité du terrain,
là où ces systèmes opèrent, sur les lieux de travail, les écoles, les hôpitaux…
Nous devrions tout autant manifester notre refus à l'égard de certains
dispositifs lorsqu'ils bafouent notre intégrité et notre dignité. Contre cet
assaut antihumaniste, faisons prévaloir une équation simple mais intangible :
plus on compte nous dessaisir de notre pouvoir d'agir et plus il convient
d'être agissant. C'est ce principe qui plus que jamais devrait nous inspirer et
qui, à ma mesure, a déterminé l'écriture de mon livre.
La rédaction vous conseille :
- Ubérisation
mortelle? «Ce n'est pas la machine qui est dangereuse, c'est notre
confiance excessive en elle»
- Cédric
Villani: «L'Europe peut relever le défi de l'intelligence artificielle»
Journaliste Débats et opinions Twitter : @EugenieBastie
Ses derniers articles
- «L'intelligence
artificielle est un assaut antihumaniste !»
- «
Pour Christopher Lasch, l'alternative au capitalisme destructeur est un
populisme vertueux »
- Patrick
Buisson et Pierre-Antoine Delhommais : «Était-ce mieux avant ?»
Aucun commentaire:
Enregistrer un commentaire