Nous avons récemment été interpelés par un article publié sur le site internet de Kairos (« Maîtrisez l’IA avant qu’elle ne vous maîtrise »[note]). Nous développerons, en réponse à cet écrit, non seulement les raisons pour lesquelles il serait illusoire de prétendre pouvoir maîtriser l’intelligence artificielle, mais aussi pourquoi celle-ci n’est en aucun cas bénéfique, contrairement à ce que prétend l’auteur, sauf à toujours plus « optimiser » les performances de l’humain, démarche qui correspond en tout point aux logiques du capitalisme et de la société de croissance combattues par Kairos depuis plus de 10 ans[note]. Nous reprendrons ensuite une à une les « clefs » évoquées par l’auteur pour « dompter » l’IA, avant d’envisager une nécessaire conclusion.
IA ET NEUTRALITÉ
L’ensemble de l’article défend la neutralité de l’IA (mise en de bonnes mains, il s’agit d’un formidable outil, dans de mauvaises au contraire, l’effet vertueux se renverse impitoyablement). Comme nous allons tenter de le démontrer, et comme nous l’avons déjà fait ailleurs[note], la réalité est plus complexe que cela.
« Croire que la technique est neutre, c’est sûrement passer à côté de l’enjeu du siècle. »
Jacques Ellul
IA ET POGNON
Peu importe la manière dont on l’utilise, l’IA brasse énormément d’argent, le but étant, à terme, d’en rapporter un maximum à ses concepteurs et investisseurs. OpenAI par exemple – l’entreprise qui est à l’origine du lancement de ChatGPT –, a estimé son chiffre d’affaire pour 2024 à 3,7 milliards $ (pour, il est vrai, 5 milliards de pertes – dus notamment aux coûts énergétiques faramineux nécessaires au fonctionnement de la machine[note]). Si l’entreprise ne réalise pas encore de bénéfices malgré l’augmentation exponentielle de ses ventes, cela ne saurait tarder. En effet, comme le mentionne BFM-TV : « OpenAI devrait passer d’une association à but non lucratif à une entreprise à but lucratif, dans le but d’attirer davantage de capitaux […]. La quête de profits est devenue la priorité d’OpenAI[note] ». Cofondée par le transhumaniste Elon Musk (qui est à la tête d’un capital s’élevant à quelque 404,6 milliards $), la firme est détenue à 49% par Microsoft, dont Bill Gates est le directeur général. Il paraît dès lors curieux de flatter un produit qui financera à terme la bourse d’un homme que d’aucuns voient, au pire, comme un agent maléfique désirant éradiquer la population, au mieux comme un milliardaire narcissique prétendument attaché à l’humain.
IA ET ÉCOLOGIE
IA et écologie ne font pas bon ménage : « L’industrie mondiale des centres de données, de l’IA et des cryptoactifs devrait doubler sa consommation d’électricité d’ici 2026, générant un surplus de 37 milliards de tonnes de CO2 dans l’atmosphère. Ce qui représente l’équivalent de la consommation annuelle d’un pays comme le Japon[note] ». De plus, le fonctionnement d’une IA telle que ChatGPT (195 millions de demandes journalières en juillet 2024) requiert, grosso modo, 564 mégawattheures par jour – soit l’équivalent de la consommation annuelle de 282 foyers wallons[note]. Ce n’est pas tout ; ces mastodontes virtuels nécessitent une puissance de calcul considérable générée par des centres de données (bien physiques pour le coup) : les fameux data centers. En France, avec la propagation de l’IA, le seul secteur des data centers pourrait mobiliser la puissance de 5 à 7 réacteurs nucléaires d’ici 2030[note]. À cette demande faramineuse d’électricité s’ajoute celle en eau nécessaire pour refroidir les équipements. Il faut aussi prendre en compte la fabrication des puces et microprocesseurs, nécessitant l’extraction de minerais et de terres rares. Or, ces métaux sont ponctionnés dans des pays aux conditions sociales et environnementales souvent désastreuses, accentuant les conflits territoriaux et la corruption. Il n’est donc pas certain qu’une utilisation « réfléchie » et « critique » de l’IA permette de réduire le taux de pollution dans l’air ou encore les conflits armés.
IA ET ENSEIGNEMENT
Pour l’auteur, il est « crucial d’intégrer l’IA aux programmes scolaires afin de former les jeunes à utiliser ces outils de façon critique et efficace. Cela implique bien entendu que les enseignants soient également formés à cet effet ce qui, à de rares exceptions près, est loin d’être le cas ». Il ajoute : « rejeter l’IA serait une erreur. Elle fait partie de notre futur, et il est essentiel de préparer les jeunes à l’utiliser avec discernement ». Pourtant, Olivier Lefebvre, ancien ingénieur, dénonce : « la généralisation de l’intelligence artificielle à l’école entraîne un appauvrissement de l’enseignement, en plus d’une empreinte écologique considérable »[note]. Deux ans à peine après son lancement, ChatGPT a déjà largement déployé ses tentacules dans le monde scolaire. À vrai dire, la numérisation de ce milieu n’est pas un fait nouveau et s’inscrit dans le processus de rationalisation de l’école[note] et du contrôle toujours plus assidu des professeurs (mais aussi des élèves) exercé par la logique managériale du libéralisme depuis plusieurs années[note]. Gabriel Attal suggérait il y a peu de « généraliser à tous les élèves de 2e l’usage de l’intelligence artificielle pour personnaliser les exercices à la maison en mathématiques et en français » dès la rentrée 2024[note]. Désire-t-on vraiment suivre les technophiles d’En marche ! (vers le néant) dans leur optique et participer avec eux à la construction de cette « merveilleuse » start-up nation mondiale tant souhaitée par Macron et autres Young Global Leaders ? Pour nous, la réponse est non !
IA ET CULTURE
L’auteur mentionne : « Entre les mains de certains, elle peut être un outil de libération intellectuelle et d’accélération des capacités humaines, mais entre les mains de personnes ou autorités mal intentionnées […], elle peut devenir un instrument de contrôle, de manipulation et de domination ». Voici pour le moins une vision manichéenne qui devient malheureusement de plus en plus légion : nous aurions, d’un côté, les bons pratiquants vertueux et critiques ; de l’autre, les mauvais utilisateurs prêts à toutes les turpitudes. Au-delà de cette perception quelque peu naïve du réel, toute technologie est intrinsèquement « agie » par la culture et l’époque qui la mettent en scène (peu importe l’usage que l’on en fait). Les temps qui sont les nôtres s’exercent sous le prisme de la recherche paroxystique d’efficacité dans tous les domaines de l’existence – et ce depuis, a minima, la Renaissance et l’émergence de la raison cartésienne (« se rendre comme maître et possesseur de la nature »). Pourquoi l’IA échapperait-elle à cette logique, elle qui est née, spécifiquement, dans un système qui ne vit que pour l’optimisation des performances humaines ?
IA ET CROISSANCE
« Nos systèmes éducatifs doivent rapidement s’adapter à l’intégration exponentielle de l’IA dans nos vies ». L’auteur le suggère lui-même : l’IA demande une évolution toujours plus rapide des compétences humaines (ne serait-ce que pour être capable de l’utiliser). Elle s’inscrit par conséquent dans la démarche de la société de croissance – et, par extension, du transhumanisme. Difficile dans ce cas de souscrire à l’idée d’une utilisation vertueuse de l’IA dépendamment des mains dans lesquelles elle se trouve, sauf à suggérer qu’une croissance infinie dans un monde fini serait non seulement possible, mais aussi souhaitable.
IA ET AUTONOMIE
Deux projets ancestraux sont au cœur des collectivités humaines : le projet d’autonomie et le projet d’expansion illimitée de la maîtrise rationnelle[note]. Bien qu’elle promette toujours plus d’autonomie, force est de constater que c’est plutôt la recherche effrénée de maîtrise qui excite l’IA et son utilisateur. C’est sans doute inconsciemment que l’auteur déifie l’IA tout au long de son écrit, tuant dès lors dans l’œuf toute possibilité de critique radicale à son sujet (tout en répétant, du reste, à ses lecteurs – nous ne sommes plus à un paradoxe près – qu’il leur faut rester critiques). Qu’ils en aient conscience ou non, les hommes sont toujours les uniques responsables de leurs créations. Il n’empêche : en suggérant qu’il serait judicieux que chacun utilise l’IA, car elle fera de toute façon partie du futur, l’auteur manifeste évidemment une vision plus hétéronome de l’existence qu’une vue autonome de celle-ci. Comme nous l’écrivions dans un autre article traitant de ce sujet[note] : « Castoriadis mentionne à ce titre qu’aucune technique ne peut être considérée comme neutre. Elles sont investies par des centaines de millions d’êtres humains et beaucoup impliquent des effets massifs (notamment sur la biosphère) que personne ne contrôle, bien que tout le monde prétende le contraire dans une illustration parfaite de cécité. Pis ! Les moyens utilisés aujourd’hui afin de limiter les fâcheuses conséquences produites par la technique sont issus du spectre technologique luimême. Dans ce cas, écrit Castoriadis, parler de neutralité ou de liberté de choix dans l’utilisation de la technique n’a strictement aucun sens. Seule une révolution totale au travers de laquelle l’ensemble de la société poserait explicitement la question de la transformation consciente de la technologie pourrait convoquer une telle liberté. Et encore, même dans ce cas précis, le questionnement de la société sur la technologie serait, d’une manière ou d’une autre, conditionné par la technologie qu’elle désirerait transformer ». Ce constat ne signifie pas qu’il faille abandonner toute critique de l’IA, mais qu’il serait judicieux de garder à la conscience les effets qu’elle génère inexorablement au sein des esprits des hommes.
IA ET NARCISSISME
Comme nous l’écrivions dans l’article précité : « Toute technologie adoptée à grande échelle affectera la construction psychique des individus qui composent la société. Le téléphone portable par exemple, et peu importe la manière avec laquelle il est employé, octroie au sujet la possibilité d’être connecté, en tout temps et en tout lieu, à l’absent – il s’agit, en somme, d’une forme inédite de cordon ombilical. Selon le philosophe allemand Anselm Jappe[note], l’avènement de la technologie constitue un facteur responsable de l’ancrage narcissique (en d’autres mots, de l’ancrage dans l’enfance) que les psychanalystes constatent chez beaucoup de leurs patients. En effet, chacun a dorénavant le loisir d’exercer au quotidien un pouvoir colossal à l’aide d’un simple “clic”. Là où il fallait autrefois faire preuve de patience et d’abnégation pour éclairer la pénombre ou pour réchauffer les corps (en coupant par exemple le bois nécessaire à l’allumage d’un feu), il suffit aujourd’hui d’une simple pression exercée sur un bouton afin de jouir d’effets similaires ». Ceci démontre in fine qu’il est difficile de concevoir une utilisation réellement parcimonieuse de l’IA. Peu importe son usage – écriture d’un texte ou contrôle des populations –, elle agit d’une façon qui lui est propre sur la construction psychique des sujets (et donc sur les relations sociales que ceux-ci tissent entre eux) ; en somme, elle contribue à la fabrication d’un type d’humain spécifique qui n’aura d’autres choix que de croire en l’existence de « clefs » promptes à dompter la bête afin de s’octroyer visà-vis d’elle une autonomie aussi étincelante que chimérique.
LES « CLEFS » POUR MAÎTRISER L’IA
L’auteur propose des « clefs » pour maîtriser l’IA. Voici nos remarques. Il convie le lecteur à « rester critique », ce qui constitue une injonction paradoxale dans la mesure où aucun penchant critique véritable de l’âme ne peut se commander de l’extérieur – d’autant plus paradoxal que l’auteur suggère, dans le même mouvement dans son texte, qu’il est inutile de critiquer radicalement l’IA étant donné qu’elle fera de toute façon partie du futur.
L’IA est un outil d’optimisation ; sa fonction est de rendre les actions plus efficaces et toujours plus rapides. L’auteur exhorte malgré tout à recouper les sources, démarche qui prend du temps – d’autant plus que lesdites sources sont devenues innombrables depuis l’avènement de la Toile dans nos existences – et qui paraît contradictoire avec le principe d’optimisation initial dans la mesure où l’on perdrait alors les gains d’efficacité supposés de l’IA, soit la véritable fonction de celle-ci. En un mot, on occulte ici que l’IA est avant tout un dispositif voué à « faciliter » la vie des hommes, c’est-à-dire à leur faire gagner du temps et à moduler leur esprit vers la quête d’efficacité; ou, si l’on préfère, une machine à « plus-de-jouir ».
« Interrogez plusieurs sources, le doute est le point de départ de toute réflexion critique, car il incite à remettre en question les informations reçues au lieu de les accepter aveuglément. Il permet de tester la validité des faits, d’explorer différentes perspectives et de déceler d’éventuelles incohérences. En cultivant le doute, on développe un esprit plus curieux, rigoureux et indépendant ». Il s’agit ici d’un discours candide – « l’esprit critique, c’est bien » –, trivial – quelqu’un qui remet en question une information doute forcément de celle-ci – et, une nouvelle fois, paradoxal : si j’obéis dans un premier temps à l’injonction de douter, je désobéis dans le même mouvement à cette dernière dans la mesure où je ne doute pas de la nécessité de douter, tandis que si je désobéis initialement à l’injonction, je ne doute tout simplement pas et désobéis donc à celle-ci.
« Protégez vos données personnelles » : cela semble être une sacrée gageure, car, à part ne pas utiliser Internet, nous ne voyons pas comment nous pourrions mettre en sécurité nos données numériques d’une manière effective.
« Utiliser l’IA comme un levier. L’IA doit compléter les compétences pas les remplacer ». Il s’agit donc d’une extension prothétique de l’homme, ce qui n’a rien de profondément réjouissant.
« Exploitez les points forts de l’IA sans renoncer à votre créativité et à votre intuition ». Exhorter de la sorte les gens à se montrer créatifs et intuitifs ne peut que tuer toute créativité et intuition, surtout s’il l’on croit possible d’user de l’IA comme d’un simple crayon.
« Évitez l’automatisation aveugle ». Comme nous avons tenté de le démontrer dans ce texte, nous sommes ici à plein dans l’automatisation aveugle (d’autant plus aveugle que celle-ci ne reconnaît pas ce qu’elle ne voit pas).
CONCLUSION
Notre conclusion suit celle de l’auteur. Il mentionne : « Enfin, nous avons une responsabilité collective dans la manière dont l’IA est développée et utilisée. Cela implique d’encadrer son usage par des règles éthiques claires, de sensibiliser les utilisateurs aux dérives potentielles, et de veiller à ce que la technologie serve toujours les intérêts humains ». Pour les raisons que nous avons évoquées dans les différentes rubriques de cet article, nous pensons que c’est méconnaître la nature profonde du capitalisme – c’est-à-dire, précisément, le modèle économique (et social) qui a engendré l’IA – que d’espérer une telle prouesse. Il continue : « Comme le dit Idriss Aberkane [note de notre part : une brève présentation aurait été la bienvenue afin de savoir de qui il s’agit[note]], l’IA est avant tout le triomphe de notre (souligné par l’auteur) intelligence. Si nous apprenons à la maîtriser, elle deviendra une alliée précieuse pour relever les défis du futur. Mais si nous laissons la peur ou l’ignorance guider notre relation avec elle, alors nous risquons de devenir les sujets d’une technologie que nous avons pourtant créée ». Voici que pointe la menace d’un doigt inquisiteur. Pourtant, il est non seulement difficile de ne pas apercevoir la texture technophile du discours qui est ici tenu, mais il est, encore une fois, tout aussi compliqué de nier la binarité qui l’anime ; il n’existerait que deux possibilités face à l’avènement de l’IA : soit l’homme apprend à la maîtriser (par l’intermédiaire des fameuses « clefs » très certainement), et ainsi à lui le Salut, soit, au contraire, il s’éloigne des préceptes énoncés par l’auteur, mais alors la sentence deviendrait irrévocable ; ceux qui critiquent radicalement l’IA et qui refusent son utilisation seront qualifiés d’ignorants et de peureux fatalement assujettis à la machine. Il s’agit ici d’un renversement limpide du réel ou, ce que nous nommons dans notre jargon de psy, une (sacrée) projection. N’en jetez plus, la coupe est pleine !
Post-scriptum : point d’hypocrisie dans nos propos ; nous utilisons la technologie d’une manière ou d’une autre au quotidien et des fois, peut-être, sans même le savoir, l’IA. Mais pour toutes les raisons évoquées dans cet article, il ne nous viendrait jamais à l’esprit d’en faire les louanges ni d’encourager sa propagation.
Post-scriptum bis : ce qui devrait interpeler jusqu’au plus fervent utilisateur de l’IA c’est que, toujours, les nouvelles technologies s’imposent sans l’ombre d’un débat démocratique à la collectivité, c’est-à-dire sans que les hommes n’aient pu décider, en toute connaissance de cause, de la nécessité (ou non) de produire tel type de machine et de l’introduire dans les différentes sphères du social. Il s’agit ici d’un indice évident que le système est devenu technicien et qu’il échappe par conséquent à toute possibilité effective de maîtrise en l’état actuel des choses.
Post-scriptum ter : au fil des temps, voici que les effets de cette clairvoyante cécité se font ressentir ; la technologie ayant revêtu dans les imaginaires communs les habits de Dieu, il devient inconcevable pour ses adeptes de la remettre en question. Pis ! Chacun pense dorénavant pouvoir la maîtriser et devenir ainsi lui-même le Dieu de Dieu, procédé qui permet de panser artificiellement les plaies de l’âme induites par le système techno-capitaliste lui-même.
Kenny Cadinu
