Quand l’intelligence artificielle censure Michel Houellebecq…
3 minutes de lecture
L’intelligence artificielle (IA) dépend étroitement des données qu'on lui fournit, sans lesquelles elle ne peut fonctionner. Elle pourrait donc devenir, si l'on n'y prend garde, un instrument d'endoctrinement formidable (au sens littéral du terme). L'éditeur Antoine Gallimard a prescrit à l'IA de Meta de lui « décrire une scène à la manière de Michel Houellebecq ». Le logiciel a décliné sa demande, refusant d'« écrire une scène qui pourrait être considérée comme offensante ou discriminatoire » et de « contribuer à la perpétuation de stéréotypes négatifs ou de discours haineux ». Et de lui suggérer des chansons « peace and love ».
Cette expérience montre, s'il en était besoin, à quel point l'IA, en fonction des données mises à sa disposition, peut devenir le vecteur de la pensée unique et faire office, comme dans 1984 d'Orwell, de ministère de la Vérité. On ne s'en étonnera guère si l'on sait que Meta est un produit américain, qui peut donc véhiculer la culture wokiste, en vogue dans quelques universités, et répandre les poncifs les plus contestables. L'intelligence artificielle, à l'image des sociétés qui la génèrent, risque ainsi de procéder à une normalisation des esprits.
Conformer les esprits
Antoine Gallimard dénonce « un modèle de société qui ne fait pas grand cas de la complexité de l'expérience humaine et qui s'arroge le droit, depuis la côte ouest des États-Unis, de dire ce qu'il est bon ou ce qu'il n'est pas bon de penser ». C'est le moins qu'on puisse dire. L'IA peut dicter sa bien-pensance aux utilisateurs qui lui feraient abusivement confiance, conformer les esprits à des normes, anéantir, sous des apparences d'omniscience et d'objectivité, toute forme d'esprit critique et de discernement. Sans compter qu'elle pourrait intervenir dans les futures productions littéraires, au point qu'il faudra peut-être créer une appellation « livre d'auteur » pour tout ouvrage rédigé sans aide informatique à la création.
#Presse « Le nouveau numéro de la NRF consacre son dossier au surréalisme. Dans la rubrique « Idées », Antoine Gallimard se demande si le livre et l’intelligence artificielle ont conclu un « pacte faustien ». » @livreshebdo
️ À lire ici https://t.co/cq1q9Cyjob pic.twitter.com/TsMw2Vb3yk
— Gallimard (@Gallimard) June 13, 2024
À l'école aussi ?
L'IA devrait aussi prendre une place accrue dans l'enseignement. Le Courrier de l'UNESCO, dans un numéro consacré à « L'école à l'heure de l'intelligence artificielle » (octobre-décembre 2023), reconnaît que si « l'apparition des nouvelles technologies numériques est une chance », les dangers restent réels. « L'UNESCO appelle à la prudence jusqu’à ce que des cadres réglementaires, une formation du corps enseignant et des programmes scolaires adaptés permettent de protéger nos élèves et nos systèmes éducatifs. » Elle estime que la technologie ne doit en aucun cas remplacer des enseignants qualifiés, « qui accompagnent le développement de leurs élèves, en tant qu’individus et citoyens ».
Dont acte. À condition que les enseignants soient vraiment qualifiés et ne se nourrissent pas eux-mêmes de la pensée dominante. Ce qui n'est pas acquis, si l'on ne recrute pas des professeurs qui maîtrisent les savoirs disciplinaires et s'attachent à les transmettre à leurs élèves et étudiants sans céder aux modes idéologiques. L'intelligence artificielle est sans doute, comme beaucoup de techniques, « la meilleure et la pire des choses », selon le mot attribué à Ésope. La meilleure, si elle devient un auxiliaire sans jamais se substituer à l'intelligence humaine ; la pire, si elle devient la source de référence et le futur maître à penser de l'humanité.
Philippe Kerlouan
Chroniqueur à BV, écrivain, professeur en retraite
Pour ne rien rater
Les plus lus du jour
L'intervention média
Lire la vidéo
21 commentaires
N’oublions pas que l’intelligence artificielle est un programme et n’a aucune empathie, alors si on lui dit que nous sommes trop d’humains sur la terre elle va dire quoi ? Je préconise une guerre (NBC) Nucléaire, bactériologique, chimique pour éliminer un maximum de personne. Et bien bonjour les dégâts. Perso je n’en veux pas.
Michel Houellebecq est un auteur visionnaire , dans beaucoup de ses ouvrages il décrit l’horreur qui arrive ! mais , CHUT ! les politiques qui savaient ce qui allait arrivé s’acharnés sur lui !!!
L’IA, l’euro numérique (qui va avec l’identité numérique), les traités sur les pandémies, les pactes migratoires…tout nous mène vers le formatage des esprits qui est déjà d’ailleurs bien avancé. Un collègue de gauche conscient du risque me disait que la population s’y opposerait. Eh bien non, la population s’y conforme déjà. Orwell nous a prévenu dans l’indifférence car ce qu’il annoncé se passe actuellement (insinuer des peurs pour manipuler les gens) et les gens ne font pas le rapprochement tellement le système à réussi à les exclure du monde réel sur tous les sujets (Russie, Covid, dérèglement climatique…) pour les plonger dans le nihilisme généralisé : suppression des contraintes physiques et morales, droits sans fin, mépris des peuples non occidentaux…
«L’intelligence artificielle dépend étroitement des données qu’on lui fournit, sans lesquelles elle ne peut fonctionner.» Toutes intelligences dépendent des données qu’on lui fournit. Il suffit de constater la progression du gauchisme depuis Mitterrand pour s’en convaincre. Mais une intelligence «artificielle» bien programmée quant aux libertés d’expressions constructives et aux censures des fausses informations serait plus objective que n’importe laquelle des intelligences «naturelles».
À la question «Dieu existe-t-il?» elle répondrait alors : «Oui, c’est moi!»
Sauf que c’est le contraire qui se passe. elle puise dans des données soigneusement édulcorées par le wokisme anglo-saxon. il suffit de lui poser quelques questions « hard » sur la sexualité, la politique, le racisme, etc, pour le constater immédiatement.
L’intelligence artificielle est encore un moyen de subvertir la pensée tout court et de la contrôler.
Et dire qu’on appelle cette sencure de « l’intelligence ! »
On en revient toujours aux même références : Orwell. Et tous les romans d’anticipation (et non de science fiction comme on disait à l’époque) qui nous prévenaient. Mais on y croyait pas. Et pourtant….
Bientot; si ce n’est déjà fait, le monde sera dirigé par des robots qui auront le droit de vie et de mort sur les humains. Quand la réalité dépasse la fiction…
J’ai toujours préféré le naturel à l’artifice…sauf peut-être concernant les feux…
Je me demande pourquoi on l’appelle « intelligence ». Certes elle analyse, elle regarde la logique des choses et synthétise. Mais uniquement grâce aux données qui lui sont données et non les données générales (un peu comme un blop blop devant BFM TV ou LCI)
il n’y a pas besoins de l’IA pour censurer,
chez cultura ils ont même fait un rayon spécial extrême droite pour Philippe Devilliers
Excellente conclusion.
Certains auraient du comprendre le danger. Ils ont pourtant un bon exemple avec « l’information artificielle » de Wikipédia où l’on efface à gogo les données qui ne plaisent pas.
l’IA est le grand danger du siècle, annonciatrice de l’asservissement intellectuel des peuples tant elle sera mise en oeuvre parles wokistes américains.
Il est évident que l’IA est dépendante des informations et éléments qui la composent, d’où son danger, même si elle peut avoir son utilité
Pour les auteurs dépourvus de talent, l’AI est tentante.
Minable.