valeurs-et-reperes@framagroupes.org
Atelier 11
Mise en question de nos valeurs et repères au vu de l’évolution en cours et, notamment, des progrès de l’Intelligence artificielle (IA).
Membres : Alain Javeau, Hervé Cochet, Pierre Landry , Alfonso Lizarzaburu, Clara Wajs, Muriel Grimaldi
Documents
Bibliographie
Azoulai, Nathalie, Python, POL, 2024, 240 p.
« Les machines du monde tournent grâce à des programmes informatiques qu’on appelle le code. Cette révolution technique ressemble à celle de l’électricité à la différence près qu’elle se compose de langages, de grammaires, de traductions, toutes choses qui devraient nous concerner mais dont nous ignorons tout. Je suis une femme, j’ai plus de cinquante ans, je suis écrivain et, malgré tous ces handicaps, je veux apprendre à coder. Je veux comprendre ce qui se passe sous les doigts des jeunes codeurs qui pianotent jour et nuit, font défiler sur leurs écrans noirs des lignes de signes multicolores, véloces, écrites dans notre alphabet mais que nous autres ne décodons pas. Ils sont là, à côté de nous, silencieux et puissants, et nous ne les voyons pas.
Mes proches se moquent de moi, me rappellent que je panique au moindre bug et ils ont raison, alors que faire ? Par où commencer ?
Python est bien le nom d’un langage de programmation mais c’est surtout ici une autofiction écrite comme un conte initiatique, mythologique, au cours duquel je croise Boris, Chloé, Margaux, Enzo, des jeunes gens qui codent et tentent de m’expliquer comment ils font. Je n’y comprends rien, je laisse tomber, je n’ai plus l’âge, je retourne à mes livres, à quoi bon ? Mais Python m’obsède et je m’obstine. Je m’y remets, intriguée par ces bataillons de geeks tournés vers des fonds où ils descendent entre eux, entre hommes. Qui sont-ils ? Que veulent-ils ? Que cachent-ils ?
J’enquête et Python s’écrit en images sur mon mur à coups de visages, de scènes, de mots, de tableaux, de films, comme dans la série Homeland. Et brusquement, le visage de mon suspect affleure. Je remonte le temps, je retrouve Simon qui, le premier, m’a guidée dans le monde des jeunes hommes entre eux, Simon qui planquait ses magazines porno sous mon lit de jeune fille… »
Python est le récit fascinant d’une séduction contrariée pour le « nouveau monde » informatique, son langage, la puissance et la jeunesse qui lui sont associées. L’enquête se fait progressivement plus intime et trouble, jusqu’à révéler une autre séduction.
Bronner, Gerald, Apocalypse cognitive, PUF, 2021
La situation est inédite. Jamais, dans l’histoire de l’humanité, nous n’avons disposé d’autant d’informations et jamais nous n’avons eu autant de temps libre pour y puiser loisir et connaissance du monde. Nos prédécesseurs en avaient rêvé : la science et la technologie libéreraient l’humanité. Mais ce rêve risque désormais de tourner au cauchemar. Le déferlement d’informations a entraîné une concurrence généralisée de toutes les idées, une dérégulation du « marché cognitif » qui a une fâcheuse conséquence : capter, souvent pour le pire, le précieux trésor de notre attention. Nos esprits subissent l’envoûtement des écrans et s’abandonnent aux mille visages de la déraison.
Victime d’un pillage en règle, notre esprit est au cœur d’un enjeu dont dépend notre avenir. Ce contexte inquiétant dévoile certaines des aspirations profondes de l’humanité. L’heure de la confrontation avec notre propre nature aurait-elle sonné ? De la façon dont nous réagirons dépendront les possibilités d’échapper à ce qu’il faut bien appeler une menace civilisationnelle.
C’est le récit de cet enjeu historique que propose le nouveau livre événement de Gérald Bronner.
Catellin, Sylvie, Sérendipité. Du conte au concept, Seuil, 2014
Quand Walpole invente le mot « sérendipité » en 1754, il évoque la faculté de découvrir, « par hasard et sagacité », ce que l’on ne cherchait pas. Aujourd’hui, le terme connaît une vogue croissante au sens de « découverte par hasard ». Mais si cette focalisation permet d’affirmer la dimension imprévisible et non programmable de la recherche, l’occultation de la sagacité empêche de saisir ce que « sérendipité » désigne véritablement, et qui est au cœur de toute découverte.
Pour comprendre le sens profond du terme, il faut remonter aux contes orientaux qui ont inspiré Walpole et Voltaire (pour la « méthode de Zadig »), et lire les romanciers et les savants qui se sont passionnés pour cette idée. Parmi eux, Balzac et Poe, Freud et Poincaré, Cannon et Wiener. Tous ont cherché à saisir le fonctionnement de l’esprit humain quand il est attentif à ce qui le surprend et en propose une interprétation pertinente, par l’association d’idées, l’imagination, la réflexivité.
L’étonnante histoire du mot révèle de profonds changements dans la conception des processus de création, et dans les rapports entre sciences, littérature et politique. Au terme de l’enquête, ce mot venu d’un conte ancestral acquiert la puissance d’un concept, porteur d’enjeux épistémologiques, politiques et humanistes.
Enthoven, Raphaël, L’esprit artificiel : une machine ne sera jamais philosophe, L’Observatoire, 2024, 192 p.
De la science au droit, de la médecine aux questions militaires, l’intelligence artificielle bouleverse tous nos champs de compétence. Tous ? Non ! En philosophie, l’IA ne sert à rien. Le prototype d’agent conversationnel ChatGPT, qui peut répondre à toute question, trouver une recette de cuisine à partir du contenu d’un réfrigérateur, rédiger un article ou composer un poème sur le sujet de notre choix, qui puise dans l’intégralité du savoir disponible pour en livrer une synthèse en quelques secondes… se trouve comme une poule devant un couteau quand on lui demande de réfléchir.
Quelle énigme ! Pourquoi le geste tout simple qui consiste à trouver une problématique, c’est-à-dire à transformer une question en problème pour en faire la colonne vertébrale d’une réflexion, demeure-t-il hors de sa portée ? À quoi tient cette singularité, ce je-ne-sais-quoi ? Pourquoi la pratique de la philosophie est-elle inaccessible à l’intelligence artificielle ? Et pourquoi l’humanité demeure-t-elle un casse-tête pour la machine ? C’est la même question.
Gaillard, Raphaël, L’homme augmenté. Futurs de nos cerveaux, Grasset, 2024
Une vaste fresque qui traverse les siècles et fait dialoguer sciences et littérature.
Hier, l’intelligence artificielle était un fantasme de science-fiction. La voilà sur le point de nous remplacer dans bien des fonctions. Faut-il anticiper un affrontement entre la machine et l’homo sapiens ?
Avec une hauteur de vue inédite sur une question brûlante, le psychiatre et chercheur en neurosciences Raphaël Gaillard montre que cette nouvelle intelligence, née en imitant notre cerveau, a toutes les raisons de s’hybrider avec notre propre intelligence. Le défi ne sera pas de rivaliser avec l’IA mais de réussir cette hybridation. D’ores et déjà, les interfaces cerveau-machine permettent à un homme paralysé de marcher ou de transmettre ses pensées. Demain nous utiliserons l’IA comme nous utilisons nos smartphones, partout et tout le temps, comme un appendice de nous-même, voire en l’incorporant. Faut-il en avoir peur ? Comment nous préparer à cette nouvelle ère ?
Nous avons déjà connu une grande hybridation avec l’avènement de l’écriture et de la lecture, signant notre passage de la Préhistoire à l’Histoire. Déposer hors de soi notre savoir par l’écriture, et se le réapproprier par la lecture, n’était pas si différent de ce que la technologie nous promet. Puisque cette aventure fut une réussite pour l’humanité, nous ferions bien de nous en inspirer.
Article. L’IA doit avant tout servir à soigner
Ishiguro, Kasuo, Klara et le soleil, Gallimard, 2023.
Klara est une AA, une Amie Artificielle, un robot de pointe ultraperformant créé spécialement pour tenir compagnie aux enfants et aux adolescents. Klara est dotée d’un extraordinaire talent d’observation, et derrière la vitrine du magasin où elle se trouve, elle profite des rayons bienfaisants du Soleil et étudie le comportement des passants, ceux qui s’attardent pour jeter un coup d’œil depuis la rue ou qui poursuivent leur chemin sans s’arrêter. Elle nourrit l’espoir qu’un jour quelqu’un entre et vienne la choisir. Lorsque l’occasion se présente enfin, Klara est toutefois mise en garde : mieux vaut ne pas accorder trop de crédit aux promesses des humains…
Après l’obtention du prix Nobel de littérature, Kazuo Ishiguro nous offre un nouveau chef-d’œuvre qui met en scène avec virtuosité la façon dont nous apprenons à aimer. Ce roman, qui nous parle d’amitié, d’éthique, d’altruisme et de ce qu’être humain signifie, pose une question à l’évidence troublante : à quel point sommes-nous irremplaçables ?
Javeau, Alain, L’homme revu et corrigé. Les sciences de la nature au service des sciences humaines, L’Harmattan, 2018
Ce livre a pour objet de montrer que le fonctionnement et le comportement humains s’expliquent par les sciences de la nature, par-delà les sciences humaines. Les principes de physique jouent un rôle important. Ils expliquent le changement du milieu naturel et humain avec, entre autres perspectives, le trans et le posthumanisme. Fondamentalement, nous sommes des mécanismes de traitement de l’information, comme les robots. En toile de fond, le déterminisme scientifique implique l’absence de libre arbitre…
Conférence « Valeurs et repères face aux évolutions technologiques«
Mhalla, Asma, Technopolitique. Comment la technologie fait de nous des soldats, Seuil, 2024, 288 p.
Intelligence artificielle, réseaux sociaux, implants cérébraux, satellites, métavers… Le choc technologique sera l’un des enjeux clés du xxie siècle et les géants américains, les « BigTech », sont à l’avant-garde. Entités hybrides, ils remodèlent la morphologie des États, redéfinissent les jeux de pouvoir et de puissance entre nations, interviennent dans la guerre, tracent les nouvelles frontières de la souveraineté. S’ils sont au cœur de la fabrique de la puissance étatsunienne face à la Chine, ils sont également des agents perturbateurs de la démocratie. De ces liens ambivalents entre BigTech et « BigState » est né un nouveau Léviathan à deux têtes, animé par un désir de puissance hors limites. Mais qui gouverne ces nouveaux acteurs privés de la prolifération technologique ? A cette vertigineuse question, nous n’avons d’autre choix que d’opposer l’innovation politique !
S’attaquant à tous les faux débats qui nous font manquer l’essentiel, Asma Mhalla ose ainsi une thèse forte et perturbante : les technologies de l’hypervitesse, à la fois civiles et militaires, font de chacun d’entre nous, qu’on le veuille ou non, des soldats. Nos cerveaux sont devenus l’ultime champ de bataille. Il est urgent de le penser car ce n’est rien de moins que le nouvel ordre mondial qui est en jeu, mais aussi la démocratie.
Article : Géopolitique de la Tech
Moch, Raymond, L’homme informatisé, Robert Laffont, 1971, 226 p.
Depuis 20000 ans , l’homme s’enorgueillit de penser mieux que les animaux. Depuis vingt ans, il s’affole à l’idée qu’il pense moins bien que la machine. Informatique, mot quasi magique, et Homme, réalité quasi délaissée. Combien ne sommes-nous pas à craindre que l’irruption des ordinateurs dans notre vie n’entraîne la disparition de notre originalité, de notre créativité ? L’électronique moderne n’a-t-elle pas produit ce centaure homme-calculatrice qui nous inquiète tant ? Information… Hominisation… Quel est l’avenir de cette réalité nouvelle, l’homme informatifié ?
(L’homme sous menace informatique)
Nuoscio, Enzo Di, Pourquoi les humanités sauveront la démocratie, PUF, mars 2023, 267 pages.
Une société ne peut rester libre et démocratique si sa population et ses élites n’ont pas bénéficié d’une formation suffisante aux humanités, et non pas seulement d’une formation scientifique et technique, comme certains le prônent aujourd’hui. En effet, seule une culture humaniste peut faire naître en chacun l’esprit qui fait vivre la démocratie : capacité critique, autonomie de jugement, respect de la personne, conscience de la faillibilité des connaissances humaines, sensibilité au pluralisme fondamental du monde social, préférence pour le dialogue et la confrontation des idées et refus des affrontements physiques. De la démocratie, ce sont là les « gènes invisibles » en l’absence desquels les « démons visibles » de ses ennemis auraient tôt fait de triompher.
Investir dans l’éducation humaniste, dans les humanités, dans les sciences humaines, c’est donc protéger la démocratie contre ses ennemis anciens et nouveaux.
Ordine, Nuccio, Les hommes ne sont pas des îles, Les Belles lettres, 2018, 340 p.
« Nul homme n’est une île, complète en elle-même ; chaque homme est un morceau du continent, une part de l’océan […] La mort de chaque homme me diminue, car je suis impliqué dans l’humanité. N’envoie donc jamais demander pour qui la cloche sonne : elle sonne pour toi. »
John DONNE
Vivre pour les autres est le seul moyen qui puisse nous aider à donner un sens à notre vie. Telle est la conviction de Nuccio Ordine, l’essayiste italien le plus lu dans le monde.
Avec pour frères d’arme les géants de la littérature, Ordine nous invite à lire nos bibliothèques idéales et y voir des bibliothèques de combat et de résistance au monde comme il va.
Picq, Pascal, L’intelligence artificielle et les chimpanzés du futur – pour une anthropologie des intelligences, Ed Odile Jacob, 2019, 320 p.
L’humanité est-elle prête à vivre avec d’autres intelligences ?
Dans ce livre, Pascal Picq analyse la coévolution de l’espèce humaine et de ses proches – les australopithèques d’hier comme les chimpanzés d’aujourd’hui – avec les innovations techniques et culturelles actuelles.
Retraçant les fondements des intelligences animales, humaines et artificielles dans une approche évolutionniste, il nous explique comment elles ont émergé, en quoi elles diffèrent fondamentalement et pourquoi certaines d’entre elles sont plus performantes que d’autres.
Une nouvelle phase de l’évolution se dessine en ce moment, dont il est urgent de prendre la mesure : il nous faut apprendre, et vite, à vivre en bonne intelligence avec toutes ces intelligences.
En attendant les promesses du transhumanisme, une décennie de tous les possibles s’ouvre à nous. Les technologies ne suffiront pas si l’humanité ne s’inscrit pas dans une véritable vision évolutionniste qui associe les intelligences humaines, animales et artificielles.
Rufin, Jean-Cristophe, D’or et de Jungle, Calmann-Lévy, 2024, 400 p.
« Aveuglés par le grand soleil, les rescapés se répandirent dans le parc en s’éloignant le plus possible du palais. Flora dévisageait avec angoisse les personnes qui sortaient. Enfin, elle aperçut Jo, apparemment indemne. »
Sur les rivages de la mer de Chine méridionale, le sultanat de Brunei, petit pays d’or (noir) et de jungle, mène, dans un décor des Mille et Une Nuits, une existence prospère et en apparence paisible. Pourtant, un coup d’État d’un nouveau type va s’y dérouler et le livrer « clefs en main » à une grande entreprise californienne du numérique.
Flora est la petite-fille d’un célèbre mercenaire qui a passé sa vie à renverser des pouvoirs établis. Fascinée par son exemple, elle s’engage dans le milieu dangereux des agences de sécurité privées. Elle se retrouve plongée au cœur de cette opération de subversion sans précédent.
Ce grand roman d’aventures contemporain met en scène à la fois le basculement d’un pays et le parcours d’une femme, habitée par un irrépressible goût de l’action, de l’interdit et du danger.