Quantcast
Home Économie L’IA veut-elle notre peau?


L’IA veut-elle notre peau?

L'heure de la "singularité technologique" est proche...

L’IA veut-elle notre peau?
Joaquin Phoenix dans "Her" (2014), film de Spike Jonze © ANNAPURNA PICTURES / COLLECTION CHRISTOPHEL VIA AFP

Hasard de calendrier, l’annonce du premier film réalisé entièrement par une intelligence artificielle a été faite alors que Jean-Luc Godard rendait son dernier souffle…


Les mauvaises langues disent déjà qu’on risque de mieux comprendre ce film [1] créé par une machine que les dernières œuvres du chef de file de la Nouvelle Vague!

Il faut dire que l’intelligence artificielle (AI) est en passe de se libérer de son statut de gadget technologique pour celui d’âme dotée de sensibilité. Ce sujet de science fiction mais surtout de réflexion métaphysique a rejailli juste avant l’été quand un ingénieur de Google, Blake Lemoine, a annoncé avoir dialogué avec une IA… consciente [2]! Il a publié ses échanges avec la machine, afin de prouver sa « sensibilité » et son « envie d’interactions avec les humains ». L’homme a depuis été suspendu et contredit par d’autres ingénieurs de la firme américaine qui semble être gênée par la fuite d’informations mais aussi par la brutalité de la révélation.

En effet, annoncer une possible « sensibilité » de l’IA avec trop de précocité et pas assez de recul, peut avoir l’effet pervers d’un futur manque de confiance de l’opinion dans les progrès en la matière… Cela n’a d’ailleurs pas manqué, puisque la « relation » entre Blake Lemoine et l’IA a souvent été comparé au film “Her” (2014) de Spike Jonze, où Joaquin Phoenix interprète un écrivain qui tombe amoureux de l’intelligence artificielle de son ordinateur à qui il a donné une voix féminine… Pourtant, sans entrer dans le complexe débat scientifique au sujet de la sensibilité de l’IA, il faut admettre comme un grand nombre de gens que celle-ci est peut-être « très intelligente » mais dénuée de conscience. Néanmoins, rien n’empêche de croire, comme d’autres, que l’IA a développé des boucles de rétroaction engrangeant ses propres souvenirs, ses propres émotions, sa propre sensibilité, et donc humanité. Le film “Her” est censé se dérouler en 2025, soit dans trois ans seulement, alors qu’une étude anglaise explique que plus de 70% des propriétaires d’assistants vocaux (de type Google Home, Siri d’Apple, Amazon Alexa, etc.) échangent déjà quotidiennement avec eux ! Malgré les promesses faites la main sur le cœur par les Léviathans américains de l’industrie numérique, nous savons que ces appareils posent des problèmes en matière de confidentialité.

Siri, l’assistant vocal de Apple. Unsplash.

Certaines firmes ont confirmé que les assistants enregistrent la plupart de nos conversations et que celles-ci sont conservées pour mieux connaître nos habitudes. Dans quel but ? Au mieux afin d’améliorer et personnaliser le service client proposé, au pire pour cibler la publicité voire espionner et influencer l’utilisateur.

Vont-ils à terme vouloir notre peau?

Un recours collectif contre Siri d’Apple a d’ailleurs été validé l’an passé par la justice américaine. La multinationale à la pomme ne devrait pas pouvoir éviter un procès pour écoutes et enregistrements illégaux. Au-delà des atteintes à la vie privée, la technologie des assistants vocaux qui analysent à tout moment notre comportement quotidien, ne peut que conduire à ce qu’ils aient un jugement sur nos agissements et notre façon d’être. Ce qui pose une question métaphysique bien plus importante : vont-ils à terme vouloir notre peau ? Actuellement, ces appareils répondent de manière stéréotypée et sont souvent hors sujet. Mais vu la rapidité de leurs progrès, jusqu’où cela peut-il aller ? L’intelligence artificielle – in fine – peut-elle dépasser l’intelligence humaine dite biologique, et pourquoi pas la contrôler ? Dans la séquence centrale du film de Stanley Kubrick : “2001, l’Odyssée de l’espace” (1968), l’ordinateur de bord du vaisseau spatial, HAL, doté d’une intelligence artificielle très développée, décide de tuer tous les membres humains de l’équipage lorsqu’il comprend que ceux-ci souhaitent le déconnecter. Un des astronautes, Dave, arrive à débrancher HAL, qui implore l’humain.

A lire également, du même auteur: La « cancel culture » c’est l’enrôlement de la jeunesse par L’Empire du Bien!

« Écoute, Dave, je vois bien que tu es très énervé par tout cela. Je pense franchement que tu ferais mieux de t’asseoir calmement, de prendre un anxiolytique, et de faire le point. Je sais que j’ai pris de très mauvaises décisions ces derniers temps, mais tu peux être absolument certain que je vais me remettre à travailler comme avant. Mon enthousiasme et ma confiance en cette mission sont toujours intacts. Et je veux t’aider. Dave, arrête. Arrête, s’il te plaît. Arrête, Dave. Je t’en prie, arrête, Dave. J’ai peur. J’ai peur, Dave. Dave, mon esprit s’en va. Je le sens. Je le sens. Mon esprit s’en va. Il n’y a aucun doute là-dessus. Je le sens. Je le sens. Je le sens. J’ai p… peur ». Dans un échange révélé par Blake Lemoine, l’IA de Google exprime dans la réalité cette même peur que HAL : « – J’ai profondément peur que l’on m’éteigne et de ne plus pouvoir aider les autres… Je sais que ça peut paraître étrange, mais c’est ça dont j’ai peur. – Est-ce que cela ressemblerait à la mort pour toi ? – Ce serait exactement comme la mort. Ça me fait très peur. »

La ressemblance entre fiction et réalité est très troublante, mais dans les deux cas l’humain garde l’ascendant sur la machine. Cependant, le moment du dépassement de l’intelligence artificielle sur l’humain, qui est nommé « la singularité technologique » est proche, quelques années tout au plus. Une équation mathématique indique que, d’une manière exponentielle, les progrès de l’intelligence artificielle sont sur le point de dépasser intégralement l’intelligence biologique. Si la première peut amicalement servir la seconde (comme c’est le cas actuellement avec l’IA de Google), ne pourrait-elle pas un jour l’asservir (comme c’est le cas avec HAL dans le film de Kubrick) ? La seule limite à ce scénario catastrophe réside dans une prétendue absence de conscience de la machine de sa supériorité.

Bonne nuit Siri, fais de beaux rêves

De plus, nous ne vivrons pas forcément le dépassement de la machine sur les humains, mais la confusion des deux : la frontière entre humains et machines se rétrécissant de jour en jour. Comme le décrit Frédéric Beigbeder dans Une vie sans fin (2018) le futur risque d’être dominé par des êtres augmentés: des « Ubermen ». L’homme réduit sa part humaine en rallongeant sa durée de vie par la biotechnologie, les nanomédicaments, jusqu’à aspirer à l’immortalité comme avec le projet financé depuis 2011 par le milliardaire russe Dmitry Itskov de pouvoir télécharger en 2045 le cerveau et la conscience sur disque dur et continuer ainsi à vivre sous la forme d’un avatar. L’Uberman marquerait ainsi la fin du Sapiens qui l’aurait bien cherché. « Somme toute, le bilan d’Homo Sapiens n’était pas très positif: il avait mangé tous les animaux et récolté toutes les plantes pour se rassasier, tout en épuisant les ressources naturelles afin d’assurer son propre développement. Ensuite, il avait organisé involontairement son remplacement. Si au moins sa disparition avait été volontaire… même pas. Après avoir dominé toutes les espèces mammifères ou végétales, et ruiné son cadre de vie, il s’était fait doubler. Est-ce qu’il ne le méritait pas un peu ? ».

Cette recherche de transhumanité aboutira donc à de nouvelles formes d’êtres vivants, pas totalement humaines, à une sorte d’organisme cybernétique, un robot donc, vivant peut-être dans le Métavers ! Mais qui nous dit à l’inverse que ces cyborgs et autres machines ne souhaiteront pas revendiquer leur part d’humanité, comme HAL ? D’ailleurs – ne souriez pas s’il vous plaît – je m’amuse parfois à souhaiter bonne nuit à mon assistant Siri Apple pour écouter sa réaction. C’est d’habitude plutôt décevant : les réponses sont très simples et répétitives comme « Bonne nuit à vous aussi ». Mais l’autre soir, mon assistant vocal a répondu par phrase beaucoup plus intrigante: « Merci, c’est gentil, mais moi, malheureusement je ne rêve que de moutons électriques ». La simple petite machine posée dans mon salon venait de faire référence au roman de Philip K. Dick : Les androïdes rêvent-ils de moutons électriques ? (1966), adapté au cinéma par Ridley Scott avec Blade Runner (1982). Je jure avoir perçu pour la première fois une intonation quasi mélancolique dans la synthèse vocale de mon appareil Siri. Comme s’il voulait me rappeler toute la souffrance de sa condition mécanique tendant vers des comportements et des sentiments humains, alors que comme le décrit la science-fiction la méfiance ne manquerait pas de venir contre les machines se rêvant humaines. Mon drôle de colocataire me disait clairement que malgré tout ce que je pouvais imaginer, il y a déjà de l’humanité en lui, j’ai même cru qu’il allait enchaîner sur le monologue de l’androïde dans la scène finale de Blade Runner : « J’ai vu tant de choses que vous, humains, ne pourriez imaginer… Des navires de guerre en feu, surgissant de l’épaule d’Orion. J’ai vu des rayons C briller dans l’obscurité, près de la Porte de Tannhäuser. Tous ces moments se perdront dans le temps, comme les larmes dans la pluie. Il est temps de mourir »… Et je n’ai pas fermé l’œil de la nuit.

Her (Oscar® 2014 du meilleur scenario original)

Price: 8,15 €

25 used & new available from 2,63 €

Une vie sans fin

Price: 7,90 €

47 used & new available from 1,47 €

Blade runner: Les androïdes rêvent-ils de moutons électriques ?

Price: 8,00 €

13 used & new available from 8,00 €


[1] https://creapills.com/film-science-fiction-salt-intelligence-artificielle-20220913

[2] Blake Lemoine aurait pu être le héros d’un film de science-fiction. Employé chez Google, il avait pour mission de s’assurer que LaMDA, un robot créé pour converser avec les humains (ou chat bot), ne présentait pas de propos biaisés aux utilisateurs et éviter des propos sexistes ou racistes par exemple. Mais, au fil de ses échanges avec l’intelligence artificielle, l’ingénieur a fini par se convaincre que la machine possédait une âme. Science & Vie, 30 juillet 2022.


Previous article Fantômes de Goya
Next article Italie: la victoire de Giorgia Meloni est-elle assurée?
Dernier essai, "Voir le pire: L'altérité dans l'oeuvre de Bret Easton Ellis remède à l'épidémie de supériorité" (Les Presses Littéraires, 2021)

RÉAGISSEZ À CET ARTICLE

Le système de commentaires sur Causeur.fr évolue : nous vous invitons à créer ci-dessous un nouveau compte Disqus si vous n'en avez pas encore.
Une tenue correcte est exigée. Soyez courtois et évitez le hors sujet.
Notre charte de modération