Une sélection de livres rares et exigeants pour changer de vie.

L’Âge de l’IA

Couverture de The Age of AI

Résumé de « L’Âge de l’IA » de Henry Kissinger, Eric Schmidt et Daniel Huttenlocher : si vous voulez réfléchir aux avancées récentes de l’intelligence artificielle et à ses effets sociaux, économiques et géopolitiques, alors ce livre — best seller acclamé, entre autres, par le Wall Street Journal, The Financial Times et The Economist —  est fait pour vous !

Par Henry Kissinger, Eric Schmidt et Daniel Huttenlocher (2022)

Titre original : The Age of AI, 2022.

Chronique et résumé de « L’Âge de l’IA » de Henry Kissinger, Eric Schmidt et Daniel Huttenlocher

Chapitre 1 — Où nous en sommes

Trois événements récents suscitent l’attention des auteurs.

AlphaZero

Tout d’abord, il y a la victoire d’AlphaZero (IA développée par Google) sur Stockfish, un autre programme informatique. Ce qu’il y a d’original, c’est que AlphaZero et Stockfish ne sont pas du tout conçus de la même façon.

  • Stockfish est une IA « ancienne manière », à qui des humains ont transmis leurs connaissances. Sa particularité, par rapport à l’intelligence humaine, est qu’elle calcule beaucoup plus vite.
  • AlphaZero est une IA qui a appris par elle-même, en jouant des parties contre elle-même et en développant ses propres combinaisons gagnantes.

Autrement dit, AlphaZero joue d’une manière nouvelle, exécute des coups auxquels aucun humain ne se serait risqué. Comme le dit Gary Kasparov, cité par les auteurs, « Le jeu d’échecs a été bouleversé dans ses racines mêmes ».

De nouvelles molécules

Le Massachussetts Institute of Technology (MIT) a développé une IA capable de classer et sélectionner des molécules pour leurs propriétés antibiotiques. Ce qui étonne les auteurs, c’est que l’IA a créé des liens et établit des catégories que les scientifiques n’avaient pas forcément faites.

Autrement dit, elle a sélectionné des molécules sur des bases nouvelles, qui demeuraient inaperçues aux chercheurs :

« L’intelligence artificielle que les chercheurs du MIT ont entraînée n’a pas simplement récapitulé les conclusions issues des qualités des molécules déjà observées antérieurement. Elle a plutôt détecté de nouvelles qualités moléculaires — des relations entre des aspects de leur structure et de leur capacité antibiotique —  que les humains n’avaient jamais perçues et encore moins définies. »

(L’Âge de l’IA, Chapitre 1)

ChatGPT-3

Quelques mois plus tard, la société OpenAI a annoncé avoir développé son modèle génératif de troisième génération : GPT-3 (GPT pour « generative pre-trained transformer« ). Aujourd’hui, nous le connaissons tous sous le nom de ChatGPT-3 (et maintenant, avec les avancées réalisées depuis, nous connaissons les modèles 3.5 et 4).

La nouveauté de ce modèle informatique est sa capacité à générer du texte d’apparence humaine à partir d’un simple prompt ou morceau de texte (bout de phrase, question, paragraphe, etc.).

À la différence des deux premières IA mentionnées plus haut, celle-ci n’est pas limitée aux échecs ou à la recherche moléculaire. Il peut répondre aux questions sur un grand nombre de sujets. Mais comme dans les deux cas précédents, une part du fonctionnement de cette IA demeure mystérieuse, car nous ne comprenons pas totalement comment la machine élabore et choisit ses combinaisons/réponses.

Objet du livre

Le livre a pour ambition de penser la « révolution » de l’IA ou, pour le dire plus précisément, de l' »apprentissage machine ». Pour les auteurs, son développement semble « inévitable ». Pour autant, nous pouvons en déterminer le sens, la destination.

D’où l’importance de se poser des questions, telles que :

  • Comment l’avenir de l’IA affectera la perception, la cognition et les interactions humaines ?
  • Quel sera l’impact de l’IA sur notre culture, notre conception de l’humanité, et, finalement, de l’histoire ?

L’humanité et le changement technique

Henri Kissinger, Eric Schmidt et Daniel Huttenlocher montrent que l’homme a, de tout temps, été confronté au changement technique. La voiture a remplacé le cheval ; le pistolet a remplacé la lance, etc. Il y a une foule d’exemples !

Cela dit, l’IA crée un changement plus important que les autres. Pourquoi ? Car elle s’applique à tous les secteurs de la vie humaine et que nous en contrôlons plus difficilement les ressorts. Par ailleurs, il s’agit d’une technologie qui se situe au niveau du « mental » et qui pourrait donc bien modifier nos façons de percevoir, de penser et d’agir dans le monde.

Désormais, nous avons à imaginer un monde où des découvertes et des décisions de première importance sont prises par des machines ou des collaborations machine-humain. Cela transforme la manière dont nous considérons nos propres pouvoirs et ceux des machines.

Chapitre 2 — Comment nous en sommes arrivés là : technologie et pensée humaine

l'âge de l'iA : comment nous en sommes arrivés là ?

Dans ce chapitre, les auteurs dressent un portrait de l’humanité au fil des âges. Ils passent en revue les différentes époques de l’humanité :

  • Antiquité ;
  • Moyen-Âge ;
  • Renaissance et modernité ;
  • Lumières et époque contemporaine.

Selon eux, l’intelligence artificielle a le pouvoir de nous faire passer à un nouvel âge de l’humanité. Autrement dit, nous serions sur le point de transformer en profondeur nos façons de nous rapporter au monde, aux autres et à nous-mêmes.

Pour étudier plus en détail ce point, Henri Kissinger, Eric Schmidt et Daniel Huttenlocher n’hésitent pas à revoir les classiques de la philosophie. Ils discutent les thèses de grands auteurs tels que :

  • Platon ;
  • Descartes ;
  • Leibniz et Spinoza ;
  • Kant ;
  • Berkeley ;
  • Diderot ;
  • Mais aussi des scientifiques Niels Bohr et Werner Heisenberg (à l’origine de la physique quantique).

Ce chapitre très érudit nous aide à mieux cerner les transformations de nos manières de penser au fil du temps. Et, notamment, cela nous permet de mieux comprendre comment nous nous sommes rapportés à la technique — en la considérant tantôt comme un simple outil, tantôt comme une menace ou comme un espoir.

Finalement, le chapitre se termine par une réflexion sur l’information et notre nouvelle impatience. Sommes-nous encore capables de transformer l’information en connaissance, puis en sagesse ? Avec l’abondance des contenus sur le web et la connexion permanente, nous pouvons parfois en douter.

Dans ce cas, les logiciels dotés d’IA vont-ils venir prendre la place de nos capacités mentales les plus précieuses (imagination, réflexion, etc.) ? Peut-être. En tout cas :

« En étant appliquée à de plus en plus d’éléments dans nos vies, l’IA est en train d’altérer le rôle que nos esprits ont traditionnellement joué dans la mise en forme, l’ordonnancement et l’évaluation de nos choix et de nos actions. »

(L’Âge de l’IA, Chapitre 2)
l'âge de l'iA : Personnage renversé : la révolution de l'IA

Chapitre 3 — De Turing à aujourd’hui — et au-delà

Henri Kissinger, Eric Schmidt et Daniel Huttenlocher continuent leur exploration en se rapprochant de plus en plus de l’époque présente. Ils étudient dans ce chapitre les débuts de l’informatique et de l’IA.

En voici trois étapes importantes :

  • 1943 : création du premier ordinateur moderne.
  • 1950 : article d’Alan Turing sur l’IA et invention du « test de Turing ».
  • 1956 : définition de l’IA par John McCarthy.

John McCarthy définit l’intelligence artificielle comme des « machines qui réalisent des tâches caractéristiques de l’intelligence humaine ». C’est aussi ce que cherche à valider le test de Turing. À cette époque, ces auteurs focalisent leur attention sur les performances réalisées par les machines… Et c’est par ce biais qu’ils définissent l’intelligence.

Pendant longtemps, les machines n’ont pas vraiment réussi ces tests. Mais depuis peu, elles y parviennent plutôt bien. C’est pourquoi il importe de creuser un peu ce qu’il s’est produit au cours des 70 dernières années !

L’évolution de l’IA

Pour évoquer les problèmes qui se sont posés aux chercheurs, les auteurs choisissent de traiter de la question de la reconnaissance visuelle. En tant que jeunes enfants, nous pouvons faire cela sans problème. Mais pour les IA, c’est beaucoup plus compliqué !

En fait, il était tellement difficile de parvenir à reproduire mécaniquement et numériquement des tâches aussi simples que, pendant les années 1980 et 1990, il y eut peu de progrès. Les historiens de l’IA parlent d’« hiver de l’IA » pour caractériser cette période.

C’est alors qu’une nouvelle façon de considérer le problème permit de faire un bon en avant. Plutôt que d’essayer de mettre des informations à tout prix dans la « tête » des machines, il était préférable de les laisser apprendre toutes seules.

Comment ? En créant ce qui est aujourd’hui à la base de l’apprentissage machine : les réseaux de neurones.

« Pour identifier une image de chat, ils réalisèrent qu’une machine doit « apprendre » une variété de représentations visuelles de chats en observant l’animal dans des contextes variés. Pour rendre possible l’apprentissage des machines, ce qui importait était le chevauchement entre les diverses représentations d’une chose, et non son modèle idéal (…). »

(L’Âge de l’IA, Chapitre 3)

L’IA moderne

Les réseaux de neurones ont fait avancer les recherches en IA. Ils permettent aux machines de capturer des relations complexes et profondes. Pour ce faire, il faut entraîner les IA avec un grand nombre de données et les laisser créer leurs propres catégories.

Oui : le big data est ici essentiel. En fait, la précision et la pertinence de l’apprentissage dépendent de la quantité et de la qualité des données qui sont fournies à la machine.

Les lecteurs de cet article ont également lu :  Comment parler English fluently et lire des livres compliqués en Anglais (pour les Nuls)

L’un des problèmes posés par ce type de technologie est son coût en termes de ressources. Il faut non seulement beaucoup de données, mais aussi une grande puissance de calcul.

Différentes tâches, différents styles d’apprentissage

Pour les machines, chaque tâche (reconnaître des images, générer du texte, etc.) requiert de nouvelles façons d’apprendre. Henri Kissinger, Eric Schmidt et Daniel Huttenlocher choisissent de présenter trois formes d’apprentissage machine particulièrement importantes.

Les spécialistes parlent d’apprentissage :

  • Supervisé ;
  • Non supervisé (ou autosupervisé) ;
  • Par renforcement.

Dans le premier cas, les machines sont guidées par les chercheurs. Ceux-ci leur fournissent des données d’entrée et de sortie « annotées » (déjà précatégorisées, en quelque sorte) et entraînent les machines à effectuer les bonnes associations.

Dans le cas de l’apprentissage non supervisé, les données sont fournies sans être annotées ; ce sont des données « brutes ». Seules les données d’entrée sont fournies.

Enfin, l’apprentissage par renforcement est celui qui donne le rôle le plus « actif » à la machine. Ici, l’IA est un « agent » qui doit interagir avec un environnement contrôlé (artificiel). La machine va apprendre en ajustant progressivement ses réponses pour qu’elles deviennent correctes. Le feedback est ici essentiel.

Pour plus d’informations sur l’histoire et les types d’IA, consultez la chronique de L’IA pour les nuls !

La puissance de l’apprentissage machine

Les auteurs sont particulièrement enthousiastes à l’idée du développement de l’IA. Ils explorent rapidement ses possibilités dans trois secteurs :

  • Agriculture ;
  • Médecine ;
  • Finance.

Ils approfondissent davantage son rôle dans la communication et la traduction. Vous souvenez-vous des anciens traducteurs automatiques ? Ils fonctionnaient assez mal. Mais depuis quelques années, ils ont fait des progrès fulgurants, grâce à l’apprentissage machine et aux réseaux de neurones.

BERT, de Google, est le plus utilisé de ces réseaux pour la traduction et la génération de textes. Les spécialistes appellent « transformeur » (ou « transformer« ) les réseaux de ce type (bidirectionnels).

Une autre technique très utilisée (en complément de la première) se nomme « parallel corpora« . C’est elle qui a permis à Google Translate d’améliorer ses résultats de 60 % !

Mais créer du texte est une opération qui va encore un pas plus loin.

« Pour illustrer ; un réseau de neurones standard peut identifier une image d’un visage humain, mais un réseau de neurones génératif peut créer une image de visage humain qui semble réelle. »

(L’Âge de l’IA, Chapitre 3)

L’une des techniques supplémentaires développées pour arriver à cette fin est le GAN (pour « generative adversial network »). En gros, c’est comme si vous utilisiez les deux parties de votre cerveau : l’une pour brainstormer et l’autre pour décider quelle est l’option la plus réaliste.

Les limites de l’IA et sa gestion

Les IA contemporaines sont capables de générer des connaissances étonnantes auxquelles les humains n’auraient pas pensé. Ce fut le cas pour la découverte de nouvelles molécules ou pour le jeu d’échecs.

Toutefois, ces machines ne peuvent pas expliquer ou justifier ces résultats. Pourquoi ? Car elles ne réfléchissent pas. « L’IA ne réfléchit pas ; c’est aux humains de décider de la signification de ses actions ». Ceci implique que c’est aux humains de gérer les IA et leurs résultats.

Une autre limite de l’IA est qu’elle fait des erreurs — et même parfois des erreurs qu’un humain considérerait comme rudimentaires. À d’autres moments, ces erreurs sont des « biais » qui sont induits par ses créateurs.

Par ailleurs, l’IA n’est pas consciente d’elle-même. « Elle ne sait pas qu’elle ne sait pas », disent les auteurs.

Où est l’IA ?

l'âge de l'iA : où est ia

Les recherches en IA ont explosé depuis quelques années. Mais elles se situent principalement en Chine et aux États-Unis. C’est là où les investissements sont les plus importants et où les résultats sont les plus prometteurs.

Comment ce champ de recherche va-t-il évoluer ? Difficile à dire. Nous ne sommes pas, comme dans le champ des microprocesseurs, face à une évolution de type « loi de Moore ». Mais ce n’est pas impossible non plus que le nombre de neurones par réseau augmente de façon très rapide.

Cela dit, cette augmentation quantitative ne prédit en rien le succès de l’intelligence artificielle en termes qualitatifs : un cerveau peut avoir plus de connexions neuronales et ne pas être plus intelligent pour autant.

Le rêve de l’intelligence artificielle générale

L’intelligence générale artificielle (IGA) consiste en une intelligence artificielle capable de trouver des réponses sur n’importe quel sujet et pouvant exercer toutes les tâches mentales d’un humain. Certains chercheurs et philosophes souhaitent voir advenir ce type nouveau d’IA. Toutefois, son développement est très cher et peu peuvent s’y risquer.

D’autre part, les auteurs se montrent prudents, car l’IGA, tout comme l’IA, dépend de ses concepteurs. Et ici encore, des biais peuvent très bien survenir.

Enfin, Henri Kissinger, Eric Schmidt et Daniel Huttenlocher diminuent la différence entre les deux types d’IA et se focalisent sur le fait que, peu à peu, les IA interviendront dans tous les domaines de notre vie. Nous collaborerons avec elles de plus en plus souvent.

Les auteurs prennent plusieurs exemples :

  • La conduite de voitures autonomes ;
  • Le pilotage des avions ;
  • La découverte de nouveaux traitements médicaux ;
  • Le codage de programmes informatiques ;
  • La création de publicités ou de textes dans le copywriting.
l'âge de l'iA : Quel futur pour l'IA et les institutions ?

Chapitre 4 — Les plateformes de réseau global

« Les réseaux sociaux, les recherches sur le web, la vidéo en streaming, la navigation, le covoiturage, et bien d’autres services en ligne ne pourraient pas exister tels que nous les connaissons sans l’utilisation étendue — et chaque jour grandissante — de l’IA. »

(L’Âge de l’IA, Chapitre 4)

Le problème principal de l’IA, pour les auteurs, n’est pas le risque de fabriquer un jour des robots humanoïdes aussi intelligents, voire supérieurs à nous.

L’enjeu éthique se situe plutôt dans le fait que des IA de toutes sortes nous entourent déjà et fonctionnent autrement que les humains. En fait, elles fonctionnent d’une façon que nous comprenons mal ou — pour la plupart d’entre nous — que nous ne comprenons pas du tout.

Pourtant, ces technologies modifient nos vies individuelles, sociales et politiques. Sans grande révolution apparente, jour après jour, elles modifient « le tissu de base de l’activité humaine ». Et cela ne serait pas possible sans ce que Henri Kissinger, Eric Schmidt et Daniel Huttenlocher nomment les « plateformes de réseau ».

Comprendre les plateformes de réseau

Les plateformes de réseau sont « des services numériques qui génèrent de la valeur par ajout d’autres utilisateurs en très grand nombre, souvent à une échelle transnationale et globale ».

La particularité économique de ces plateformes est que la présence accrue d’utilisateurs ne diminue pas leur valeur pour les utilisateurs déjà existants. Au contraire ! L’attractivité de ces plateformes grandit à mesure qu’il y a plus d’utilisateurs qui y entrent. Les auteurs nomment ce phénomène un « effet positif de réseau » (positive network effect).

Or, les IA jouent un grand rôle dans ces plateformes — et, avec elles, le big data, c’est-à-dire la collection de données à grande échelle.

Les auteurs donnent deux exemples de la puissance (et de l’omniprésence) de l’IA dans ces plateformes :

  1. Facebook utilise entre autres l’IA pour réviser ses contenus ;
  2. Google a introduit l’IA dans son algorithme de recherche.

L’intelligence non humaine s’est infiltrée au cœur de ces plateformes. Et celles-ci croissent de façon telle (grâce à l’effet positif de réseau) qu’elles mettent en péril les équilibres sociaux, politiques et économiques traditionnels.

Communauté, vie quotidienne et plateformes de réseau

Premièrement, nos relations quotidiennes à nos communautés (famille, amis, etc.) ont changé. Nous avons appris peu à peu à nous laisser guider par les recommandations des algorithmes pour des actions de la vie de tous les jours.

De nouvelles relations profondes nous unissent aux IA. D’un côté, nous les adoptons. De l’autre, elles utilisent des données très personnelles pour nous répondre. Et ces réponses, nous n’en comprenons pas l’origine, car l’IA « raisonne » à sa manière. Nous devons donc — et nous le faisons souvent de bonne grâce — nous confier en son pouvoir.

Pour donner un exemple de ces nouvelles relations avec nos machines, les auteurs prennent l’exemple de la navigation par GPS, qui inclut également des algorithmes pour déterminer la meilleure route à suivre.

Si ces enjeux vous passionnent, sachez que c’est une question qu’explore aussi Y. N. Harari dans Homo Deus.

Firmes et nations

Les GAFAM ont un poids politique important. En fait, par certains aspects, certaines plateformes de réseau accaparent certaines prérogatives de l’État. Elles ont aussi une capacité à influencer sur les choix politiques des citoyens en drainant plus ou moins correctement le flux des informations.

Des questions doivent être soulevées, telles que :

  • L’État doit-il intervenir davantage dans la régulation des plateformes ?
  • Les plateformes de réseau dopées à l’IA nous aident-elles à dépasser les différences culturelles ou nous enferment-elles dans nos particularismes nationaux ?

Plateformes de réseau et désinformation

La désinformation est un problème sérieux que les gouvernements du monde entier cherchent à endiguer. Mais ne soyons pas naïfs : c’est aussi une arme qu’ils utilisent les uns contre les autres.

Les lecteurs de cet article ont également lu :  Tribus - Seth Godin

Henri Kissinger, Eirch Schmidt et Daniel Huttenlocher explorent la question à partir de deux exemples :

  1. ChatGPT et ce type de modèles conversationnels et leur capacité à entrer dans des conversations pour y instiller le doute, la haine et la violence.
  2. L’utilisation de TikTok et les débats autour de sa régulation au niveau national et international dans les pays occidentaux.

Plateformes de réseau et géopolitique

Les auteurs passent ici en revue les enjeux et les intérêts liés aux acteurs internationaux suivants :

  • États-Unis ;
  • Chine ;
  • Asie de l’Est et du Sud-Est ;
  • Europe ;
  • Russie.

Plateformes de réseau basées sur l’IA et notre futur humain

Voici la conclusion de ce chapitre dense, dont certains éléments ont ici été repris, par les auteurs :

« Les opérateurs des plateformes de réseau devront faire face à des choix qui vont au-delà du simple service de clients et de la réalisation d’objectifs commerciaux. Jusqu’à maintenant, ils n’ont pas été obligés de définir une éthique (claire) au-delà du besoin organique de servir l’intérêt de leurs utilisateurs et de leurs actionnaires. Mais dans la mesure où ils ont assumé des rôles plus larges et plus influents, dont ceux d’influencer les activités des gouvernements, ils doivent prendre en main des défis élargis. »

(L’Âge de l’IA, Chapitre 4)

Pour résumer, la position des auteurs est que les firmes gestionnaires des plateformes de réseau (typiquement, les GAFAM, mais aussi d’autres) :

  1. Ont investi des rôles auparavant délégués à d’autres institutions, comme l’État ;
  2. Que ces transformations ne sont pas vraiment prêtes à disparaître ;
  3. Qu’il faut donc qu’il y ait une réflexion — en interne et avec l’extérieur — sur leurs objectifs et sur leur façon d’agir.

Chapitre 5 — Sécurité et ordre mondial

l'âge de l'iA : sécurité et ia

La sécurité est l’objectif premier de toute société. Une société qui ne se protège pas finit par cesser d’exister en tant qu’entité autonome. La technologie, par ailleurs, a toujours aidé les nations à se défendre — et à attaquer.

Les auteurs commencent par rappeler les grandes époques et les grandes réflexions autour des relations entre guerre et technologie. Ils évoquent notamment l’importance de la Première Guerre mondiale (1914-1918) et les réflexions de théoriciens majeurs comme Karl Clausewitz.

L’âge de la cyberguerre et l’IA

Les armes issues de l’intelligence artificielle pourraient rendre la sécurité internationale plus difficile à maintenir. La situation pourrait devenir plus imprévisible.

Notons que les armes assistées par l’IA sont déjà parmi nous. Les pilotes d’avion assistés par IA sont déjà une réalité. Le ciblage de missiles, les drones, etc., tout cela incorpore déjà de l’IA à différents degrés.

L’IA est devenu un enjeu qu’aucun état-major ne peut plus ignorer. Les inventions qui ont déjà été inventées resteront et d’autres viendront. Simplement car elles assurent un avantage sur les autres. Il devient donc de plus en plus urgent de comprendre ce nouvel équilibre des forces et de le gérer au mieux.

Les armes nucléaires et la dissuasion

Nous pouvons nous appuyer sur l’histoire du nucléaire militaire pour penser la régulation de l’IA dans ce même domaine.

La politique de dissuasion était-elle une bonne solution ? Elle avait pour ambition de dire à l’ennemi : « n’agis pas contre moi, car tu risques le pire ». Ici, la quête de sécurité s’est transformée en recherche de l’arme la plus puissante au monde.

Résultat : un équilibre très instable et dangereux ; une anxiété grandissante parmi les populations et un contrôle de façade.

Le contrôle des armes

La politique de non-prolifération se mit en place plus ou moins en parallèle à celle de la dissuasion. Ces négociations passèrent par la voie diplomatique des traités. Elles aboutirent à un contrôle plus solide.

Comme nous allons le voir plus en détail maintenant :

« L’émergence des nouvelles technologies a aggravé les dilemmes des armes nucléaires. »

(L’Âge de l’IA, Chapitre 5)

Le conflit à l’âge numérique

L’équilibre entre rivaux est essentiel. Lorsqu’un pays renforce sa puissance, l’autre voudra faire de même. Si les acteurs de ce jeu ne savent pas quelles sont les forces de l’autre, les mauvais calculs se multiplient et la tentation est grande de mal agir.

Aujourd’hui, ces calculs guerriers sont entrés dans une phase d’abstraction encore jamais atteinte. Pourquoi ?

Car, désormais, la guerre n’a plus seulement lieu dans le monde physique, mais aussi — simultanément — dans le monde numérique. Par ailleurs, les armes numériques assistées par l’IA sont plus « obscures », techniquement parlant, que leurs homologues nucléaires.

En clair, les attaques sont moins facilement « compréhensibles » et il est plus difficile d’y répondre. Ces caractéristiques ont favorisé une tendance à l’attaque de la part de certains États.

L’IA et la perturbation de la sécurité

Cette section amplifie la précédente. Une réflexion est particulièrement troublante :

« Si les décideurs politiques concluent que l’assistance de l’IA (…) est nécessaire pour comprendre les capacités et les intentions de l’adversaire (…), ainsi que pour savoir que lui répondre de façon appropriée, la délégation de décisions critiques semble inévitable. »

(L’Âge de l’IA, Chapitre 5)

La question qui se pose est la suivante : comment éviter que la guerre ne devienne une affaire de machines et qu’elle perde toute raison humaine ?

Gérer l’IA

Henri Kisssinger, Eric Schmidt et Daniel Huttenlocher rappellent ici, à nouveau, l’importance d’établir des traités qui établissent clairement des limites aux recours de l’IA militaire. Les États les plus puissants doivent prendre conscience de leurs responsabilités en s’inspirant de ce qu’il s’est passé avec les armes nucléaires.

Impact sur les technologies civiles et militaires

Selon les auteurs, il existe trois qualités qui permettent habituellement de distinguer l’usage militaire de l’usage civil des technologies :

  1. La différenciation technique (modification des techniques) ;
  2. La concentration du contrôle (le gouvernement peut les contrôler plus facilement) ;
  3. L’amplitude de l’effet (leur effet destructif est annulé ou beaucoup moins important).

L’IA « casse » cette façon de voir les choses car elle est intrinsèquement de double usage. La technologie ne change pas entre les deux usages (c’est du code), elle est facilement diffusable (d’ordinateur à ordinateur) et elle peut avoir des effets importants même dans son usage « civil ».

Une vieille conquête dans un nouveau monde

Les auteurs proposent 6 voies d’action pour contrôler les arsenaux d’armes (combinant des armes traditionnelles, nucléaires, numériques et assistées par IA). En voici le résumé :

  1. Les dirigeants doivent être prêts à se parler de façon régulière ;
  2. Les risques liés à l’armement nucléaire ne doivent pas être oubliés ;
  3. Chaque gouvernement disposant de pouvoirs militaires en matière numérique et IA doit établir clairement sa doctrine et ses limites ;
  4. Il doit aussi organiser un processus strict de révision interne et la mise en place de garde-fous ;
  5. Des procédures de prise de décision en situation de haut risque doivent être créées et respectées ;
  6. Des lignes rouges doivent être établies collectivement et une logique de non-prolifération doit voir le jour.
l'âge de l'iA : IA et avenir

Chapitre 6 — IA et identité humaine

« Dans une ère où les machines rempliront de plus en plus les tâches que seuls les humains étaient habitués à faire, que constituera donc notre identité comme êtres humains ? »

(L’Âge de l’IA, Chapitre 6)

Quelles seront les qualités humaines qui seront célébrées à l’âge de l’IA ? En fait, pour les auteurs, c’est la notion même de raison qui va s’en trouver bouleversée. Et avec elle se trouve modifiée notre représentation d’autres qualités, telles que notre libre arbitre.

Nous avons deux manières de nous comporter face à ces évolutions :

  1. Ou nous réagissons instinctivement ;
  2. Ou nous prenons le temps de répondre de façon consciente.

Transformer l’expérience humaine

Pour la plupart des gens, l’IA aura des avantages dans la vie de tous les jours. Les auteurs prennent de nombreux exemples, de l’entrepreneur qui l’utilise pour créer de nouveaux produits à la personne qui l’utilise pour son organisation quotidienne.

Le fossé se creuse toutefois entre ceux qui comprennent le fonctionnement et les enjeux de l’IA et ceux qui l’utilisent sans pour autant en cerner les tenants et les aboutissants. Ces derniers pourraient avoir le sentiment de perdre le contrôle de leur existence et se sentir perdus face à la montée en puissance de l’IA.

Des emplois vont disparaître et d’autres être créés. Dans le lot de ceux qui perdront leur emploi, il y en aura certainement qui développeront une aversion persistante pour la technologie. Le grand enjeu, pour tous ceux qui resteront sur le carreau, sera de développer de nouvelles compétences.

La prise de décision

Imaginez-vous un monde social complètement gouverné par les IA, dans lequel les décisions seraient prises sur des bases que nous ne comprendrions pas, car elles seraient enfouies dans les lignes de code des machines. Ce serait une situation terrible pour nous les humains, qui avons besoin de raisons pour agir et obéir.

En ayant à l’esprit cette version assez cauchemardesque, certaines personnes pourraient rejeter complètement les IA pour ne pas se sentir coupées de leur propre sens moral et de leurs raisonnements. Ils voudraient garder le pouvoir de conférer du sens — du sens compréhensible — aux choses et aux actions.

Pour Henri Kissinger, Eric Schmidt et Daniel Huttenlocher, cette solution serait toutefois intenable. Il est impossible de s’extraire complètement du monde et de refuser toute technologie.

Les lecteurs de cet article ont également lu :  [Vidéo] Comment démarrer un mouvement

La logique de la découverte scientifique

Les scientifiques apprennent à utiliser l’IA. Auparavant, ils comptaient surtout sur leurs théories et sur les expériences « faites de main d’homme » pour réaliser des progrès. Mais l’IA vient changer la donne.

Désormais, celle-ci apporte un angle nouveau à la recherche, notamment en agrégeant de grands échantillons de données sans avoir besoin de théorie sous-jacente.

Les auteurs donnent l’exemple d’AlphaFold, une IA (de Google) qui a aidé les chercheurs à résoudre le problème appelé de « pliage des protéines ».

L’éducation et l’apprentissage tout au long de la vie

Les auteurs parlent d’une différence à venir entre « IA natives » et les autres. Dans un futur plus ou moins proche, les enfants qui auront grandi depuis leur plus jeune âge entourés par les IA n’auront pas le même rapport que leurs aïeux avec cette technologie.

Les auteurs prévoient même la venue d’assistants numériques « tout en un » capables de jouer, d’éduquer et de guider les plus jeunes.

Ils insistent également sur le paradoxe actuel concernant l’information : de plus en plus disponibles, nous avons de moins en moins la capacité de nous attarder sur elle en profondeur.

Les nouveaux intermédiaires de l’information

L’IA sert aujourd’hui d’intermédiaire dans la création, la sélection, la distribution et la consommation des informations. Jusqu’à maintenant, les réseaux sociaux cherchent essentiellement à nous présenter les informations que nous aimons le plus, afin d’accroître notre présence sur leur plateforme.

Nous pouvons repenser les modes de filtrage de l’information. Certains préféreront sans doute en rester à un mode purement humain. Mais d’autres voies sont envisageables : permettre aux algorithmes de nous surprendre et de corriger nos biais de confirmation, par exemple.

Un nouveau futur humain

Les forces de la foi et de la raison, qui conduisent les hommes habituellement, vont se trouver mises en concurrence avec la puissance de l’IA. L’une et l’autre seront toujours des guides pour l’action humaine, mais leur place sera redéfinie par le développement et les progrès de l’IA.

Dans beaucoup de domaines, l’IA et les humains apprendront à collaborer. Mais des conflits entre décisions humaines et décisions prises par l’IA peuvent survenir. Il sera important de bien organiser les rôles et les responsabilités de chacun.

Les sociétés humaines devront aussi décider ce qui est permis et ce qui ne l’est pas. Les valeurs humaines jouent ici un grand rôle. Quelle société souhaitons-nous ? Dans chaque cas, nous devrons trancher.

Les perceptions de la réalité et l’humanité

Pour les auteurs, il en va d’un véritable et profond changement d’ère. Il s’agit d’une révolution dans nos manières de penser et d’agir.

« Le monde médiéval avait son imago dei, ses modèles féodaux et agraires, son respect pour la monarchie et son orientation vers les hauteurs vertigineuses des cathédrales. L’âge de la raison avait son cogito ergo sum et sa quête pour de nouveaux horizons — et, avec elle, de nouvelles hypothèses sur les capacités de l’individu et de la société. L’ère de l’IA doit encore définir ses principes d’organisation, ses concepts moraux, ainsi que ses aspirations et son sens des limites. »

(L’Âge de l’IA, Chapitre 6)

Pour Henri Kissinger, Eric Schmidt et Daniel Huttenlocher, cette révolution est déjà en marche et c’est aujourd’hui qu’il faut commencer à penser sérieusement comment nous allons y répondre.

Chapitre 7 — IA et avenir

l'âge de l'iA : ia avenir

Les auteurs comparent la révolution de l’IA à la révolution enclenchée par l’invention de l’imprimerie au XVe siècle. L’impression de livre changea complètement le rapport à la connaissance, d’abord, puis aux relations.

De fil en aiguille, c’est toute la société qui se transforma sous l’impulsion de cette invention. Elle ouvrit de nouveaux chemins pour le développement des sciences, de la politique et de la religion, notamment.

« Aujourd’hui, une nouvelle époque fait signe. En son sein, à nouveau, la technologie transformera la connaissance, la découverte, la communication et la pensée individuelle. (…) La révolution de l’IA accomplira quelque chose de similaire : accès à de nouvelles informations, production. de nouvelles avancées scientifiques et économiques — et ce faisant, elle transformera le monde. »

(L’Âge de l’IA, Chapitre 7)

Nous voilà prévenus par les auteurs : la révolution de l’IA est en marche. Selon eux, cette (r)évolution est implacable. Henri Kissinger, Eric Schmidt et Daniel Huttenlocher se montrent raisonnablement optimistes.

Bien sûr, disent-ils, des dangers ne manqueront pas de se présenter, des problèmes surviendront et beaucoup de personnes et d’institutions seront désorientées ; mais dans l’ensemble, la somme d’avantages sera supérieure et le progrès gagnera.

Pour les auteurs, le point clé est de bien comprendre que l’IA nous ouvre la voie vers une nouvelle compréhension de la réalité. L’IA n’agit pas comme les humains. Elle propose de nouvelles perspectives, de nouvelles formes de l’expérience.

Il se peut aussi que l’IA fasse tourner les têtes, selon les auteurs. Plus ses recommandations seront pertinentes et moins nous les comprendrons (le commun des mortels, du moins). Mais au moins nous les comprendrons, au plus nous serons tentés de les considérer comme des « oracles » divins.

Refuser l’usage de l’IA restera un choix possible, mais il deviendra potentiellement de plus en plus coûteux, tant de nombreux services y seront connectés.

L’intelligence artificielle générale

Les auteurs reviennent ici sur les propos tenus au chapitre 3. L’intelligence artificielle générale est encore en projet : son ambition est de pouvoir réaliser toutes les tâches qu’un humain réalise, aussi bien ou mieux que lui.

Mais comment penser un monde où des machines nous égaleraient ou nous surpasseraient potentiellement en tout ? L’éthique de l’IA est un domaine appelé à prendre de plus en plus d’ampleur dans les années à venir, notamment pour penser ces questions et proposer des cadres pour l’action.

IA, information libre et pensée indépendante

Les notions de « nuisible » et de « désinformation » ne doivent pas être laissées aux plateformes privées. Les gouvernements peuvent et devront trouver leurs propres limites et les imposer aux algorithmes.

Chaque société le fera en fonction de ses valeurs, même si cela risque de générer des conflits avec les plateformes de réseau, en grande majorité transnationales.

IA et ordre international

Finalement, Henry Kissinger, Eric Schmidt et Daniel Huttenlocher reviennent sur leurs propos du chapitre 5. Pour gérer les aspects les plus destructifs de l’IA, la diplomatie aura un rôle fort à jouer. Face à l’incertitude et au risque, les États devront s’entendre au moins sur certains principes clés pour éviter l’escalade et l’affrontement.

Mais le dernier mot des auteurs n’est pas pour autant pessimiste. Au contraire, ils nous engagent à embrasser dès maintenant la question de notre coexistence avec l’IA :

« L’intelligence humaine et l’intelligence artificielle sont en train de se rencontrer, et vont s’appliquer à des objectifs nationaux, continentaux et même mondiaux. Comprendre cette transition et développer une éthique pour cela demandera de l’engagement et des contributions de nombreux éléments de la société : scientifiques, stratégistes, hommes d’État et philosophes, hommes d’église et grands patrons. Cet engagement doit être réalisé au sein des nations et entre elles. Maintenant est venu le temps de définir à la fois notre partenariat avec l’intelligence artificielle et la réalité qui en résultera. »

(L’Âge de l’IA, Chapitre 7)
l'âge de l'iA : Nouvelle réalité et intelligence artificielle

Conclusion sur « L’Âge de l’IA » de Henry Kissinger, Eric Schmidt et Daniel Huttenlocher :

Ce qu’il faut retenir de « L’Âge de l’IA » de Henry Kissinger, Eric Schmidt et Daniel Huttenlocher :

Voilà un livre qui donne un peu peur, mais aussi diablement envie de penser ! Si vous êtes curieux, vous aurez vraiment envie d’en savoir plus sur tous les enjeux qui sont développés dans ce livre. D’ailleurs, c’est sa grande force : dresser un tableau général des transformations en cours et de leur impact potentiel.

Le point clé à retenir : pour Henry Kissinger, Eric Schmidt et Daniel Huttenlocher, l’IA est un phénomène civilisationnel qui va transformer de nombreux pans de notre expérience, au point de nous faire basculer d’une « ère » (celle de la raison, dans laquelle nous sommes toujours) à l’autre — celle de l’IA.

Leur titre est donc bien choisi !

Points forts :

  • Des chapitres courts, mais très instructifs et bien construits ;
  • Une véritable expertise sur le sujet avec ces 3 auteurs de renommée internationale ;
  • Un livre qui donne véritablement de la matière à réflexion.

Point faible : 

  • Les auteurs ne remettent pas une seule seconde en doute le présupposé selon lequel l’IA va se développer et devenir plus puissante. C’est leur point de départ, et ils ne le lâchent pas. Pourtant, nous pouvons nous demander si d’autres avenirs ne sont pas possibles…

Ma note :

★★★★★

Avez-vous lu le livre de Henry Kissinger, Eric Schmidt et Daniel Huttenlocher « L’Âge de l’IA » ? Combien le notez-vous ?

Médiocre - Aucun intérêtPassable - Un ou deux passages intéressantsMoyen - Quelques bonnes idéesBon - A changé ma vie sur un aspect bien précis !Très bon - A complètement changé ma vie ! (Pas encore de Note)

Loading...

Visitez Amazon afin de lire plus de commentaires sur le livre de Henry Kissinger, Eric Schmidt et Daniel Huttenlocher « L’Âge de l’IA ».

 Visitez Amazon afin d’acheter le livre de Henry Kissinger, Eric Schmidt et Daniel Huttenlocher « L’Âge de l’IA ».

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Partagez
WhatsApp
Partagez
Tweetez
Enregistrer