Intelligence artificielle, ou les machines peuvent-elles penser ?

L’intelligence artificielle (IA) est perçue à la fois comme une aubaine et comme une menace. Elle utilise nos données personnelles pour influencer notre vie à notre insu. Les réseaux sociaux y recourent pour attirer notre attention sur des produits susceptibles de nous intéresser, et nos tablettes et ordinateurs pour prédire ce que nous souhaitons saisir (un point positif). Elle facilite le ciblage des électeurs afin d’influencer les élections (un point négatif, en particulier si votre camp perd).

Peut-être convient-il d’apprécier la véracité, ou non, d’allégations telles que l’ingérence électorale à la lumière des intérêts de ceux qui les formulent. Les responsables politiques sont toujours prompts à accuser un adversaire d’employer des méthodes peu scrupuleuses, notamment le recours à l’IA pour propager de fausses informations ou influencer d’autres manières les électeurs ciblés. Un esprit cynique pourrait soutenir que la classe politique souhaite conserver la maîtrise de la propagande en manipulant les médias traditionnels qu’elle comprend, et qu’elle craint que l’IA n’introduise des pratiques occultes à son détriment. Quelles que soient les influences à l’origine du débat, il ne fait aucun doute que l’IA nous propulse dans un monde nouveau, et nous devons apprendre à l’adopter, que cela nous plaise ou non.

Pour en débattre de manière rationnelle, nous devons d’abord définir l’IA. Voici une définition obtenue par une recherche Google (elle-même le résultat de l’IA) :

« La théorie et le développement de systèmes informatiques capables d’accomplir des tâches nécessitant normalement l’intelligence humaine, telles que la perception visuelle, la reconnaissance vocale, la prise de décision et la traduction entre langues. »

Cette description n’évoque que les avantages potentiels pour nous en tant qu’individus, en nous offrant des facilités que nous souhaitons assurément tous. Elle nous promet une utilisation plus efficace de notre temps et une productivité accrue. Mais une autre définition, susceptible de faire sonner l’alarme, est celle de Merriam-Webster : « Une branche de l’informatique consacrée à la simulation d’un comportement intelligent dans les ordinateurs. La capacité d’une machine à imiter le comportement humain intelligent. »

Nous imitons désormais les humains, surtout si l’on ajoute la capacité des machines à apprendre et à s’adapter à de nouveaux stimuli. Cela signifie assurément que les machines s’emparent d’emplois, et même de notre capacité de commandement. Ce sont des aspects sensibles du débat sur l’IA, et la Chambre des Lords a même constitué une commission spéciale pour produire un rapport à ce sujet, ce qu’elle a fait la semaine dernière.^[i] D’autres questions importantes ont également été soulevées, par exemple : qui tenir pour responsable de la conception des algorithmes, et de la qualité des données saisies ?

Cet article vise à mettre l’IA en perspective. Il commence par un bref historique, examine ses capacités et son potentiel, puis aborde enfin le danger ultime de l’IA selon ses détracteurs : la capacité de l’IA et de l’apprentissage automatique à reproduire le cerveau humain et, ainsi, à nous contrôler.

Les bases de l’IA

L’IA a toujours fait partie intégrante du développement de l’informatique. Dès 1950, Alan Turing publiait un article, Computing Machinery and Intelligence, qui posait la question : « Les machines peuvent-elles penser ? ».[i] C’est le concept de « test de Turing » qui permettait de déterminer si une machine avait atteint une véritable IA, et le terme IA lui-même date de cette période. La décennie suivante a vu la création de grands centres universitaires consacrés à l’IA aux États-Unis, au MIT, à l’université Carnegie Mellon et à Stanford, ainsi qu’à l’université d’Édimbourg au Royaume-Uni.

Les années 1980 ont vu les gouvernements s’impliquer, avec le projet japonais de cinquième génération, suivi du lancement par le gouvernement britannique du programme Alvey, destiné à améliorer la compétitivité des technologies de l’information au Royaume-Uni. Cet effort a échoué dans son objectif central, et l’extrême complexité de la programmation, face à des règles toujours plus nombreuses, a fait perdre aux gouvernements leur enthousiasme à financer le développement de l’IA. Aux États-Unis, la Defense Advanced Research Projects Agency a également réduit d’un tiers ses dépenses consacrées à l’IA.

Cependant, à la fin des années 1980, le secteur privé a commencé à développer l’IA pour des applications telles que la prévision des marchés boursiers, l’exploration de données et les systèmes de traitement visuel, comme la reconnaissance des plaques d’immatriculation par les caméras de circulation. La méthode neuronale, qui consiste à filtrer les données d’entrée à travers des couches de nœuds de traitement, a été mise au point pour rechercher des régularités statistiques et d’autres schémas.

Ce n’est que depuis le début du siècle que le grand public se familiarise de plus en plus avec le terme IA, à la suite des progrès de l’apprentissage profond fondé sur les réseaux de neurones. Plus récemment, l’apprentissage profond, utilisé par exemple pour la reconnaissance vocale et d’images, a été stimulé par la conjonction de plusieurs facteurs : la disponibilité croissante de données pour entraîner les systèmes, l’augmentation de la puissance de calcul et la mise au point d’algorithmes plus sophistiqués. Les plateformes cloud permettent désormais aux utilisateurs de déployer l’IA sans investir dans du matériel supplémentaire. Et les plateformes de développement open source ont encore abaissé les barrières à l’entrée.

Si les progrès de l’IA depuis l’article original de Turing ont été quelque peu inégaux, ces nouveaux facteurs semblent promettre une accélération du développement des capacités et des applications de l’IA à l’avenir. Les conséquences pour l’automatisation, pour notre façon de travailler et pour le remplacement de nombreuses fonctions humaines ont suscité des inquiétudes qui semblent contrebalancer les avantages. Il y a aussi des conséquences pour les gouvernements qui ne mesurent pas l’importance de cette révolution et cherchent, par leur politique publique, à en restreindre le potentiel. Vient ensuite la question de l’utilisation et de la propriété des données. J’aborderai brièvement ces sujets avant de traiter la question philosophique de savoir si l’IA et l’apprentissage automatique peuvent, en définitive, réussir le test de Turing au sens général.

L’équilibre travail-IA

L’IA et l’apprentissage automatique sont déjà présents dans notre quotidien, de bien plus de façons que la plupart d’entre nous ne le imaginent. Une automobile moderne peut désormais se conduire seule avec un minimum d’intervention humaine, et ces capacités ne sont plus seulement expérimentales : elles se généralisent sur tous les véhicules. Les systèmes de navigation utilisent l’IA pour déterminer les itinéraires en fonction de la congestion actuelle du trafic. Les contrôles aux frontières recourent à la reconnaissance de l’iris pour faire correspondre les données du passeport à la personne. Les compagnies aériennes fixent le prix de leurs sièges de manière dynamique, et l’IA est de plus en plus utilisée pour le diagnostic médical, la détection précoce de cancers en étant un exemple. À notre insu, les entreprises recourent de plus en plus à l’IA intégrée à leurs systèmes internes afin de fournir leurs services plus efficacement. L’IA et l’apprentissage automatique deviennent rapidement omniprésents.

Ces applications sont toutes de portée étroite, en ce sens qu’elles accomplissent des tâches précises qui exigeraient de l’intelligence chez un être humain. Elles font appel à une ou deux catégories de données, et souvent aux deux, selon l’application. La première catégorie est celle des données générales, comme celles servant à établir des prévisions météorologiques et de prix ; la seconde est constituée des données personnelles propres aux individus.

Les lois sur la protection des données personnelles deviennent de plus en plus restrictives, à mesure que les gouvernements durcissent l’encadrement de leur utilisation. Plus les gouvernements agissent avec fermeté en ce sens, moins les entreprises disposent de latitude pour concevoir des solutions d’IA destinées aux personnes dont elles utilisent les données. Par conséquent, un gouvernement qui prend en compte à la fois la protection de la vie privée et les avantages de l’IA à portée étroite a de fortes chances de connaître une plus grande progression économique dans ce domaine que celui qui ne fait pas cette distinction. Les gouvernements britannique et américain semblent plus favorables aux leaders du secteur à cet égard que l’UE. L’UE a infligé des amendes à la quasi-totalité des grandes entreprises technologiques américaines, souvent sur des motifs discutables, ce qui témoigne difficilement d’une attitude constructive à l’égard du développement technologique futur. Et si l’on trouve des foyers d’esprit d’entreprise en Europe continentale, ils sont loin de rivaliser avec le double pôle formé par Londres et Oxford.

Cela pourrait avoir son importance après le Brexit. Le mois dernier, le gouvernement britannique a annoncé un programme d’investissement d’un milliard de livres sterling, avec l’ambition de faire de la Grande-Bretagne le meilleur endroit pour créer et développer une entreprise d’IA. Pendant ce temps, l’attitude de l’UE est globalement étriquée, protectionniste, hostile au changement, et semble particulièrement antagoniste envers les grandes sociétés américaines qui ont tant fait progresser l’IA.

L’IA devient essentielle à la création d’emplois. Dans l’histoire connue, chaque changement technologique a été condamné d’avance comme destructeur d’emplois, et chacun a finalement créé des emplois, tout en améliorant la qualité de vie et les revenus de la personne moyenne. Il n’y a aucune raison de penser qu’il en ira autrement pour l’IA. C’est cette chose impossible à mesurer, que l’on appelle le progrès, qui garantit la création d’emplois, et la création d’emplois résulte toujours d’un changement positif.

Comme presque toutes les inventions déployées au bénéfice ultime du consommateur, l’IA est une création du secteur privé, et non de l’État. Il n’appartient jamais à un gouvernement démocratique d’innover ; il doit donc résister à la tentation d’empêcher le changement issu du secteur privé, en particulier lorsqu’il s’agit de protéger des emplois. De plus, une réglementation superflue revient à offrir sur un plateau les progrès de l’IA à d’autres juridictions, telles que la Chine, dont le gouvernement est semi-entrepreneurial et développe et déploie activement l’IA dans son propre intérêt national.

Ceux qui maîtrisent mal les mécanismes du libre marché ne comprennent pas que l’IA, au sens étroit où nous l’abordons ici, produira ses propres solutions aux préoccupations relatives aux données et à l’automatisation. Par exemple, Sir Tim Berners-Lee^[ii] développe actuellement avec le MIT un projet visant à instaurer « une véritable propriété des données ainsi qu’une meilleure protection de la vie privée ». S’il aboutit, il rendra non seulement superflue la récente réglementation sur la vie privée, mais répondra aussi à l’utilisation de données personnelles par des opérateurs peu scrupuleux exploitant les failles de cette réglementation, et fera en sorte que les limites juridictionnelles de la loi ne puissent plus être exploitées.^[iii]

L’équilibre entre le travail et l’IA, tant que les gouvernements adoptent une approche minimaliste de la réglementation, promet d’être extrêmement bénéfique pour les gens ordinaires et d’améliorer leur qualité de vie, à l’image de la révolution des données apportée par internet au cours des vingt-cinq dernières années. Nous ne pouvons pas prévoir le résultat précis, car le développement des nouvelles technologies est toujours progressif, une étape en appelant d’autres qui ne sont pas encore visibles. Cependant, la limite de l’IA jusqu’à présent tient à ce que son application est toujours étroite dans son contexte, pour le bénéfice ultime des consommateurs. L’application de l’IA au sens général, où les ordinateurs et les robots acquièrent la capacité de contrôler les humains dans un cauchemardesque meilleur des mondes, est peut-être ce qui effraie les personnes mal informées, avec des remarques telles que : « Où tout cela s’arrêtera-t-il ? » Ce sera notre prochain sujet.

L’IA générale

Toute l'IA a été développée pour des applications au sens étroit, c'est-à-dire pour accomplir intelligemment des tâches précises. Par « intelligemment », nous entendons l'apprentissage automatique et l'apprentissage profond appliqués uniquement dans un contexte donné. Un ordinateur peut aujourd'hui battre un grand maître d'échecs et, plus récemment, DeepMind, une filiale britannique de Google, a maîtrisé le jeu de go.

Ces réalisations laissent penser que l'IA est désormais supérieure à l'esprit humain, mais cela n'est vrai que pour des tâches définies. Jusqu'à présent, l'IA n'a guère progressé, voire pas du tout, dans les applications non spécifiques, ou générales. Cela pourrait s'expliquer en partie par la faible demande pour une machine aux applications non spécifiques, ou par le fait que les données et la puissance de traitement nécessaires seraient d'un coût disproportionné. Il s'agit peut-être d'une question pour la prochaine génération d'IA, qui pourrait tenter d'élaborer les algorithmes. Toutefois, les obstacles pratiques sont une chose, et la possibilité d'y parvenir un jour est essentiellement une question philosophique.

Il y a ici un choc entre deux sciences : celle de la physique, qui fonctionne selon des règles, des formules et des lois, et celle de la nature humaine, qui n'est que guidée par elles. L'apprentissage automatique et l'apprentissage profond reposent sur une actualisation continue à partir de données historiques afin de détecter des schémas de comportement humain, à partir desquels des résultats peuvent être prévus. Le fait que les machines doivent apprendre en permanence à partir de nouvelles données nous indique que l'IA est, en un sens, une appellation erronée : à la question posée par Alan Turing dans son test, les machines peuvent-elles penser, la réponse est et devra toujours être la suivante : elles ne font qu'en donner l'apparence.

Cette distinction est essentielle. Oui, nous utilisons tous des données et de l'expérience pour former nos décisions, et oui, l'apprentissage profond permet à une machine de traiter toujours mieux cette information qu'un être humain. Mais les deux divergent sur la question du choix. Une machine doit toujours produire un résultat vrai/faux à partir de l'ensemble de ses données d'entrée. Un être humain a toujours le choix, et ce choix, une fois effectué, peut paraître irrationnel à un observateur. On peut alors se demander qui, de celui qui choisit ou de l'observateur, est irrationnel. Autrement dit, si la machine fait un choix que l'être humain n'accepte pas, celui-ci peut l'ignorer, s'en servir comme base pour faire un choix tout à fait différent, voire éteindre la machine.

C'est la différence fondamentale entre l'apprentissage automatique et les processus de la pensée humaine. Une machine produit des résultats essentiellement binaires : agir ou ne pas agir, transformer des données en une image qui est reconnue ou non, et ainsi de suite. Un être humain peut être logique, illogique, ou même un mélange des deux, et il est rarement lié à des résultats binaires.

Pour ces raisons, nous pouvons être certains que les machines ne prendront jamais le contrôle de notre monde, au sens souvent prédit par la science-fiction. Mais cela laisse sans réponse la question de savoir pourquoi les algorithmes réussissent si bien dans la négociation des instruments financiers, laquelle suppose de prévoir l'action humaine qui fixera les prix de demain. Loin de prouver la supériorité intellectuelle d'une machine, cela offre un bon exemple de la différence entre l'intelligence humaine et l'IA, ainsi que des limites de cette dernière.

Le trading informatique, ou algorithmique, répond à deux objectifs différents. Il y a d'abord la négociation effectuée à la demande d'un être humain, par exemple le rééquilibrage d'un fonds indiciel, ou la réaffectation des entrées et sorties de capitaux des ETF vers des investissements, ou depuis ceux-ci, conformément à l'objectif fixé. Nous laisserons de côté cette fonction mécanique. Il est également utilisé pour le trading automatisé à des fins de profit, et c'est là que réside la controverse.

Le trading automatisé n'est pas intelligent au sens humain : il repose sur des règles appliquées à des données historiques, continuellement modifiées à mesure que de nouvelles données s'y ajoutent. Il suppose que les schémas de négociation passés se répéteront, puis, par la magie de l'électronique, devance les penseurs humains plus lents et les machines concurrentes en passant des ordres et en les faisant exécuter en quelques millisecondes. La négociation par des êtres humains fait intervenir leur expérience, leur reconnaissance de schémas, des facteurs extérieurs au prix tels que l'actualité, leurs aptitudes innées et leurs émotions. La combinaison de ces facteurs explique à la fois les réussites et les échecs des performances humaines et introduit l'intuition. La force et le succès du trading informatique tiennent à l'absence de facteurs humains dans la négociation de titres, et non au fait qu'il les reproduit.

La présence croissante du trading informatique sur les marchés prolonge probablement les tendances cycliques plus loin dans les territoires de surévaluation et de sous-évaluation qu'il n'en serait autrement le cas. Cette affirmation est nuancée par l'absence de preuve contrefactuelle solide, mais si une part importante du volume total des transactions sur un instrument donné repose uniquement sur le prolongement de tendances passées, cela semble probable. En d'autres termes, l'IA finit par alimenter des prix déjà déterminés par l'IA, réduisant l'élément humain dans la formation des prix au lieu de le prévoir.

Les implications plus larges de ces distorsions dépassent le cadre de cet article, qui vise à déterminer si l'IA est une chance ou une menace. Nous avons établi que l'IA et l'apprentissage automatique sont et seront une aide considérable pour l'humanité, et que les craintes d'un meilleur des mondes où les machines seraient les maîtres et les humains les esclaves sont incompatibles avec la science. Les craintes de suppressions d'emplois dues à l'IA, comme celles qui ont accompagné tous les développements technologiques antérieurs quant à la sécurité de l'emploi, sont injustifiées.

Et si Alan Turing était en vie aujourd'hui, il serait intéressant de savoir si sa question, les machines peuvent-elles penser, a reçu une réponse qui le satisfasse. Tout indique que non, et peut-être n'en recevra-t-elle jamais.

Les points de vue et opinions exprimés dans cet article sont ceux de son ou de ses auteurs et ne reflètent pas ceux de Goldmoney, sauf mention expresse contraire. Cet article est fourni à titre d'information générale uniquement et ne constitue en aucun cas la fourniture, par Goldmoney ou par son ou ses auteurs, d'un conseil juridique, financier, fiscal, d'investissement ou comptable. Vous ne devez pas agir ni vous appuyer sur les informations contenues dans cet article sans avoir préalablement sollicité l'avis d'un professionnel indépendant. Le plus grand soin a été apporté pour s'assurer que les informations de cet article sont fiables ; toutefois, Goldmoney ne garantit pas qu'elles soient exactes, complètes ou à jour, ni qu'elles doivent être considérées comme une indication de résultats futurs, et elles ne doivent pas être utilisées comme telles. Goldmoney ne saurait être tenue responsable de toute réclamation, perte, dommage ou désagrément résultant d'une information ou d'une opinion contenue dans cet article, et toute action entreprise à la suite des opinions et informations qu'il contient l'est à vos propres risques.