Jusqu’où ira l’intelligence artificielle ? Par David Bensoussan
Jusqu’où ira l’intelligence artificielle ?
David Bensoussan
L’auteur est professeur en génie électrique à l’École de technologie supérieure
Depuis des millénaires, l’humanité transforme la matière en outils, en machines et en systèmes d’une complexité toujours croissante. Nous sommes aujourd’hui à un tournant : les technologies que nous créons ne se contentent plus de traiter l’information ; elles commencent à apprendre, à agir et, potentiellement, à s’intégrer à l’esprit humain.
La science naît de la curiosité : celle de comprendre le monde qui nous entoure. Elle progresse par l’observation et l’expérimentation, puis par la formulation mathématique de lois capables de décrire et de prévoir les phénomènes naturels.
La mécanique classique, dont les fondements sont associés à Newton, a permis de comprendre le mouvement des corps, la vitesse, l’accélération et les forces. L’étude de l’électricité et du magnétisme, puis leur unification dans l’électromagnétisme, ont ouvert la voie à une transformation profonde de notre civilisation : moteurs, communications, électronique, imagerie médicale, exploration spatiale et, plus généralement, toutes les technologies qui constituent aujourd’hui notre environnement.
Mais l’exploration de l’infiniment petit a montré que la nature est plus subtile que ne le laisse supposer notre expérience quotidienne. La mécanique quantique décrit le comportement des atomes et des particules selon des principes qui diffèrent de ceux de la mécanique classique.
L’atome lui-même, que les Grecs anciens considéraient comme indivisible — atomos — s’est révélé être une structure complexe. Les atomes sont constitués d’un noyau et d’électrons ; les noyaux contiennent des particules élémentaires, se combinent en molécules et, à un niveau supérieur d’organisation, apparaît la cellule, unité fondamentale du vivant.
Avec l’ADN, la matière devient également support d’information génétique qui peut être conservée, copiée et transmise. Les mutations, la recombinaison et la sélection naturelle ont ensuite permis, sur des milliards d’années, une extraordinaire diversification du vivant.
Mais cette histoire ne s’est pas arrêtée avec l’évolution biologique. L’être humain, produit de cette évolution, a commencé à construire une nouvelle chaîne de complexité fondée, elle aussi, sur la matière et sur l’information.
De l’électron à l’ordinateur
La découverte des propriétés des semi-conducteurs a conduit au transistor, puis aux circuits intégrés et aux microprocesseurs. Un transistor est un composant relativement simple, capable notamment de contrôler un courant électrique. Des milliards de transistors peuvent cependant être réunis sur une même puce et réaliser des opérations d’une extraordinaire complexité.
Une nouvelle étape est aujourd’hui explorée avec les ordinateurs quantiques, qui utilisent les propriétés de la mécanique quantique pour traiter certaines classes de problèmes selon une logique fondamentalement différente. Ils pourraient effectuer en quelques secondes des calculs qui demanderaient aux ordinateurs classiques un temps considérablement plus long, ouvrant ainsi des perspectives nouvelles en cryptographie, en simulation moléculaire, en optimisation et dans certains domaines de l’intelligence artificielle.
Cette évolution technologique ressemble, par certains aspects, à l’évolution biologique : des éléments simples sont assemblés en structures de plus en plus complexes et permettent l’apparition de propriétés nouvelles. Mais la comparaison a ses limites. L’évolution technologique ne résulte pas de mutations génétiques et de sélection naturelle ; elle est alimentée par l’invention humaine, la transmission des connaissances, l’expérimentation et la sélection des solutions les plus efficaces.
L’ordinateur a franchi une nouvelle étape lorsqu’il est devenu capable non seulement d’exécuter des instructions, mais d’apprendre à partir de données. C’est le domaine de l’intelligence artificielle.
L’intelligence artificielle : une nouvelle rupture ?
Il faut d’abord comprendre ce que signifie ici le mot « intelligence ». Une IA ne pense pas nécessairement comme un être humain. Elle peut analyser d’immenses quantités de données, identifier des régularités, explorer des possibilités et produire une réponse correspondant statistiquement ou algorithmiquement à ce qui est recherché.
Dans certains systèmes, le nombre de possibilités à considérer est tellement grand qu’aucun humain ne pourrait les examiner une à une. L’IA peut alors effectuer en un temps très court une recherche ou une estimation que l’être humain serait incapable de réaliser directement. Elle peut découvrir une stratégie, proposer une structure moléculaire, détecter une anomalie médicale ou résoudre un problème mathématique complexe.
Cette puissance d’analyse ne signifie cependant pas que l’IA est infaillible. Elle peut se tromper, produire une réponse plausible mais fausse, interpréter incorrectement une situation ou appliquer une règle valable dans un contexte à une situation où elle ne l’est plus. La rapidité et la sophistication du calcul ne garantissent donc pas la vérité.
Mais une propriété de l’IA mérite une attention particulière : la capacité d’accumuler et de réutiliser l’information.
Imaginons qu’un système découvre ou identifie une démonstration mathématique nouvelle. Cette connaissance peut être conservée, combinée avec d’autres connaissances et réutilisée ultérieurement dans un contexte différent. Une machine peut ainsi bénéficier de ses expériences et de celles d’autres systèmes sans posséder la mémoire biologique ou l’expérience subjective d’un être humain.
C’est ici que se situe une différence importante avec les outils informatiques traditionnels. Une calculatrice effectue le calcul que nous lui demandons de faire. Un programme informatique classique exécute les instructions qui ont été prévues. Un système d’IA peut, dans certaines conditions, produire des solutions que son concepteur n’avait pas explicitement programmées.
Lorsque cette capacité est associée à l’autonomie — planifier une tâche, utiliser des outils, écrire du code, analyser les résultats, corriger sa stratégie et poursuivre un objectif — une nouvelle question apparaît : que se passe-t-il lorsque l’être humain ne peut plus suivre chacune des étapes du raisonnement ou de l’action ?
C’est dans ce contexte qu’est évoquée la possibilité d’une superintelligence artificielle, c’est-à-dire d’un système dont les capacités dépasseraient largement celles de l’être humain dans de nombreux domaines. Il s’agit aujourd’hui d’une hypothèse et non d’une réalité établie. Mais elle mérite d’être prise au sérieux précisément parce que l’IA s’intègre progressivement à un nombre croissant d’activités humaines : recherche, médecine, finance, industrie, communications, éducation, administration et défense.
Le danger ne réside donc pas nécessairement dans une machine qui deviendrait soudainement consciente ou hostile. Il pourrait résider plus simplement dans une délégation progressive de nos capacités de décision. Plus nous confions à des systèmes artificiels la sélection d’une information, l’établissement d’un diagnostic, l’allocation d’une ressource ou l’orientation d’une décision, plus il devient important de pouvoir comprendre, vérifier et, au besoin, interrompre leur fonctionnement.
La matière s’est organisée en structures vivantes ; le vivant a produit l’intelligence ; l’intelligence humaine a créé des machines capables de manipuler l’information ; ces machines commencent maintenant à produire des solutions que leurs créateurs n’ont pas explicitement prévues.
Les premières tentatives d’implantation de puces cérébrales pourraient permettre d’accroître certaines capacités intellectuelles. Mais rien ne permet encore de savoir comment ces technologies pourraient affecter la psyché, entendue comme l’ensemble des manifestations conscientes et inconscientes de l’activité cérébrale.
La question fondamentale n’est donc peut-être pas de savoir si l’IA est déjà « intelligente » au sens humain du terme. Elle est plutôt de savoir jusqu’où nous voulons déléguer notre capacité à comprendre, décider et agir.
Après avoir créé des outils pour augmenter nos capacités, nous sommes confrontés à un défi inédit : faire en sorte que ces outils demeurent sous un contrôle humain réel, même lorsque leurs capacités deviennent supérieures aux nôtres dans certains domaines.
L’évolution nous a donné l’intelligence. L’intelligence artificielle nous oblige maintenant à réfléchir à la manière dont nous allons en faire usage.
