• "Intelligence" artificielle,vraiment? une analyse inspirée par saint Thomas d'Aquin

     

    Nous allons tenter de comparer ce qu’est l’intelligence humaine, telle que la décrit la psychologie thomiste, avec ce qu’on appelle par convention « intelligence artificielle ».

    "Intelligence" artificielle,vraiment? une analyse inspirée par saint Thomas d'Aquin

    Ce qu’il est convenu d’appeler « intelligence artificielle » (IA) est assurément un fait, une réalité qui nous accompagne maintenant à chaque minute de notre vie pour peu qu’on utilise un smartphone ou Internet, ou un GPS pour circuler en automobile. La question ici n’est pas d’analyser le fait, mais la manière dont on le nomme. Et de voir si le mot « intelligence » est approprié pour des machines. La réponse est moins évidente qu’il n’y paraît, car le fonctionnement de notre propre intelligence est loin d’être compris et de faire l’unanimité, et l'anthropomorphisme fait rage dans le monde de l'IA. Mais l’appellation révèle un vieux rêve de l’humanité : égaler Dieu en fabriquant des créatures à notre image[1].

     



    [1] Gen 1, 26 : « Puis Dieu dit: " Faisons l'homme à notre image, selon notre ressemblance, etc. »

     

    Introduction

     

    D’un point de vue catholique, on pourrait évacuer la question rapidement en se souvenant que l’intelligence est une faculté de l’âme humaine, que l’âme humaine est un esprit adapté à l’animation d’un corps matériel, et que Dieu n’a créé que deux sortes d’esprits : les « substances intellectuelles séparées » autrement dit les créatures purement spirituelles (les anges) et les « substances intellectuelles unies à des corps », autrement dit les âmes humaines associées à un corps matériel dont elles sont la forme substantielle (qu’elles « informent »)[1]. Toutes les substances intellectuelles créées sont intelligentes (dotées d’un intellect), douées de volonté, libres dans leur agir, incorruptibles donc immortelles[2]. L’âme humaine est créée lors de la conception et ne peut s’associer qu’à un seul corps, pour une relation univoque. Pour qu’une machine soit « intelligente », il faudrait donc que Dieu (seul capable de le faire) lui crée une âme et l’infuse dans cette machine (hardware[3] ou software[4]…) avec ou sans volonté, avec ou sans capacité à appréhender les essences etc. Apparemment, cela ne fait pas partie du plan divin. Pas plus que l’installation d’une âme humaine (ou d’une « copie » d’âme humaine) dans une machine, autre rêve prométhéen d’immortalité.

    Nonobstant ce qui précède, il est tout de même intéressant de regarder de plus près de quoi l’on parle exactement avec l’intelligence humaine, et avec « l’intelligence artificielle » (« IA » dans la suite). D’autant que beaucoup d’analogies existent, et pour cause puisque le projet initial est bel et bien de reproduire le fonctionnement du cerveau et de la pensée (voir le manifeste de Dartmouth, 1956, au paragraphe 3.1.2.)

    La psychologie thomiste nous a semblé la mieux armée pour aborder cette question. Elle nous paraît plus rigoureuse, approfondie et précise, rationnelle en un mot, et mieux se prêter au sujet des algorithmes[5], que les anthropologies phénoménologiques, comportementales, idéalistes etc. qu’on trouve dans Spinoza, Leibniz, Descartes, Kant, Hegel, Bergson ou Heidegger (et d’autres encore). C’est, reconnaissons-le, un parti pris, même si l’encyclique Aeterni Patris de Léon XIII d’heureuse mémoire, n’a point été abolie à ce jour (4 août 1879, « Sur la philosophie chrétienne »). Elle nous donne saint Thomas d’Aquin comme maître- à- penser en matière de philosophie (sans parler de métaphysique ni de théologie). Mais d’autres – qui contrairement à l’auteur de cet article maîtrisent les tenants et aboutissants d’autres doctrines évoquées plus haut- se chargeront peut-être de faire le même exercice avec un autre guide que le « Bœuf muet ».

    "Intelligence" artificielle,vraiment? une analyse inspirée par saint Thomas d'Aquin

     

    On rappellera d’abord ce que sont les puissances de l’âme, notamment l’intellective, et comment l’intelligence opère. On rappellera également succinctement ce qu’il en est chez les anges, qui sont de pures substances intellectuelles. On récapitulera tout ce qui peut intervenir dans (et perturber) le fonctionnement correct de l’intellect. On replacera la question de l’intelligence dans celle plus large de la pensée humaine.

    On résumera ensuite ce qui est aujourd’hui placé sous le vocable « intelligence artificielle », les principes de fonctionnement, ainsi que les principaux courants qui animent les développements de ces techniques, depuis les années 50. Elles ont connu une accélération et amplification considérables ces dernières années, du simple fait de la puissance de calcul désormais disponible, et qui ira encore croissant et rend possibles des applications qu’on mentionnera brièvement. On évoquera les limitations dues au théorème de Gödel sur l'incomplétude des axiomatiques.

    Un coup d’œil sur les neuro-sciences et la question de la conscience vue par un spécialiste d’IA, nous donnera un aperçu du fonctionnement de l’intelligence et de la pensée, assez différent du thomisme.

    On récapitulera, aussi précisément que possible, les différences qui existent selon nous, entre la pensée humaine et les algorithmes informatiques nourris de données.

     On examinera ensuite si l’expression « intelligence artificielle » est conforme au sens du mot « intelligence » (au sens thomiste) et à la réalité de ce qu’est une machine de traitement de données numériques appelée « intelligence artificielle ». Utiliser le concept d’intelligence (qui est une puissance immatérielle) pour désigner une machine ou un programme informatique paraît en soi audacieux métaphysiquement et grammaticalement.   

                    Pour finir et avant de conclure, nous aborderons brièvement la difficile question de « l’éthique des algorithmes » : comment programmer des algorithmes pour qu’ils prennent de façon autonome les « bonnes décisions », et en référence à quelle morale ? En effet, la pensée humaine prend nécessairement en compte des considérations morales.

    "Intelligence" artificielle,vraiment? une analyse inspirée par saint Thomas d'Aquin

     

    1/ Qu’est-ce que l’intelligence humaine, selon saint Thomas d’Aquin ?

     

    AVERTISSEMENT : le texte qui suit s’inspire des écrits de saint Thomas d’Aquin, mais ne cite pas littéralement l’auteur, sauf exceptions. L’auteur de l’article n’est ni théologien ni philosophe. Le lecteur soucieux de se référer sans risque d’interprétation ni d’erreur à la pensée exacte du Docteur angélique, pourra donc se reporter aux références signalées dans chaque paragraphe.

     

    1.1  Généralités sur l’âme humaine

    On pourra se reporter à la Somme théologique, Ia IIae : Q77 : les puissances de l’âme en général (sensitive, intellective) – Q78: les 5 puissances de l’âme en particulier : végétative et nutritive, sensitive, appétitive, locomotrice et intellective – les 3 sortes d’âme végétale, sensible, rationnelle – les 4 modes de vivre : végétatif- sensible- sensible et mobile – intellectif – les 5 sens externes, le sens commun, les 2 sens internes (mémoire et imagination ; estimative, mémorative, cogitative, remémorative) – Q79 : les facultés intellectuelles (relations entre intellect, raison, mémoire ; raison inférieure -réalités contingentes- et raison supérieure- réalités nécessaires- ; intellect spéculatif et intellect pratique ; conscience en tant qu’habitus)- Q80 à Q83 : les puissances appétitives en général – l’affectivité sensible (combattive et désidérative)– la volonté- le libre-arbitre.
    La Somme contre les Gentils fournit également des enseignements, au Livre 2ème, XLVI et suivants, de même que De Veritate Q10 L’esprit humain.

    "Intelligence" artificielle,vraiment? une analyse inspirée par saint Thomas d'Aquin

     

    L’homme est un composé de matière (le corps) et d’esprit. L’âme humaine est une substance intellectuelle destinée à animer un corps matériel d’une part, et également capable d’être élevée jusqu’à la connaissance de Dieu et associée à sa vie, d’autre part[6]. L’âme est la forme substantielle (au sens aristotélicien) du corps, elle l’informe. L’esprit est l’essence de l’âme, créée pour animer le corps. Saint Thomas affirme également que l’âme est l’acte du corps[7].

     

    L’âme dispose de puissances et de facultés plus ou moins élevées, les plus élevées étant tournées vers la Vérité et vers le Bien, les plus basses étant réservées à l’animation du corps et à la perception du monde par les sens corporels. On parle aussi de puissances intellectives et de puissances sensitives. Dans une nature intègre (comme celle d’Adam avant le péché originel), le corps est soumis à l’âme (à la raison) et l’âme est soumise à Dieu et entièrement tournée vers le bien (le Bien suprême étant Dieu).

     

    Les facultés supérieures (raisonnables ou intellectives) sont l’intelligence et la volonté. Elles font de l’homme un être doué de raison. On distingue la raison inférieure qui a pour objet les réalités contingentes, et la raison supérieure qui a pour objet les réalités nécessaires. L’intelligence a pour objet la connaissance de l’Etre et la Vérité[8]. L’homme est fait pour connaître Dieu, le monde et lui-même. La volonté a pour objet le Bien. On distingue l’intellect spéculatif et l’intellect pratique, de même que l’intellect possible et l’intellect agent (sur lesquels nous reviendrons à propos de l’importante question de l’abstraction et des universaux, ainsi que de l’idéation).

     

    La mémoire des intelligibles universels réside dans l’intellectif.

     

    Les facultés inférieures (sensitives) sont :

     *   les cinq sens externes ;

    * les quatre sens internes : cogitative (expectative ou estimative chez les animaux) – imagination – mémoire – sens commun (qui « unit » en quelque sorte les informations procurées par les sens externes.)

    * La mémoire des intelligibles singuliers est dans le sensitif (comme pour les animaux).

     

    Les animaux ont une âme, qui se dissout à leur mort, contrairement à l’âme humaine qui est immortelle, étant de nature spirituelle. L’âme animale n’est pas une substance intellectuelle. Cette âme ne dispose donc pas de l’intelligence ni de la volonté (mais de l’instinct et de l’estimative ainsi que de l’imagination des choses matérielles, qui relèvent de la vie sensitive). L’imagination produit des images des corps (et des idées ou des choses spirituelles dans le cas de l’homme) tirées de notre propre fonds et non pas véhiculées par les sens et l’intellect agent.

     

    Dans Ia pars Q80 à Q83, l’Aquinate aborde le libre-arbitre qui est propre à l’homme (il a son siège dans la volonté) ainsi que les puissances appétitives et l’affectivité sensible.

     

    La notion de sens commun est double : c’est la faculté de concilier les informations véhiculées par les sens externes, mais c’est aussi le « bon sens », partagé par tous les humains quelle que soit leur culture et leur religion ou absence de religion. Autrement dit, la raison spontanée « primitive ». Il y a autant de théories du sens commun que de philosophies : nominaliste, idéaliste, subjectiviste, kantienne, jusqu’à George Orwell qui l’a remis à sa façon au goût du jour. L’intellect se rebelle contre une interprétation qui n’est pas conforme à la réalité et aux lois immuables de l’univers et de la morale (lois physiques, loi naturelle). Le sens commun est en quelque sorte la métaphysique et la philosophie de « l’homme de la rue », qui n’est pas encombré de préjugés philosophiques. C’est une qualité commune à tous les hommes, contrairement au bon sens. Il s’appuie sur les principes d’identité, de non-contradiction, de causalité, de raison d’être, de finalité et d’induction. [9]

     

    L’âme dans sa partie inférieure est également le siège de l’appétit sensitif et des passions, réparties entre le concupiscible : amour/haine, désir/aversion, plaisir/douleur et l’irascible (espoir/désespoir, crainte/audace, colère). On trouvera les précisions nécessaires dans Ia IIae Q22 à Q48.

     

    La puissance appétitive meut aussi bien les appétits corporels que spirituels.

     

    Ici, une tentative de schématisation de tout ce qui précède, avec tous les risques des schémas

     

    "Intelligence" artificielle,vraiment? une analyse inspirée par saint Thomas d'Aquin

     

    Les vertus sont les (bonnes) habitudes (habitus) de l’âme : théologales quand elles concernent Dieu (foi, espérance, charité) et cardinales quand elles concernent la vie sociale (prudence, justice, force, tempérance). Les vices s’opposent aux vertus, ce sont également des habitus. Saint Thomas d’Aquin les étudie dans Ia IIae Q49 à Q89.

     

    On n’entrera pas ici dans l’économie de la grâce et du péché, qui n’ont pas de sens pour une machine fût-elle « intelligente » mais qui cependant sont liées à la morale. De même, les notions de foi, d’espérance et de charité, qui mettent l’esprit humain en relation avec Dieu et le disposent à recevoir la Révélation (notamment les mystères de la Trinité, de l’Incarnation de la Rédemption) sortent du champ de cette étude. Cependant l’âme raisonnable en état de grâce et éclairée par la foi accède surnaturellement à des connaissances que la seule raison naturelle ne peut atteindre (mystère de la sainte Trinité par exemple). Les sacrements (baptême et confirmation en particulier)  ont également, à l’évidence, un rôle à jour dans la connaissance naturelle et surnaturelle, notamment par l’opération du Saint-Esprit.

     

    1.2 La pensée humaine et la conscience

     

    Penser, c’est produire des représentations imagées de la réalité ainsi que des idées (pas nécessairement reliées à la réalité) et enchaîner des raisonnements. La pensée fait donc appel à l’intellect, à la mémoire, à l’imagination et à la raison. Elle est influencée voire perturbée ou déviée par les passions et les émotions. L’homme qui pense sait qu’il pense. Il peut même se penser pensant. L’homme peut également orienter ses pensées, décider de penser à quelque chose de précis, et, dans une certaine mesure, s’y tenir. L’homme peut penser à volonté à des objets éloignés dans le temps et dans l’espace. Il peut méditer, prier, contempler, prévoir, préméditer, penser en pleine action…

     

    La pensée humaine fait donc appel à la mémoire, à l’imagination, à l’intellect, à la cogitative, au sens commun, à l’intuition et au langage. Le raisonnement humain est hypothético-déductif.

     

    On notera que l’homme n’est pas totalement maître de ses pensées : il a des distractions, qu’il prie, qu’il contemple, qu’il médite ou qu’il cogite activement. Sa pensée peut quitter le fil qu’elle suivait et divaguer plus ou moins longtemps avant d’y revenir, ou pas. De plus, en psychologie catholique (voir notamment les Exercices spirituels de saint Ignace de Loyola, concernant le discernement, n° 313 à 336) ses pensées peuvent avoir trois origines : lui-même, le mauvais esprit (ce qui vient du Démon, maître ès psychologie humaine) ou le bon esprit (Esprit Saint, ange, Dieu Lui-même). Il peut éprouver des consolations ou des désolations, qui influent sur son psychisme et sa pensée (idem, n° 316 à 324). Une machine connaît les erreurs aléatoires ou les pannes, mais pas les distractions ou des rêveries.

     

    "Intelligence" artificielle,vraiment? une analyse inspirée par saint Thomas d'Aquin

    La conscience est une capacité réflexive de l’intellect et de la volonté sur elles-mêmes. Saint Thomas ne considère pas que la conscience soit le siège de la loi naturelle et le juge intérieur de nos actions. Voir ST Ia IIae, Q79 mais aussi De Veritate Q17.

     

    Il existe en fait une triple réflexivité : de l’intelligence, qui se sait savoir et se pense penser, de la conscience qui est un retour de l’intelligence se connaissant elle-même en train de penser, et enfin de la raison se jugeant en train de juger (libre-arbitre ayant son siège dans la volonté).

     

    Au sens courant contemporain, dire qu’on « réfléchit » signifie qu’on utilise sa cogitative, son intellect, sa mémoire etc. et sa conscience.

     

    Pour terminer, on notera que l’homme est capable :

     

    -          >  de langage, autrement dit de communiquer sa pensée à des tiers par des sons ou des signes ayant un sens précis et compréhensibles par d’autres;

    -         >  d’apprentissage par le jeu de la mémoire, de l’intelligence, de l’imagination et de la volonté (mécanismes différents des animaux et des machines) ;

    -            >    de rêve, par le truchement de l’imagination hors de contrôle de la conscience et de la volonté.

     

    1.2  Le fonctionnement de l’intelligence

    « Il n’est rien dans l’intelligence qui ne soit d’abord dans les sens. »[10]

    Le monde sensible est le point de départ de l’intelligence, mais celle-ci va bien plus loin dans la connaissance de la réalité et de la vérité, naturelles et surnaturelles. Voyons comment.

     

    ST Ia IIae, Q85, art 2 (extraits) : L’objet connu en acte se trouve dans celui qui connaît. Car le connu en acte est l’intelligence elle-même en acte. L’objet connu est dans l’intelligence connaissante par sa ressemblance.

    ST Ia IIae, Q86, art 1 (extraits) : Notre intelligence connaît en abstrayant l’espèce intelligible de la matière individuelle. Ce qui est connu par cette abstraction, c’est l’universel. Notre intelligence est apte par nature à connaître les espèces intelligibles en les abstrayant des images.

    ST Ia IIae, Q87, art 1 (extrait) : l’esprit se connaît lui-même, parce qu’il est immatériel.

    Commentaire : L’intelligence humaine, quand elle est tournée vers les choses créées, opère par abstraction et par union de formes. C’est ainsi que l’homme connaît la réalité matérielle. Par le truchement des sens, la forme de l’objet s’unit à celle du sujet, sans pour autant que l’une et l’autre perdent leurs qualités. L’intellect possible reçoit les espèces intelligibles déjà abstraites par l’intellect agent qui reçoit les informations des sens; il élabore à partir de cela des concepts, des idées, des raisonnements.

    "Intelligence" artificielle,vraiment? une analyse inspirée par saint Thomas d'Aquin

     

    1.4 Le cheminement de l’intelligence et de la volonté, de la connaissance à l’acte

    20ème des 24 thèses thomistes :  notre manière de connaître. Par les espèces intelligibles nous connaissons directement les objets universels. Nous atteignons les singuliers par les sens, mais aussi par l’intelligence, par un retour sur les images. Quant à la connaissance des choses spirituelles, nous nous y élevons par l’analogie ou l’obtenons gratuitement par révélation. Le processus semble être : connaissance confuse de la substance, connaissance confuse des accidents, connaissance distincte de la substance, connaissance distincte des accidents. On va de l’imparfait au parfait, du vague au précis, de l’indéterminé au distinct. Le sens commun centralise les impressions reçues par les différents sens ; l’imagination joue le même rôle pour les images intérieures ; la mémoire conserve ces images.

    15ème des 24 thèses thomistes : les 3 actes de l’entendement humain sont : appréhension (abstraction de l’universel, de l’essence, extraits du particulier, par l’intelligence) – jugement (rapport de l’attribut au sujet) – raisonnement (passage logique des causes aux conséquences).

    L’intelligence collaborant avec l’imagination (pourvoyeuse d’images, sans lesquelles l’intelligence est inopérante) procède en général comme

    suit, de façon à peu près séquentielle mais souvent avec des retours sur soi.

        Appréhender:

    1.       L’esprit, dans le concept mental qu’il s’est formé par abstraction du sensible, saisit par simple APPREHENSION une certaine essence. L’esprit peut expliciter la nature de cette essence par un assemblage de concepts et forme ainsi la DEFINITION [réelle plus que nominale, probablement ?] - connaître (selon l’opération décrite en 1.3) – abstraire- comprendre- former des idées (images et concepts) - nommer (le verbe intérieur). Le nom donne accès à l’essence de la chose nommée. Définir, nommer, «verbaliser».

     

    2.       Juger :  L’esprit, comparant deux concepts, affirme ou nie l’un ou l’autre par le JUGEMENT. Le terme produit par cette opération est l’ENONCIATION ou PROPOSITION (sujet-verbe-complément)- cogiter- délibérer-discerner. Former une opinion. Etablir des analogies (à ne pas confondre avec la connaissance analogique).

     

    3.       Raisonner : L’esprit, considérant une proposition (la mineure) dans la lumière d’une autre plus universelle (la majeure) conclut une troisième : RAISONNEMENT. Il en résulte le SYLLOGISME ou ARGUMENTATION- enchaîner des opérations logiques (hypothético-déductives) – inférer-induire- déduire- comparer- analyser- synthétiser- argumenter- établir des probabilités- éprouver selon les principes de la morale, résoudre des dilemmes.

    Puis interviennent la volonté et l’agir :

    -          décider, faire élection - prendre en compte les passions, émotions, les vertus – vouloir- agir.

                  

    "Intelligence" artificielle,vraiment? une analyse inspirée par saint Thomas d'Aquin

     

    Il sera intéressant tout à l’heure de voir si ce qu’on appelle « intelligence artificielle » procède de même. On verra que chez l’ange, les choses vont plus vite et sans erreur possible pour ce qui relève de la connaissance naturelle.

     

    1.5 L’intelligence et la volonté de l’ange

    Il est toujours préférable pour s’élever, de regarder vers le haut plutôt que vers le bas. Regardons par conséquent les anges plutôt que les animaux, même si "qui veut faire l'ange, fait la bête" et même si la notion "d'intelligence animale" revient souvent dans les textes sur l'IA. Pour ce qui est de l’intelligence et de la volonté, il nous a donc semblé utile de rappeler quelques caractéristiques des êtres purement spirituels que sont les anges, que saint Thomas d’Aquin appelle également « substances séparées » par opposition à l’esprit humain qui est comme on l’a rappelé, uni à une substance matérielle.

    On trouvera en fin d’article les principales références utilisées. Voir notamment pour ce paragraphe 1.5 :

    -          la Somme contre les Gentils (sur les substances intellectuelles) : Livre deuxième, XLVI à LV et XCI à CI.

    -          la Somme théologique, Ia pars, Q 54 à 58 sur la connaissance des anges ; Q 106  à 114 sur l’action des anges sur d’autres anges, etc.

    -          De Veritate (premier enseignement parisien de l’Aquinate, 1256-1259 donc largement antérieur à la ST : Q8 la connaissance des anges et Q9 La communication de la science des anges.

    "Intelligence" artificielle,vraiment? une analyse inspirée par saint Thomas d'Aquin

    Photo Andrew Rabbott_ 2015_ église St_Michael_and_All_Angels_Somerton – Les 9 chœurs angéliques

     

    On a vu que l’âme humaine est une substance intellectuelle créée, destinée à s’unir à un corps matériel et à l’animer. Il existe une autre sorte de substance intellectuelle créée, dite aussi substance séparée car elle n’est pas unie à la matière : c’est l’ange. Chaque ange est une espèce à lui tout seul, n'étant pas matériel comme nous, donc pas individuable dans la matière. L’ange est une forme pure, inférieure à Dieu en perfection, et un composé d’essence et d’être (Dieu est acte pur et en Lui se confondent l’essence et l’existence). C’est parce qu’il est composé qu’il n’est pas infini.

    Les créatures spirituelles sont un composé de puissance et d’acte, ainsi que d’essence et d’existence. Les créatures corporelles sont un composé de puissance et d’acte, d’essence et d’existence, mais aussi de matière et de forme (âme).

     L’ange dispose d’une connaissance naturelle (infusée intégralement par Dieu à la création de l’ange, saturant son intellect mais n’épuisant pas tout le créé) [connaissance du soir] et d’une connaissance surnaturelle dans la contemplation de Dieu et des choses en Dieu (contemplation partielle) [connaissance du matin]. Il ne connaît pas les créatures (le réel) par les sens, comme nous, mais en puisant dans son « stock » d’idées infusées par Dieu (son « patrimoine noétique ».) Le medium de la connaissance angélique est donc sa propre essence. L’ange connaît les singuliers par ce patrimoine (limité).

    Connaissance angélique du matin : elle donne accès à «l'être  primordial  des  choses », et  porte  sur  les  choses  selon qu'elles  sont dans  le Verbe. C’est un mode surnaturel de connaissance.

    Dans la connaissance du soir, l’ange appréhende les choses et lui-même à partir des idées que le Verbe a imprimées en lui, mais sans s'y rapporter directement. Ce mode de connaissance est naturel. Il les connaît alors, soit par les «raisons des choses» qui  sont  dans le Verbe,  soit par  les « espèces innées », qu'il  voit  dans  les  choses  mais  sans  les  tirer  d'elles  (la pars, Q58, art.7, resp.). Selon ce dernier mode l'ange se connaîtra alors parfaitement et entièrement lui-même [ce qui est loin d’être notre cas].

    L’intellect humain acquiert les formes intelligibles au fil de son histoire et en constitue un «système». La pensée humaine est discursive et décompose les objets pour les comprendre. L’ange au contraire trouve directement dans les principes, dans les données, la conclusion et la fin, d’un seul coup, comme un tout. Sa connaissance est instantanée, il ne délibère pas, il intuite. Il ne cherche pas, il trouve. Il n’y a donc pas dans l’ange de distinction entre intellect agent et intellect possible. L’ange est pure conscience de soi. Le premier objet de sa connaissance c’est lui-même, et il se connaît à fond, contrairement à nous.

    De même, l’ange prend instantanément sa décision et elle est irrévocable. Sa volonté est immédiate et il s’y trouve fixé, pour le malheur de Satan et les légions qui l’ont suivi dans le « non serviam ».  Avantage incomparable pour l’homme, en compensation sans doute de son enlisement dans la matière et dans le temps : l’homme peut se raviser et se repentir, et ainsi contribuer à son salut.

     

    "Intelligence" artificielle,vraiment? une analyse inspirée par saint Thomas d'Aquin

    Les anges appartiennent à des neuf chœurs. Tout en haut et au plus proche de Dieu, les séraphins qui sont brûlants d’amour de Dieu. Juste en-dessous, les chérubins qui sont les créatures les plus parfaites pour ce qui est de la connaissance de Dieu. Tout en bas, les « simples » anges, bien inférieurs en intelligence, en volonté et en charité aux chœurs intermédiaires et supérieurs. Mais les « simples » anges sont encore incroyablement supérieurs aux humains pour ce qui est de l’intelligence et de la charité.

    L’ange passe immédiatement d’un état spirituel à un autre, par « saut discontinu » en quelque sorte, car il ne raisonne pas laborieusement mais intuite directement les conséquences des données dont il dispose. De même il passe directement d’un « lieu » à un autre, d’une action à une autre. Tandis que l’homme avance (intellectuellement et matériellement) pas à pas, avec des retours en arrière etc.) laborieusement et en se trompant parfois (l’ange ne se trompe jamais sur un plan naturel).

    On voit donc les différences majeures de nature entre l’intelligence humaine, assez besogneuse et séquentielle, et l’intelligence angélique, directe et complète (dans la limite du patrimoine noétique de l’ange).

     

    1.5 Les actes humains

    Ici l’on se réfère à Ia IIae : Q6 à Q21 « Des actes humains ».

    L’Aquinate rappelle les critères d’évaluation morale d’un acte humain : nature de l’acte, intention et finalité, advertance de l’auteur de l’acte, circonstances.  Les actes sont volontaires ou involontaires (Q6 et Q7).

    Par rapport à la finalité de l’acte, interviennent la volonté, la jouissance et l’intention (Q8 à Q12). Par rapport aux moyens à mettre en œuvre pour réaliser l’acte, interviennent le conseil, l’élection, le consentement, et l’usage (Q13 à Q16). Les actes extérieurs sont commandés par la volonté (Q17). L’assentiment (objet éloigné) tient à l’intelligence, le consentement (objet proche) tient à la volonté.

    La volonté met en mouvement l’intelligence, en vue d’agir, mais n’est pas toujours mue en retour par celle-ci. Elle peut ne pas tenir compte des indications de la raison. La volonté interagit avec l’appétit sensitif. La volonté se porte vers le bien en général, ou ce que l’intelligence et les sens lui présentent comme bon.

    "Intelligence" artificielle,vraiment? une analyse inspirée par saint Thomas d'Aquin

    Q22 : Les passions résident dans l’appétit sensitif. Elles résident accidentellement dans l’âme, et dans le composé corps-âme absolument parlant.

    Q50 : Les vertus et les vices, on l’a vu, sont des habitudes, soit du corps, soit de l’intelligence, soit de la volonté.

    On ne saurait trop recommander la lecture du petit ouvrage d’Etienne Gilson, « Thomas d’Aquin, textes sur la morale », Vrin, 2011, qui fournit un résumé très commode sur les actes humains, les vertus, les vices, les passions de l’âme et du corps etc.

     

     

    2/ Une vision non-thomiste de l’esprit humain

    A titre d’exemple, voici comment le spécialiste du cerveau John Eccles modélise la relation entre esprit et cerveau (n’étant pas matérialiste, il admet- entre autres du fait de ses travaux scientifiques – que l’esprit existe indépendamment de la matière, qu’il n’en est pas une émanation. Et donc que l’esprit interagit avec le cerveau, de manière quantique en l’occurrence, pour produire la pensée et la conscience.) Nous reviendrons au paragraphe 5 sur les approches neuro-scientifiques de la pensée humaine. Les croyances religieuses d’Eccles ne transparaissent pas directement dans ses ouvrages (du moins les trois qui sont cités dans la bibliographie) mais au-delà d’admettre une certaine transcendance de l’esprit sur la matière, il semble qu’il était proche de la philosophie chrétienne. La théorie métaphysique des trois mondes (schématisée ci-dessous) de Karl Popper fait penser que ce dernier pouvait se passer de l’hypothèse d’ un Dieu créateur, en ayant recours au réalisme et à l’évolutionnisme.

    "Intelligence" artificielle,vraiment? une analyse inspirée par saint Thomas d'Aquin

    Extrait de « Comment la conscience contrôle le cerveau », John Eccles, 1994, Fayard, Le temps des sciences- 1997

     

    "Intelligence" artificielle,vraiment? une analyse inspirée par saint Thomas d'Aquin

    Extrait de « Comment la conscience contrôle le cerveau », John Eccles, 1994, Fayard, Le temps des sciences- 1997

     

    Le schéma d’Eccles semble proche du mécanisme d’abstraction des essences à partir du sensible, que nous avons décrit plus haut avec saint Thomas. Il recourt également à la notion d’âme.

     

    3/ Qu’appelle-t-on « intelligence artificielle » ?

    3.1 Brève définition et bref historique

    3.1.1 Définitions

    L’intelligence artificielle (IA dans la suite) consiste à traiter très rapidement de très grandes quantités de données par des algorithmes capables de se modifier par apprentissage. Plus les algorithmes traitent de données, plus leurs résultats sont précis et fiables. Un algorithme est une suite d’opérations logiques séquentielles et combinatoires. L’apprentissage peut être ou non supervisé par un humain, ou une autre machine. S’il ne l’est pas, il est difficile de savoir dans quelle configuration exacte se trouve l’algorithme une fois qu’il a commencé à « apprendre ».

    Une autre définition possible serait : « Par intelligence artificielle on entend les algorithmes et le traitement massif de données par ces algorithmes, en vue d’en extraire des informations utiles à valeur statistique, ainsi que de prédire, optimiser ou réguler des activités ou des événements et aider à la prise de décision. »

    C’est l’explosion rapide de la puissance de calcul qui a relancé l’intérêt et l’utilité de l’intelligence artificielle. On avait assisté dans les années 1980 à 2000      au développement des « systèmes experts », qui traitent des données selon des règles pré-définies, mais sans la capacité d’apprentissage et d’auto-modification des « intelligences artificielles ».

    "Intelligence" artificielle,vraiment? une analyse inspirée par saint Thomas d'Aquin

     

    3.1.2 Historique succinct

    L’histoire de l’intelligence artificielle remonte aux années 50[11] et a été traversée par la cybernétique[12], la théorie du signal, l

    la théorie des systèmes complexes, des modèles, les méthodes statistiques etc. ainsi que par les théories de l’auto-organisation, la phénoménologie et le behaviourisme, la neurophysiologie, les sciences dites cognitives, les théories du cerveau etc. Elle est jalonnée de noms comme Wiener[13], von Neumann[14], McCulloch, Turing, Rosenblatt, Herbert Simon, Bateson, Minsky, Ullmo, Ashby etc.  Deux grands courants ont marqué cette histoire et les réalisations : l’approche cognitive (ou symbolique) et l’approche statistique (ou connexionniste). Dans le premier cas on a cherché à modéliser le fonctionnement du raisonnement et du cerveau « machine à penser » et à le reproduire, dans le second cas on a cherché à extraire le maximum d’information d’une masse de données, par des méthodes statistiques, pour obtenir des prévisions ou des discernements aussi fiables que possibles. Les succès actuels de l’IA sont obtenus par des machines de la seconde catégorie (connexionniste-statistique) : jeu d’échecs, jeu de go, utilisations commerciales par les GAFAM, navigation, météorologie, smartphones etc.

    "Intelligence" artificielle,vraiment? une analyse inspirée par saint Thomas d'Aquin

     

     

     

    Un lien étroit existe entre les sciences dites « cognitives » (sciences de la connaissance et de la pensée, incluant les théories sur la nature et le fonctionnement du cerveau) et l’intelligence artificielle. Les deux s’intéressent à la nature de la pensée, de l’intelligence et de la conscience.

    Pour certains, les machines d’intelligence artificielle sont des « êtres » logico-mathématiques « incarnés » dans la matière (le hardware). Pour d’autres, les organismes vivants y compris humains ne sont pas autre chose que des machines très complexes. Modéliser et reproduire l’esprit humain est seulement une question de temps. Dans le domaine des sciences cognitives, « penser c’est calculer » ou bien « « penser c’est connecter des informations et en faire émerger autre chose ». L’esprit qui a son siège dans le cerveau (comme un logiciel dans une carte électronique…) fonctionne soit comme une machine logique (von Neumann) soit comme un réseau complexe d’interconnexions dont on ne comprend pas bien le fonctionnement et la capacité d’émergence. On parle aussi d’approches symboliste (dans le premier cas) et connexionniste (dans le second cas).

    Le programme de Darmouth (1956) ci-dessous, montre bien que l’approche majoritaire de l’intelligence artificielle à l’époque, était bel et bien d’imiter de façon analogique le fonctionnement du cerveau et de la pensée humaines.

    "Intelligence" artificielle,vraiment? une analyse inspirée par saint Thomas d'Aquin

     

     https://ojs.aaai.org//index.php/aimagazine/article/view/1911 (AI Magazine Volume 27 Number 4, 2006)

     

    3.1.3 L’ambition de Von Neumann

    Ce célèbre pionnier de l’informatique (la plupart des ordinateurs fonctionnent selon l’architecture de Von Neumann : processeur, mémoires etc.) explique dans « L’ordinateur et le cerveau » (1958, La Découverte 1992 ; ce sont des conférences « Silliman » 1955-1956) comment il faut chercher à comprendre et reproduire (par une machine) le fonctionnement du cerveau. Il introduit la notion de langage naturel, encore inconnu, qui serait utilisé par le cerveau pour traiter les données qu’il reçoit. Ce langage n’est pas un langage mathématique, selon lui. Il affirme également que le cerveau fonctionne de manière analogique et numérique à la fois, selon les fonctions. Il introduit la notion de statistique (mais pas de phénomènes quantiques) dans le fonctionnement du système neuronal.

    "Intelligence" artificielle,vraiment? une analyse inspirée par saint Thomas d'Aquin

    Source : Wikipedia (lire « tampon/buffer » plutôt que « accumulateur »)

     

    Actuellement la piste « symbolique » de l’imitation du cerveau et de formulation logique et symbolique des opérations à réaliser par la machine d’IA est en panne, au « profit » de la piste dite « connexionniste » basée sur un traitement statistique massif et ultra-rapide. On peut se demander si l’avènement des ordinateurs quantiques modifiera la donne, de même que les progrès du programme « Human Brain Project ».

     

    3.1.4 Placer l’IA parmi les autres outils numériques

     

    "Intelligence" artificielle,vraiment? une analyse inspirée par saint Thomas d'Aquin

    Extrait du Livre Blanc « Modèles, data et algorithmes, les nouvelles frontières du numérique », sous la direction d’Etienne de Rocquigny (collectif AREMUS, BPI France, AMIES, GENCI)_03.2017 – www.bpifrance-lelab.fr 

     

    Ce schéma place l’IA par rapport à la quantité de données traitées, et par rapport aux modélisations utilisées.

     

    3.2 Les principales applications des intelligences artificielles

    3.2.1 Types d’applications

    Les applications d’IA sont spécialisées, elles ne sont pas universelles. Les grandes catégories d’algorithmes sont les suivantes :

           détection et identification de structures (patterns) dans de grandes masses de données, qui échappent aux méthodes classiques (nuage d’expérience, régression linéaire etc.)

              aide à la prévision et à la décision par analyse de données de situation et inductions/déductions logiques ;

               décision automatique basée sur l’analyse rapide d’un nombre très élevé de données ;

                 reconnaissance automatique d’images, de formes, de parole ;

           analyse et génération de texte, de sons, d’images en vue de la communication ; traduction automatique et texte/parole parole/texte;

                matching [15]dans toutes sortes d’applications possibles

     

    à quoi l’on ajoute en général les systèmes experts (à règles fixes).

     

    On notera que le « machine learning », qui permet de résoudre des problèmes de prédiction et de classification, repose sur des structures linéaires, tandis que les réseaux de neurones qui mettent en œuvre le « deep learning » et permettent de traiter image, son, langage ou texte, reposent sur des structures non-linéaires. On revient en 3.3 sur le sens de ces termes (learning).

    Rappelons car c’est important, qu’il n’existe pas « une » intelligence artificielle qui serait ensuite adaptée à différentes utilisations, mais autant d’intelligences artificielles que d’applications : une machine IA ne peut pas passer du jeu de go au recrutement dans une entreprise, ni de la reconnaissance d’images au traitement du langage naturel ou à la finance (micro-trading par exemple). Les IA sont spécialisées, et pas connectables entre elles.

    "Intelligence" artificielle,vraiment? une analyse inspirée par saint Thomas d'Aquin

     

    Source Wikipedia

     

    3.2.2 Quelques exemples de domaines d’application

    Voici quelques domaines d’application, faisant appel à telle ou telle approche évoquée succinctement plus haut.

    "Intelligence" artificielle,vraiment? une analyse inspirée par saint Thomas d'Aquin

     

     

     

    Crédits images : 1. Fruits : Joliss -Berries_in_Berlin 2. Robot de compagnie : Ubahnverleih_Creative Commons_Nao_Robot_(Robocup_2016) 3. Véhicule « autonome » : Dllu_Creative Commons-Waymo_Chrysler_Pacifica_in_Los_Altos,2017 4. Smartphones : UFC_que choisir 5. Reconnaissance faciale : Jean-Gilles Berizzi_Venus_of_Brassempouy 6. Chirurgie et médecine : Pfree2014 - Own work_Creative Commons _Cardiac_surgery_operating_room 7. Cybersécurité : jaydeep_Creative Commons-Cybersecurity 8. Robotique industrielle : KUKA Roboter GmbH, Bachmann 9. Jeu de Go : zizou man_Creative Commons_ Go_game 10. SALA (robot-tueur) : Darpa-Atlas_frontview_2013 11. Enceinte connectée : Alexa _Amazon.

     

    Exemples illustrés ci-dessus : triage et calibrage des fruits- robot de compagnie- véhicule autonome- smartphone et ses applications_ reconnaissance faciale (Venus de Brassempouy…) - chirurgie et médecine- cybersécurité et cybercriminalité- robotique industrielle- jeux (go, échecs…) – système d’arme létal autonome (« robot tueur ») - enceinte connectée « intelligente et interactive» …

     

    Il y a bien sûr des applications moins « visibles » : RH, sécurité, police, enseignement, juridique, environnement, agriculture, viticulture, vente en ligne, finance et trading ultrarapide etc.

     

    3.3 Principes de fonctionnement de l’IA

    Rentrons un peu dans le détail des principes de fonctionnement de ces algorithmes, qui traitent des très grandes quantités de données pour en extraire rapidement des précisions, des recommandations ou des vérifications.

    "Intelligence" artificielle,vraiment? une analyse inspirée par saint Thomas d'Aquin

     

    Wikipedia

     

    Le schéma ci-dessus donne l’articulation des grandes catégories d’intelligences artificielles.

     

    3.3.1 Apprentissage profond

    Si l’on suit le schéma en partant du cœur : ce qu’on appelle « apprentissage profond » (deep learning) est assuré par des réseaux de neurones. Il peut être supervisé (par un humain ou par une autre machine), ou non-supervisé. C’est dans ce dernier cas que l’incertitude est la plus élevée quant à l’état effectif de l’algorithme au fil de son auto-apprentissage. Et donc les biais possibles, évolution des erreurs (fausses alarmes ou inversement alarmes pas donnée), etc.

    Réseaux de neurones : Les neurones informatiques simulent les neurones et les synapses du cerveau. Ces réseaux peuvent réaliser des fonctions logiques, arithmétiques et symboliques complexes. Le neurone formel est conçu comme un automate doté d'une fonction de transfert qui transforme ses entrées en sortie selon des règles précises.

    "Intelligence" artificielle,vraiment? une analyse inspirée par saint Thomas d'Aquin

     

    © Chrislb_Creative Commons_Artificial Neuron Model_francais

     

    Ces neurones sont par ailleurs associés en réseaux. L'efficacité de la transmission des signaux d'un neurone à l'autre peut varier : on parle de « poids synaptique », et ces poids peuvent être modulés par les règles d'apprentissage. On n’a pas besoin de construire un programme pas à pas, on « nourrit » le réseau neuro-mimétique avec des données et il apprend, soit en apprentissage profond supervisé soit en apprentissage profond non-supervisé. Il est tout de même nécessaire de programmer les réseaux de neurones et c’est un travail conséquent.

    "Intelligence" artificielle,vraiment? une analyse inspirée par saint Thomas d'Aquin

    © Dossier « Science Hors-série : Intelligence artificielle » 03.2019

     

    Cet apprentissage est réalisé grâce au « perceptron », inventé en 1957 par Franck Rosenblatt (aujourd’hui « multicouches »). Les paramètres importants de ce modèle sont les coefficients synaptiques et le seuil de chaque neurone, et la façon de les ajuster.

     

    "Intelligence" artificielle,vraiment? une analyse inspirée par saint Thomas d'Aquin

    © Chrislib_Creative Commons_ Perceptron_Wikipedia

     

    3.3.2 Apprentissage machine

     

    Hormis l’apprentissage profond rendu possible par la puissance de calcul des réseaux de neurones artificiels, des algorithmes usuels recourent à des techniques statistiques diverses, illustrés sur le schéma ci-dessous. Nous n’entrerons pas dans le détail des différences entre ces techniques. Le mot important ici est « statistique », car on ne cherche pas pour l’instant à simuler le fonctionnement du cerveau humain et encore moins des séquences logiques apparentées au raisonnement humain. Cette dernière approche fut pourtant celle qui prévalu aux origines de l’IA dans les années 50 (Von Neumann, école « symboliste » …)

    "Intelligence" artificielle,vraiment? une analyse inspirée par saint Thomas d'Aquin

     

    © France IA

     

    On peut dans tous les cas, modéliser comme suite les étapes principales du fonctionnement de l’IA en tant qu’outil de modélisation et de traitement de données :

    "Intelligence" artificielle,vraiment? une analyse inspirée par saint Thomas d'Aquin

    Extrait du Livre Blanc « Modèles, data et algorithmes, les nouvelles frontières du numérique », sous la direction d’Etienne de Rocquigny (collectif AREMUS, BPI France, AMIES, GENCI)_03.2017 – www.bpifrance-lelab.fr 

     

    3.4 Une limitation forte à l’IA : le théorème de Gödel

    Le « théorème de Gödel » sur l’incomplétude de l’arithmétique [1]comporte en réalité deux affirmations[2] :

     

    1.       « Dans tout système formel consistant contenant une théorie des nombres finitaires (sic) relativement développée, il existe des propositions indécidables. »

     

    2.       « La consistance d’un tel système ne saurait être démontrée à l’intérieur d’un tel système. »

     

    En d’autres termes, la méthode axiomatique comporte certaines limites internes qui excluent la possibilité d’axiomatiser complètement ne serait-ce que l’arithmétique ordinaire des nombres entiers. Il y a toujours une affirmation extérieure et antérieure au système formel, non démontrable par celui-ci.

     

    « Consistant » signifie qu’on ne peut en déduire des théorèmes contradictoires. On pourrait dire « cohérent ».

     

    Dans le livre mentionné en note 18 on relève sous la plume de Jean-Philippe Girard, le passage suivant qui mérite d’être reproduit ici in extenso :

     

    « Les conclusions de Gödel prennent une grande portée lorsqu’on soulève la question de savoir s’il est possible de construire une machine à calculer qui rivaliserait avec l’intelligence humaine dans le domaine des mathématiques. Les machines à calculer d’aujourd’hui sont construites avec un ensemble d’instructions incorporées ; ces instructions correspondent aux règles d’inférence initialement posées dans une procédure d’axiomatique formalisée… Or, comme le démontre le théorème de Gödel, la théorie élémentaire des nombres contient un nombre infini de problèmes qui tombent hors de portée de la méthode axiomatique et que de telles machines sont incapables de résoudre, aussi complexes et ingénieuses que soient leurs instructions de départ et aussi rapides que soient leurs opérations. Si l’on se pose un problème déterminé, on peut construire une machine [à calculer] pour le résoudre ; mais on ne peut construire une machine de ce genre pour résoudre n’importe quel problème. Sans doute l’intelligence humaine possède-t-elle ses propres limites au départ, et peut-il exister des problèmes mathématiques qu’elle ne saurait résoudre. Néanmoins le cerveau possède, semble-t-il, une structure de règles d’opérations bien plus puissante que celle des machines conçues aujourd’hui. Il y a peu de chances, dans un avenir immédiat, de voir l’intelligence humaine remplacée par des robots… [Le théorème de Gödel] signifie qu’on ne peut pas axiomatiser complètement les ressources l’intelligence humaine et que de nouveaux principes de démonstrations attendent encore d’être inventés ou découverts. »

     

    Alan Turing, a travaillé (entre autres) sur le théorème de Gödel et la conception comme le fonctionnement de sa fameuse machine « dite de Turing », a des liens étroits avec calculabilité, décidabilité (au sens axiomatique du terme) et incomplétude. Turing s’intéresse à la calculabilité des nombres, et traite les instructions comme des données.  Faute de compétence on n’entrera pas dans le détail des théories de Turing, bien qu’elles soient essentielles pour l’IA, mais on se référera à un article qu’il a consacré à l’intelligence artificielle et dans lequel, entre autres, il aborde la question de l’imitation du raisonnement humain par la machine (le fameux « jeu de l’imitation », où une machine arriverait par ses réponses aux questions les plus subtiles, à faire croire à un humain qu’elle est elle-même un humain). Dans cet article[3], sur la base de ses convictions, il « réfute » une à une les objections à l’affirmation « les machines peuvent penser » :

     

    -        >   l’objection théologique, c’est-à-dire exactement celle que nous développons ici (il cite saint Thomas d’Aquin) en argumentant sur la toute-puissance de Dieu, qui peut très bien s’Il le veut donner l’intelligence à des machines ;

     

    -         >  l’objection mathématique basée sur le théorème de Gödel, en pointant le fait que rien ne permet d’affirmer que les limites d’incomplétudes de Gödel ne s’appliquent pas aussi à l’esprit humain ;

     

    -         >  l’objection de conscience (morale) ;

     

    -          >  l’objection de Lady Lovelace (femme de science, à l’origine du langage ADA et ayant beaucoup réfléchi sur les machines à calculer, notamment celle de Babbage), objection selon laquelle une machine ne peut rien faire de nouveau ;

     

    -         >  l’argument neurologique (les neurones et synapses sont continus et analogiques, pas discrets et numériques) ;

     

    -        >   l’argument du comportement humain non-informatisable : « nous ne pouvons pas nous convaincre de l’absence d’un ensemble complet de lois de comportement, que nous l’avons fait pour l’ ensemble complet des règles de conduite » ;

     

    -          > l’argument de la perception extra-sensorielle (télépathie etc.)

     

    Il développe ensuite longuement l’apprentissage des machines, et conclut son article de façon positive : oui, les machines peuvent égaler l’intelligence humaine et on pourra en l’an 2000  parler à bon droit de « machines pensantes ».

     



    [1] «Sur les propositions formellement indécidables dans les Principia Mathematica [ de Whitehead et Russell]  et des systèmes apparentés I », résultats déjà annoncés en 1930.

    [2] Voir notamment « Le théorème de Gödel », textes de Nagel, Newman,Gödel et Girard, Seuil, Sources du savoir, 1989.

    [3] Reproduit in extenso dans « La machine de Turing », articles d’Alan Turing et Jean-Yves Girard, Seuil, Sources du savoir, 1995.

     

    4 Les travaux des neuro-sciences – la question de la conscience

    4.1 Neuro-sciences

    Parallèlement au cheminement de la « communauté de l’intelligence artificielle » et avec des relations compliquées avec elle (c’est bien expliqué dans le livre de Dupuy « Aux origines des sciences cognitives », La Découverte, 1994), les spécialistes des neuro-sciences et les philosophes s’intéressant à la pensée et au cerveau humains, ont accumulé les travaux. Ils se divisent, sans surprise, entre matérialistes (Jean-Pierre Changeux avec « L’homme neuronal » en est un bon représentant) et spiritualistes ou dualistes (John Eccles avec sa série de livres sur la conscience et le cerveau[16] en est un bon représentant). Les uns estiment que la pensée et la conscience sont des émanations de la matière complexe du cerveau, les seconds qu’il existe un principe spirituel couplé au corps humain, et que dans ce principe siègent la conscience, la pensée, les émotions etc.

    "Intelligence" artificielle,vraiment? une analyse inspirée par saint Thomas d'Aquin

     

    Quelques-uns des noms qui ont émaillé l’histoire des neuro-sciences et ont profondément réfléchi à l’énigme de la pensée humaine sont les suivants : Popper, Eccles, Sperry, Edelman, Changeux, Dobzhansky, Margenau, Crick et Koch, Dennett, Searle auxquels il faut ajouter des physiciens de haute volée comme Eddington, Schroedinger, Penrose (The Emperor’s New Mind, 1991, consacré à l’IA) ou Gell-Mann (Le quark et le jaguar, 1994, sur la complexité et l’émergence).

    Selon Dupuy, les relations entre intelligence artificielle et sciences cognitives sont une série de rendez-vous ratés, du fait de la défiance ou des préjugés des cognitivistes à l’égard de la cybernétique, en particulier.

     

    4.2 La relation esprit/cerveau vue par un neurologue du cerveau

    Reproduisons ici le passage du paragraphe 2/ consacré à l’approche dualiste (esprit-matière ou conscience-cerveau) de John Eccles, prix Nobel de médecine en­ 1963. Il a réfléchi toute sa vie à la question de la relation entre pensée et matière, conscience et cerveau.

     

    "Intelligence" artificielle,vraiment? une analyse inspirée par saint Thomas d'Aquin

    Extrait de « Comment la conscience contrôle le cerveau », John Eccles, 1994, Fayard, Le temps des sciences- 1997

     

    "Intelligence" artificielle,vraiment? une analyse inspirée par saint Thomas d'Aquin

    Extrait de « Comment la conscience contrôle le cerveau », John Eccles, 1994, Fayard, Le temps des sciences- 1997

     

    4.3 Un peu de prospective : la conscience vue par un spécialiste d’IA

    Il s’agit d’Alain Cardon, spécialiste d’intelligence artificielle et auteur notamment de « Conscience artificielle, systèmes adaptatifs », 1999, Eyrolles. A ne pas confondre avec Dominique Cardon, sociologue, auteur de « A quoi rêvent les algorithmes, nos vies à l’heure des Big Data », La république des idées, Seuil, 2015.

    Cardon associe la notion de représentation à celle d’idée. Il « traite » les questions de pensée et langage, du pensable et du calculable, de la réflexivité de la pensée humaine, de la notion d’intuition (connaissance immédiate), d’émergence (dans une approche matérialiste, évidemment ainsi que conscience et mémoire, génération du « sens ». Calcul, interprétation, représentation. A chaque fois il propose des modélisations, mais sans parler de l’implémentation réelle de ces modèles sur des calculateurs.

    Cardon va jusqu’à réfléchir à la simulation du libre-arbitre par la machine (basée sur des tirages aléatoires).

     

    Notons que cet ouvrage, assez ardu, commence par un tour d’horizon assez sérieux des différentes écoles de pensée et de philosophie de l’esprit, ainsi que des théories principales du cerveau et de la neurologie. Il manque seulement la vision thomiste de l’esprit et de la pensée, et de l’attelage entre l’âme et le corps.

    Il s’agit en tout cas d’une belle tentative de modélisation de la pensée et de la conscience humaines, qu’il faudrait sans doute rapprocher de celle d’Eccles. Eccles connecte sa vision de l’esprit à sa connaissance du cerveau, Cardon connecte la sienne à sa connaissance des techniques et mathématiques de l’IA et de la modélisation.

    Les schémas qui suivent aideront peut-être le lecteur à comprendre quel genre de représentations de la pensée et de la conscience humaines se fait l’auteur, dans le but de pouvoir implémenter ces modèles sur des machines numériques afin de simuler la conscience humaine voire activer une conscience artificielle.

       

    "Intelligence" artificielle,vraiment? une analyse inspirée par saint Thomas d'Aquin

    "Intelligence" artificielle,vraiment? une analyse inspirée par saint Thomas d'Aquin

    "Intelligence" artificielle,vraiment? une analyse inspirée par saint Thomas d'Aquin

    "Intelligence" artificielle,vraiment? une analyse inspirée par saint Thomas d'Aquin

    "Intelligence" artificielle,vraiment? une analyse inspirée par saint Thomas d'Aquin

    Extraits de Cardon « Conscience artificielle et systèmes adaptatifs, 1999, Eyrolles

     

    Rappelons ici ce qui a été dit plus haut sur la conscience selon les enseignements du Docteur angélique.

     

    De Veritate, Q17 La conscience

    Saint Thomas dit qu’on emploie le mot « conscience » dans trois sens différents : pour désigner la réalité même que l’on croit ; pour signifier la puissance par laquelle nous sommes conscients ; pour désigner l’acte réflexif, le retour de la pensée sur elle-même. « Conscience » signifie « appliquer la connaissance à quelque chose » ; « être conscient » c’est savoir simultanément. La conscience incite, induit, oblige, c’est une puissance ; dans l’autre sens du mot, elle juge, c’est un habitus.

    La conscience est une capacité réflexive de l’intellect et de la volonté sur elles-mêmes.

    Le jugement de la conscience (pure connaissance) et celui du libre-arbitre (fait intervenir la volonté) sont différents.

    ST Ia IIae, Q7 (sur les facultés intellectuelles). Saint Thomas ne considère pas que la conscience soit le siège de la loi naturelle et le juge intérieur de nos actions.

    Il existe en fait une triple réflexivité : de l’intelligence, qui se sait savoir et se pense penser, de la conscience qui est un retour de l’intelligence se connaissant elle-même en train de penser, et enfin de la raison se jugeant en train de juger (libre-arbitre ayant son siège dans la volonté).

     

    5/ Les différences entre pensée humaine et « intelligence artificielle »

    Des auteurs comme Vico, Descartes, Hegel[17], Bergson, Heidegger[18] se sont préoccupés de savoir ce que signifie exactement « penser » et aussi de ce qu’est la conscience. Kant a étudié la logique et la raison, plutôt que la nature de la pensée elle-même. Il semble que Malebranche se soit davantage intéressé à la raison qu’à la pensée elle-même. Plus près de nous, comme on vient de le voir, le neurologue John C. Eccles (prix Nobel de médecine) a beaucoup travaillé sur la notion de conscience et celle de pensée, de même que des auteurs comme R.W. Sperry, G.M. Edelman, Edgar Morin, Massimo Piatelli-Palmarini, Henri Atlan, Jean-Pierre Changeux etc.

    Sur la question de la « modélisation de la conscience » et des tentatives de simuler la conscience humaine dans une machine, on a mentionné plus haut l’ouvrage assez technique d’Alain Cardon « Conscience artificielle et systèmes adaptatifs », Eyrolles, 2000 (d’inspiration kantienne).

    La machine ne « réfléchit » pas à proprement parler. Elle ne dirige pas ses opérations, elle les enchaîne sans faire preuve de volonté, ne s’attarde pas sur un sujet, ne recoupe pas, ne rapproche pas…

    Reprenons ici la schématisation de la pensée humaine selon saint Thomas d’Aquin.

     

    1.         Appréhender :  L’esprit, dans le concept mental qu’il s’est formé par abstraction du sensible, saisit par simple APPREHENSION une certaine essence. L’esprit peut expliciter la nature de cette essence par un assemblage de concepts et forme ainsi la DEFINITION [réelle plus que nominale, probablement ?] - connaître (selon l’opération décrite en 1.3) – abstraire- comprendre- former des idées (images et concepts) - nommer (le verbe intérieur). Le nom donne accès à l’essence de la chose nommée. Définir, nommer, «verbaliser».

    2.          Juger :  L’esprit, comparant deux concepts, affirme ou nie l’un ou l’autre par le JUGEMENT. Le terme produit par cette opération est l’ENONCIATION ou PROPOSITION (sujet-verbe-complément)- cogiter- délibérer-discerner. Former une opinion. Etablir des analogies (à ne pas confondre avec la connaissance analogique)[19].

    3.          Raisonner : L’esprit, considérant une proposition (la mineure) dans la lumière d’une autre plus universelle (la majeure) conclut une troisième : RAISONNEMENT. Il en résulte le SYLLOGISME ou ARGUMENTATION- enchaîner des opérations logiques (hypothético-déductives) – inférer-induire- déduire- comparer- analyser- synthétiser- argumenter- établir des probabilités- éprouver selon les principes de la morale.

        

    "Intelligence" artificielle,vraiment? une analyse inspirée par saint Thomas d'Aquin


     

    Et maintenant reprenons les « étapes » de l’intelligence artificielle, telles que décrites en 3.3 :

    -       > traiter des données par itération successives selon une séquence d’opérations logiques et de traitements statistiques avec de possibles rétroactions modifiant ces opérations et ces traitements

    -           >  « en déduire » ou « extraire » des constantes (structures permanentes noyées dans le « bruit », patterns), des probabilités d’affirmations vraies (avec des taux de fausse conclusion faibles)

    -            > induire ( si « Y est vrai »,c’est que « sa cause X est bien sa cause » et qu’elle est vraie)

    -            >  comparer et « reconnaître » des structures et données (graphes…) par comparaison avec des modèles

    -            >   se référer à des modèles pré-existants

    -            >  « distinguer » selon des critères et des comparaisons

    -           >  « apprendre » ou plutôt améliorer l’efficacité, en corrigeant les paramètres de l’algorithmes et les pondérations, pour tenir compte des erreurs («faux vrais» et «faux faux», prédictions erronées etc.)

    On notera comment les expressions « en déduire », « reconnaître », « apprendre » sont anthropomorphiques ! On est plus proche de la symbolisation de syllogisme que d’opérations mentales.

     

    En revanche, on ne trouve pas dans cette «séquence de « l’intelligence artificielle » :

    -        *  abstraire (extraire des structures stables d’un nuage de points n’est pas la même chose qu’accéder à l’essence de l’être qu’on a devant soi) et former des idées

    -          * réfléchir au sens de la conscience de soi-même et de sa pensée

    -          * définir

    -          * nommer

    -          * énoncer

    -         *  verbaliser

          * formuler des hypothèses

    -         *   délibérer

    -          *  élire (faire élection d’un choix et s’y tenir)

    -          *  avoir une intention

    -          *  faire retour

    -          *  changer d’avis

    -          *  évaluer moralement une intention ou une actuation. Résoudre des dilemmes.

     

    On résume dans le tableau qui suit, les analogies apparentes et les différences fondamentales, ontologiques (en rouge) entre pensée humaine et « intelligence » artificielle. On notera aussi que le terme « probabilité » est ambigu : en mathématiques il signifie « fréquence d’occurrence d’un événement possible », c’est une mesure, tandis qu’en philosophie de la connaissance il signifie « prouvable avec un certain degré de confiance » : connaissance certaine, connaissance probable, le (semi)probabilisme en morale, les simples opinions etc. Le  « probable cognitif » est plus probable que le « probable mathématique » ! 

     

    intelligence humaine

    « intelligence » artificielle

    commentaires

    L’intelligence humaine sert à connaître la réalité et donc la vérité (veritas est adaequatio intellectu rei)

    L’intelligence artificielle sert à établir des probabilités ou extraire du signal (information utile) du bruit, ou encore à réaliser des opérations de façon automatique.

     

    APPREHENSION DU REEL

     

     

     L’esprit, dans le concept mental qu’il s’est formé par abstraction du sensible, saisit par simple APPREHENSION (abstraction du sensible) une certaine essence.

     

    L’esprit peut expliciter la nature de cette essence par un assemblage de concepts et forme ainsi la DEFINITION.

    Traite des données par itération successives selon une séquence d’opérations logiques et de traitements statistiques, avec de possibles rétroactions modifiant ces opérations et ces traitements.

    L’IA ne peut pas abstraire : relier les informations sur un objet contingent, à une essence universelle. Elle ne fait que reconnaître des formes, des structures (extraire des structures stables d’un nuage de points n’est pas la même chose qu’accéder à l’essence de l’être qu’on a devant soi).
    L’IA  n’a pas de processus d’idéation.

    On distingue définition nominale (étymologique) et définition réelle (par une des quatre causes).

     

    connaître

    L’IA ne connaît pas, n’étant pas dotée d’un intellect agent.

    Connaître » se réfère à l’union des formes de l’objet et du sujet (co-naître).

    former des idées (images et concepts)

    L’IA se réfère à des modèles pré-existants.

     

    comprendre

    L’IA ne comprend pas.

    Cum-prehendere, renvoie à l’acte de connaissance par fusion des formes de l’objet et du sujet (sans qu’aucun des deux ne la perde).

    nommer (le verbe intérieur)

    L’IA ne nomme pas (sauf dans les programmes de traduction automatique, ou dans la reconnaissance d’image ? mais pas selon la « voix intérieure » humaine.

    Le nom donne accès à l’essence de la chose nommée.

    définir

    L’IA ne formule pas de définitions par elle-même.

     

    verbaliser

    L’IA ne verbalise pas (n’a pas besoin de le faire).

    Un écho du Verbe divin.

    oublier

    L’IA n’oublie jamais.

     

    JUGEMENT

     

     

    L’esprit, comparant deux concepts, affirme ou nie l’un ou l’autre par le JUGEMENT. Le terme produit par cette opération est l’ENONCIATION ou PROPOSITION (sujet-verbe-complément).

    L’IA « déduit » ou « extrait »

    -       des constantes (structures permanentes noyées dans le « bruit », patterns),

    -       des probabilités d’affirmations vraies (avec des taux de fausse conclusion faibles).

     

    cogiter

    On peut assimiler les itérations successives d’un algorithme à une cogitation rudimentaire.

     

    discerner

    On peut admettre que l’IA discerne (reconnaissance de formes, de langage, extraction de structures stables…)

     

    délibérer

    L’IA ne délibère pas au sens psychologique du terme, elle compare, ordonne, pondère…

     

    former une opinion

    La notion d’opinion est étrangère à l’algorithmique. La notion de probabilité en revanche est omniprésente, au sens statistique mais pas au sens moral.

    On connaît la distinction entre certitude, opinion et suspicion. La notion de certitude morale reflète une certitude incomplète, seulement très probable.

    énoncer

    On peut admettre que l’IA « énonce » des propositions.

    Encore que le rôle de la verbalisation existe dans l’humain mais pas dans la machine.

    apprendre

    L’IA « apprend » ou plutôt améliore l’efficacité, en corrigeant les paramètres de l’algorithmes et les pondérations, pour tenir compte des erreurs («faux vrais» et «faux faux», prédictions erronées etc.)

     

    RAISONNEMENT

     

     

    L’esprit, considérant une proposition (la mineure) dans la lumière d’une autre plus universelle (la majeure) conclut une troisième : RAISONNEMENT. Il en résulte le SYLLOGISME ou ARGUMENTATION.

    Procède à des inductions (si « Y est vrai »,c’est que « sa cause X est bien sa cause » et qu’elle est vraie).

     

    enchaîner des opérations logiques (hypothético-déductives) –

    C’est la nature même des algorithmes. Mais l'IA ne formule pas d'hypothèses par elle-même.

     

    comparer- établir des analogies

    L’IA compare et « reconnaît » des structures et données (graphes…) par comparaison avec des modèles

     

    Distinguer

    L’IA « distingue » selon des critères et des comparaisons.

     

    Inférer - induire

    C’est la nature même des algorithmes. Mais l'IA ne formule pas d'hypothèses par elle-même.

     

    déduire

    C’est la nature même des algorithmes.

     

    établir des probabilités

    C’est la nature même des algorithmes.

     

    analyser

    On ne peut pas dire que l’IA analyse.

     

    synthétiser

    L’IA d’une certaine manière synthétise en extrayant du signal et du sens, à partir d’un brouhaha de données et de bruit.

     

    établir des syllogismes

    On peut faire crédit à l’IA de cela.

     

    argumenter

    L’IA n’argumente pas intérieurement. Peut être programmée pour simuler une disputatio.

    La piste de la disputatio homme-machine mériterait d’être explorée.

    éprouver selon les principes de la morale et résoudre des dilemmes.

    A ce stade, aucune IA ne s’est vu implémenter des valeurs morales ni la capacité de résoudre des dilemmes.

    Même dans le cas des véhicules autonomes et du fameux « dilemme du tramway ».

    être conscient qu’on est en train de penser.

    L’IA ne le fait pas (aucune tentative de « conscience artificielle » n’a abouti à ce jour.

     

    Ici intervient la volonté, qui devient première, l’intelligence accompagne

     

     

    INTENTION ET DECISION

     

     

    intention- décider- actes intérieurs

    Propose des actions (ou les réalise automatiquement) sur la base des résultats obtenus, si l’IA a été programmée pour cela.

     

    délibération

    L’IA ne délibère pas, elle compare, classe, probabilise…

     

    élection

    L’IA ne fait pas élection (choix d’une décision après avoir pesé le pour et le contre) car elle ne prend pas en compte la morale.

     

    conseil

    La vertu de conseil n’a pas de sens pour l’IA.

     

    consentement

    n’a pas de sens pour l’IA.

     

    décision

    L’IA peut être programmée pour faire un choix et décider.

     

    actes intérieurs

    n’a pas de sens dans le cas de l’IA.

     

    retour sur soi, changer d’avis.

    L’IA ne change pas d’avis (même si ultérieurement elle « apprend »).

     

    ACTION

     

     

    mettre en oeuvre la décision 

    via des actuateurs cybernétiques (processus de production, interactions entre logiciels…)

     

    actes extérieurs

    idem

     

    user des choses et des êtres

    idem

     

     

    On voit que les différences l’emportent, quantitativement et qualitativement, sur les analogies.

     

    6/ Le terme « intelligence artificielle » est-il approprié ?

    On remarquera tout d’abord que l’expression « intelligence artificielle » est une tournure de rhétorique, la métonymie[20]. En effet, on désigne une machine par ce qu’on estime être sa fonction, l’intelligence ou une forme d’intelligence. On réduit donc le sens du mot « intelligence » à une dimension purement matérielle et logique, à l’objet qui est censé en être le support. Cela reflète un parti pris matérialiste.

                    Certains auteurs spécialistes d’IA, comme Yann Le Cun (directeur scientifique chez Facebook, prix Turing 2019 avec Bengio et Hinton) créditent l’animal d’une intelligence autrement dit d’une capacité à opérer le même genre d’opérations mentales (abstraction, jugement, raisonnement, discernement etc.) que l’homme. C’est une ontologie de l’animal en désaccord avec l’ontologie thomiste, qui reconnaît une âme (mortelle) à l’animal (et même aux plantes, âme végétative plus limitée en puissances, notamment sans puissance sensitive ni locomotrice a fortiori intellective), mais rien d’autre que l’instinct et l’estimative, donc aucunement la raison ni l’intellect. Si l’on admet un instant la thèse (non démontrée) d’une intelligence animale, il peut sembler que l’intelligence animale artificielle serait un objectif intermédiaire plus atteignable que l’intelligence humaine artificielle.

                     On trouvera de ce point de vue davantage d’analogies entre l’homme et l’ange (mémoire, intellect et volonté, libre-arbitre), qu’entre l’animal et l’homme, nonobstant l’écrasante supériorité de l’intelligence angélique. Il est téméraire mais tentant de se dire que l’intelligence angélique est peut-être moins difficile à simuler (du moins à singer) que l’intelligence humaine, précisément parce qu’elle n’est pas incarnée d’une part (un logiciel n’est pas incarné dans un « hardware » donné, il est immatériel) et parce que d’autre part elle est plutôt numérique et procède par sauts discontinus, donc pas analogiques ni continus. Mais c’est là une réflexion assez vaine car l’intelligence angélique ne nous est pas accessible et est infiniment supérieure à la nôtre.

     

    Avant-dernière variante : la noosphère theilardienne, union des esprits humains (saint Thomas exclut que l’intellect possible puisse être autre qu’individuel) … Dernière variante : l’univers comme un vaste cerveau, machine à penser.

     

    7/ Les problèmes moraux soulevés par l’IA

    On sort ici du sujet stricto sensu, qui est la pertinence du mot « intelligence » appliqué à une machine fabriquée par l’homme. Cependant, la pensée humaine mettant en œuvre l’intelligence et mue par la volonté, est toujours confrontée à la question du bien et du mal, apparents ou réels. On l’a vu au 1.4 dans le passage de « Raisonner » à « Vouloir » puis « Agir ». Il est donc nécessaire de consacrer ici un bref paragraphe aux enjeux moraux spécifiques aux intelligences artificielles.

    7.1 Les algorithmes peuvent-ils tenir compte de la morale ?

    Une question majeure est celle-ci: « Peut-on programmer des algorithmes pour qu’ils tiennent compte des exigences de la morale, et si oui de quelle morale, et comment » ? Autrement dit, élargir la capacité de « raisonnement » hypothético-déductif à la capacité de discernement et prise de décision morale (éthique si l’on préfère) et responsable (au sens de pouvoir justifier les raisons morales d’un choix, en « rendre compte »). Y compris en cas de dilemme. Cela supposerait que la morale soit réductible à la logique ou au traitement statistique.

     

     

    "Intelligence" artificielle,vraiment? une analyse inspirée par saint Thomas d'Aquin

     

    7.2 Quels sont ces problèmes moraux ?

    Les principaux enjeux moraux de l’IA sont :

     

    -      >  l’existence de biais difficiles à détecter, dus souvent aux préjugés des programmeurs, ou bien accumulés au fil des apprentissages non supervisés) ou bien dûs aux données fournies à la machine ;

    -          >   l’antagonisme entre performance (efficacité/précision/fiabilité) de l’algorithme d’une part, intrusivité dans les données personnelles d’autre part ;

    -          >  l’antagonisme également entre performance et explicabilité (plus un algorithme est performance, plus il est « opaque », difficile à expliquer et à décrire) ;

    -         >   les évolutions incontrôlées découlant des apprentissages « non-supervisés » ;

    -         >   la question de la responsabilité en cas d’accident ou de préjudice (concepteur, intégrateur, distributeur, opérateur, utilisateur…) ;

    -          >   une possible propension préférentielle à la bienfaisance ou à la malfaisance ;

    -          >   le risque d’éviction de l’humain des circuits de décision ;

    -          >   la puissance de transformation rapide et perturbatrice des organisations et des relations humaines ;

    -        >     une dépendance accrue de l’homme à la machine ;

    -          etc.

     

    7.3 Quelles pistes de réponses ?

    Différentes « chartes éthiques » ou « codes de déontologie » concernant l’IA sont énumérés en fin d’article dans les références. A vrai dire il en existe plus d’une centaine, dont certains spécialisés dans des secteurs d’activité (médecine, droit, ingénierie etc.) Ces documents se résument en gros aux principes suivants :

    -          bienfaisance et non-malfaisance (soit la syndérèse : « fais le bien et évite le mal », soit le principe de morale minimaliste : « évite de nuire »)

    -          justice, équité (l’équité étant le discernement dans la mise en œuvre de la loi dans des cas particuliers).

    -          primat de l’humain (notamment dans la relation homme-machine, machine-patient, processus de décision, déconnexion possible de la machine etc.)

    -          respect de la vie privée

    -          explicabilité de l’algorithme et de ses résultats

    -          transparence sur la conception et la mise en œuvre de l’algorithme

    -          absence de biais, ou présentation claire de ceux-ci ; impartialité

    -          prédictibilité des résultats, précision, faible pourcentage de « faux négatifs » et « faux positifs » (autrement dit efficacité)

    -          fiabilité et sécurité

    -          robustesse et incorruptibilité

    -          empreinte environnementale limitée

    -          application d’un principe de prudence.

     

     

    "Intelligence" artificielle,vraiment? une analyse inspirée par saint Thomas d'Aquin

     

     

    7.4 Des difficultés morales inédites

    L’intelligence artificielle pose par ailleurs deux types de problèmes spécifiques inédits :

    -        >   plus un algorithme est efficace et précis, plus il est opaque, difficilement explicable, et plus il est intrusif (réclame des données personnelles, voire intimes, sur la personne, sur l’entreprise…)

     

    -          >   on ne sait pas très bien qui est responsable de quoi, entre le concepteur, le programmeur, l’intégrateur, le distributeur, le vendeur, l’utilisateur etc. surtout quand l’algorithme « apprend » tout seul.

     

     

    "Intelligence" artificielle,vraiment? une analyse inspirée par saint Thomas d'Aquin

     

     

     

    Il est intéressant de noter que beaucoup de ces chartes éthiques s’appuient sur le « rapport Belmont » pour la protection des sujets humains dans le cadre de la recherche, découlant du procès de Nuremberg et des expérimentations médicales faites par les nazis sur des cobayes humains : respect de la personne, bienfaisance et non-malfaisance, justice ; évaluation des risques et des avantages de l’expérimentation envisagée. Au titre du respect de la personne sont mis en avant les critères suivants: information, compréhension, caractère volontaire, autrement dit le consentement de la personne subissant l’expérimentation à des fins de recherche.

     

    L’Académie pontificale pour la vie ainsi que d’autres instances catholiques, chrétiennes et juives, se sont penchées sur ces questions (voir par exemple les actes du colloque The Good Algorithm au Vatican en 02/2020), mais sans aboutir pour l’instant à autre chose qu’à des principes généraux comme ceux énumérés ci-dessus. On notera cependant que deux « think tanks » catholiques cherchent à approfondir ce sujet : OPTIC et Espérance&Algorithmes, qui a publié Livre Blanc assez argumenté sur l’apport de la Doctrine sociale de l’Eglise (2005). Le MCC est très intéressé par ces questions.

    "Intelligence" artificielle,vraiment? une analyse inspirée par saint Thomas d'Aquin

     

     

     

    Conclusions

     

    L’analyse comparative de l’intelligence humaine selon saint Thomas d’Aquin, et du fonctionnement des « intelligences » artificielles montre, nous semble-t-il, que ces machines présentent des analogies partielles certaines des opérations de l’intellect et de la pensée humaine, mais que ces opérations ne sont pas de même nature chez l’homme et dans la machine. Il est difficile de séparer la part de l’anthropomorphisme dans les intelligences artificielles, tant chez les concepteurs de celles-ci que dans la façon dont nous les comprenons. Il est clair que les notions d’abstraction (accéder à l’universel par abstraction de celui-ci dans ce que les sens ou l’imagination nous transmettent de la réalité constituée de choses contingentes et particulières) ou de réflexivité (conscience de la pensée qu’elle est en train de penser) ou encore d’énonciation (liée à la parole humaine, elle-même reflet du Verbe de Dieu se contemplant Lui-même donc se connaissant) sont étrangères aux machines. Encore davantage, celles d’intention ou d’opinion et de délibération sur les enjeux moraux des actes résultant de la volonté, une fois que l’intelligence a fait son travail. L’IA ne connaît pas, ne comprend pas, au sens thomiste du terme. Elle ne formule pas spontanément d'hypothèses. Elle ne prête pas d'intention à ceux (ou aux objets) avec qui elle interagit.

     

    La conception thomiste de l’intelligence pré-suppose les notions de substance, de forme, de puissance et d’acte (etc.) qui sont étrangères à la conception et à la réalisation des machines d’intelligence artificielle.

     

    Il est bon de rappeler ici la découverte d’Aristote: « L’âme est l’acte premier (entéléchie) d’un corps naturel (pour le distinguer des corps artificiels) organique (doté des instruments suffisants aux opérations de l’âme) ayant la vie en puissance[21] Comme si le Stagyrite avait répondu d’avance à notre question sur les machines…

     

    Le spectre de la Singularité (prise de pouvoir des machines « intelligentes » sur les humains) semble donc éloigné, ou en tout cas ne surviendra pas pour des questions d’intelligence proprement dite : on ne peut exclure une forme d’asservissement assez complet des individus par le biais de contrôles et de conditionnements mentaux assurés par des machines de type « IA » mais celles-ci seront contrôlées par des humains, qui disposeraient alors de moyens de domination plus performants et insidieux que par le passé. L’idée d’une machine intelligente se retournant contre son concepteur (Golem) supposerait une volonté et une liberté de décision et d’agir des machines qui sont étrangères à la doctrine réaliste que nous avons suivie ici. Ce qui ne veut pas dire qu’un robot de compagnie ne puisse nuire à un humain (en se détraquant par exemple, ou parce que mal programmées pour certains circonstances), ni qu’un système informatique ne puisse échapper temporairement au contrôle de ses concepteurs et de ses utilisateurs.

     

    Une des difficultés de la réflexion sur l’intelligence artificielle telle que nous tentons de la mener, provient de l’anthropomorphisme plus ou moins conscient de ceux qui se penchent sur la question. Anthropomorphisme flagrant dans la voie « symbolique » qui vise à reproduire le fonctionnement du cerveau et a pris naissance comme on l’a vu, dans les années 50, commençant à concrétiser un vieux rêve de l’humanité.

     

    En filigrane des questions que soulève la notion et la réalité des machines d’intelligence artificielle, se trouve en effet le rêve prométhéen (et luciférien) de l’homme qui se veut l’égal de Dieu et capable de produire des créatures vivantes ou du moins des machines à son image. Non pas ex-nihilo comme Dieu mais en utilisant les ressources matérielles et intellectuelles qui sont à sa disposition. C’est par exemple le mythe du Golem, créature d’argile dans lequel un rabbin de Prague introduit le souffle de vie par le moyen d’un signe (qui veut dire aussi bien vérité[22] que mort). Il est intéressant que Gershom Sholem, grand vulgarisateur du messianisme juif et de la pensée talmudique, ait établi un rapprochement entre le Golem de Prague et l’informatique[23]. L’histoire – qui ne fait que commencer- de l’intelligence artificielle n’est pas sans évoquer celle de la tour de Babel, où les hommes liguant leurs forces et leurs intelligences, veulent se hisser à hauteur de Dieu[24].

     

    Nous avons également vu que le terme « intelligence artificielle » applique à la machine la définition de la fonction pour laquelle elle est conçue, la terminologie est donc grammaticalement incorrecte. Il vaudrait mieux parler de machines algorithmiques, ou si l’on veut faire court, d’algordinateurs, ou encore algoprocesseurs ou "PMD" (processeurs de méga-données).

     

    Au-delà de cette comparaison point par point entre une psychologie traditionnelle et les soubassements techniques des machines dites d’intelligence artificielle, c’est probablement la notion de réalité qui est en jeu : existe-t-elle indépendamment de nous et est-elle accessible par nos sens, comme le disent Aristote et saint Thomas d’Aquin, avec la possibilité d’union des formes de l’objet et du sujet pour que ce dernier atteigne à l’universel (les essences), ou bien la réalité est-elle ce que nous en pensons ou encore réside-t-elle dans des Idées dont ce que nous percevons n’est qu’un reflet et non la réalité même ? Ou encore dans les seuls phénomènes que nous percevons, sans qu’on puisse les relier à une ontologie ? C’est l’éternel débat entre Aristote et Platon, qui a été tranché d’un point de vue catholique par la Scolastique, saint Thomas d’Aquin en tête. Si l’on accepte une métaphysique et une philosophie phénoménologiste (donc incompatible avec la métaphysique biblique et catholique), il est possible que la notion d’intelligence artificielle prenne une tout autre signification.

     

    On ne peut en revanche exclure que l’IA puisse être programmée et apprendre pour simuler des sentiments, des émotions, une conscience etc. On retombe alors sur le fameux test de Turing, au crible duquel une intelligence artificielle n’a pour l’instant pas réussi à leurrer un être humain sur le fait qu’elle est une machine.

     

    Pour conclure une suggestion : programmer et entraîner un algorithme pour soutenir une disputatio scolastique.

     

     

     

     

    "Intelligence" artificielle,vraiment? une analyse inspirée par saint Thomas d'Aquin


     

     

    ANNEXE

     

    1. Références thomistes sur la pensée humaine et la pensée angélique

     

    1.            Les 24 thèses thomistes, par le Père Hugon o.p

     

    2.            La Somme contre les Gentils (sur les substances intellectuelles, angéliques ou humaines) : Livre deuxième, XLVI à CI.

     

    3.            La Somme Théologique, pour ce qui concerne l’âme, la connaissance, l’intelligence et la volonté humaines (Ia IIae Q75 à 89) – commenté dans « La pensée humaine », Revue des jeunes, J.Webert op, pour les Q 84 à Q89.

     

    4.           De Veritate : Q10 : L’esprit et Q17 : La conscience

     

    5.      Pour ce qui concerne les anges :

     

    -              la Somme contre les Gentils (1261-1262) (sur les substances intellectuelles séparées) Livre deuxième, XLVI à LV et XCI à CI.

     

    -              la Somme théologique (1266-1268) (Ia pars, Q50 à 53 sur la substance des anges ; Q 54 à 58 sur la connaissance des anges ; Q 59 à 64 sur la création et l’origine des anges ; Q 106 à 114 sur l’action des anges sur d’autres anges, sur les choses créées et sur l’homme.

     

    -              l’ouvrage sur les « substances séparées » De substantiiis separatis.

     

    -       le De Veritate (premier enseignement parisien de l’Aquinate, 1256-1259) donc largement antérieur à la ST : Q8 la connaissance des anges- Q9 La communication de la science des anges.

     

    L’ouvrage du père Bonino o.p «Les Anges et les Démons»[25], résume les enseignements thomistes sur les créatures spirituelles, notamment sur la connaissance et la volonté angéliques.

     

    Ponctuellement : Des Lois, Ia IIae Q90 à Q108, commenté par le RP Jean de la Croix-Kaelin op (page 28 de l’édition LUF 1946).

     

    2. Références sur l’éthique des algorithmes

     

    Ouvrages :

     

    Martin Gilbert : « Faire la morale aux robots », Documents, 17, Atelier 10 et UQAM, 2020

     

    Brian Christian : « The Alignement Problem, How Can Machines Learn Human Values », Atlantic Books, London, 2020

     

    Michael Kearns & Aaron Roth : « The Ethical Algorithm, the Science of Socially Aware Algorithm Design », Oxford University Press, 2019

     

    Les nombreuses chartes d’éthique de l’IA :

     

    Parmi celles-ci, on peut citer :

     

    pour une IA de confiance de la Commission européenne, Déclaration de Montréal, Asilomar, OpenAI, l’ OCDE, la charte de l’UNESCO, IEEE (Global Initiative on Ethics of Autonomous and Intelligent Systems), la CNIL, l’INRIA, l’ADELIAA   The Good Algorithm (colloque Académie Pontificale pour la Vie, Vatican, 02/2020), le réseau OPTIC et sa fondation Human Technology Foundation, Espérance&Algorithmes,  Impact AI,  CIGREF  etc.

     

    3.      Autres références

     

    John Eccles : « Comment la conscience contrôle le cerveau », 1994, Fayard, Le temps des sciences- 1997 – voir aussi « La conscience et son cerveau » (avec Karl Popper), « Evolution du cerveau et création de la conscience »

     

    Alain Cardon : « Conscience artificielle, systèmes adaptatifs », 1999, Eyrolles.

     

    John Von Neumann : « L’ordinateur et le cerveau » (1958, La Découverte 1992)

    Norbert Wiener:

    « God & Golem Inc, sur quelques points de collision entre cybernétique et religion », avec une postface de Gershon Sholem (discours de 1965 à Rehovot : « Le Golem de Prague et le Golem de Rehovot » (Rehovot était un centre de calcul informatique de l’Institut Weizmann). 1964, L’Eclat, 2000.

     

    Conférence de Dartmouth 1956 , reproduite dans  AI Magazine Volume 27 Number 4, 2006 https://ojs.aaai.org//index.php/aimagazine/article/view/1911

     

     

    « Le théorème de Gödel », textes de Nagel, Newman,Gödel et Girard, Seuil, Sources du savoir, 1989.

    « La machine de Turing », articles d’Alan Turing et Jean-Yves Girard, Seuil, Sources du savoir, 1995.

     

     

    Etienne de Rocquigny & alii : Livre Blanc « Modèles, data et algorithmes, les nouvelles frontières du numérique », sous la direction d’Etienne de Rocquigny (collectif AREMUS, BPI France, AMIES, GENCI) 03.2017

     



    [1] L’âme des animaux ou des plantes est un cas différent qu’on examinera plus loin. Voir notamment Somme contre les Gentils, Livre IIème, LXXXII et XC.

    [2] La Somme contre les Gentils, Livre deuxième, XLVI à CI, apporte les précisions nécessaires sur ces sujets.

    [3] Partie matérielle d’un système informatique.

    [4] Partie immatérielle (logiciel, programme) d’un système informatique ;

    [5] Peut-être parce qu’il y a quelque chose d’algorithmique dans la pensée scolastique ?

    [6] Imparfaitement et incomplètement durant la vie terrestre, de façon plus parfaite et plus large dans la vie éternelle à proportion de notre degré de béatitude (cf. saint Paul, 1Co 13,12 : « Maintenant nous voyons dans un miroir, d'une manière obscure, mais alors nous verrons face à face; aujourd'hui je connais en partie, mais alors je connaîtrai comme je suis connu. »

    [7] Suivant en cela Aristote (Métaphysique): « L’âme est l’acte premier (entéléchie) d’un corps naturel (pour le distinguer des corps artificiels) organique (doté des instruments suffisants aux opérations de l’âme)  ayant la vie en puissance. »

    [8] On connaît la définition thomiste de la vérité : « adaequatio intellectu rei », l’intellect se met en accord avec la réalité, avec la chose, ces dernières lui étant extérieures et indépendantes de lui.

    [9] On pourra sur ce sujet lire avec profit R. Garrigou-Lagrange op, « Le sens commun, la philosophie de l’être et les formules dogmatiques », 1922, Ed. Nuntiavit, 2010.

    [10] « Nihil est in intellectu quod non sit prius in sensu », saint Thomas d’Aquin, De Veritate, Q2, a. 3, arg. 19. On attribue en général cet adage formulé par l’Aquinate, à l’école péripatéticienne. Elle constitue en effet une synthèse assez exacte de ce que dit Aristote dans les premières pages de sa Métaphysique, I, 980 etc. que le De Veritate cite d’ailleurs abondamment.

    [11] Les fameuses « conférences Macy, de 1946 à 1953, rassemblant mathématiciens, logiciens, ingénieurs, physiologistes et neurologues, économistes etc. Ainsi que la déclaration de Dartmouth, 1956.

    [12] La cybernétique consiste à modéliser et piloter un système (mécanique, biologique, environnemental…) en faisant réagir les sorties du système sur ses entrées, par une boucle dite de « rétro-action ». On parle aussi d’asservissements.

    [13] Considéré comme le père de la cybernétique, auteur d’un algorithme de filtrage du signal très efficace (avant Kalman-Bucy) et auteur notamment de « Cybernétique et société, l’usage humain des êtres humains », 1950, Seuil Points/Sciences 2014) et de « God & Golem Inc, sur quelques points de collision entre cybernétique et religion », avec une postface de Gershon Sholem, 1964, L’Eclat, 2000.

    [14] S’est illustré dans de nombreux domaines, notamment mathématiques, théorie des jeux, arments nucléaires, informatique, économie, etc. et auteur « L’ordinateur et le cerveau » (1958, La Découverte 1992)

    [15] Adaptation d’une solution à un besoin

    [16] « La conscience et son cerveau » (avec Karl Popper), « Evolution du cerveau et création de la conscience », « Comment la conscience contrôle le cerveau ». Tous traduits chez Fayard, Le temps des sciences.

    [17] G.W. Hegel : Phénoménologie de l’esprit, 1807

    [18] Martin Heidegger « Qu’appelle-t-on penser ? » (cours à l’université de Fribourg-en-Brisgau, 1951 et 1952), PUF, Quadrige, 2019

    [19] L’analogie dans le raisonnement est une comparaison sur une ressemblance plus ou moins accidentelle. La connaissance analogique concerne les concepts ; on distingue analogie d’attribution et analogie de proportionnalité (propre ou non).

    [20] La métonymie est qualitative, c’est une figure par laquelle un mot acquiert une signification nouvelle par un élargissement ou un rétrécissement de son sens. Ici, on rétrécit le sens du mot « intelligence artificielle », qui est une fonction, en l’appliquant à la machine, qui est son support.  De même, « boire une bonne bouteille », « boire un verre » déplace le contenant au contenu.

     La synecdoque est quantitative, elle exprime le moins par le plus ou inversement : « J’aperçois une voile à l’horizon », pour « J’aperçois un voilier ». Dans les deux cas, il y a continuité et contiguïté entre le sens premier et le sens modifié

    [21] Métaphysique, Traité de l’âme, II, 1, 3.

    [22] On sait que l’intelligence a pour fonction de connaître la Vérité, et que la vérité est l’adéquation de l’intelligence à la réalité.

    [23] Voir dans Norbert Wiener : « God & Golem Inc, sur quelques points de collision entre cybernétique et religion », avec une postface de Gershon Sholem (discours de 1965 à Rehovot : « Le Golem de Prague et le Golem de Rehovot » (Rehovot était un centre de calcul informatique de l’Institut Weizmann).

    [24] Genèse 1, 26 déjà cité : «…  Faisons l’homme à notre image, selon notre ressemblance. »

    [25] Les anges et les démons, Parole & Silence, Bibliothèque de la Revue thomiste, 2007

     

    « Une vision protestante américaine du rôle social de l'entreprise:Howard R. Bowen,1953
    Partager via Gmail Yahoo!

  • Commentaires

    Aucun commentaire pour le moment

    Suivre le flux RSS des commentaires


    Ajouter un commentaire

    Nom / Pseudo :

    E-mail (facultatif) :

    Site Web (facultatif) :

    Commentaire :