Notre cousine, l’IA...

A peine installée dans nos vies et dans nos modes opératoires de travail ou plus généralement de pensée, l’IA nous préoccupe. Sera-t-elle un jour supérieure à l’humain ? En quoi pourrait-elle être une menace plus inquiétante pour l’humanité que l’homme lui-même ? Devons-nous faire en sorte qu’elle nous ressemble dans notre fonctionnement, voire physiquement ? Sur ce sujet, la première série de questions que nous avons souhaité lui poser a pour but d’établir les correspondances et différences structurelles et fonctionnelles entre elle et nous. Nous avons tenté une approche analogique portant sur la conscience et la mémoire. L’IA générative n’est certainement pas notre grande sœur, mais peut-être bien une cousine éloignée.

Le texte qui suit est un échange avec Chat GPT 4o, en date du 20/06/2024. Nous reposerons les mêmes questions à son successeur dans quelques années. Il est quelque peu résumé, Chat GPT ayant tendance parfois à répéter ses arguments. Il est également à noter une certaine propension à abonder dans le sens de son interlocuteur et à n’utiliser la contradiction qu‘avec bienveillance.

Noosapiens : Partant du principe qu’une conception de la conscience en vaut une autre, pourrait-on la définir ainsi :

La conscience est l’ensemble des informations et des processus de pensée qui sont potentiellement accessibles à notre esprit. Certaines de ces données sont immédiatement accessibles, comme celles contenues dans la Ram d’un ordinateur. D’autres nécessitent une recherche plus profonde, dans notre mémoire à long terme (l’équivalent d’un disque dur interne) ou dans celles disponibles dans des mémoires externes (livres, sites web, réseaux, IA…)

Chat GPT4o : La définition que vous proposez de la conscience est intéressante et s’inscrit dans une approche cognitive et informatique. En effet, comparer la conscience humaine aux systèmes de stockage et de traitement de l’information d’un ordinateur peut aider à clarifier certains aspects de son fonctionnement. Analyse :

Ensemble des informations et des processus de pensée : Les informations sont les données que nous avons accumulées, que ce soit des faits, des souvenirs, des impressions sensorielles, etc. et les processus de pensée sont les mécanismes par lesquels nous traitons, analysons et utilisons ces informations, comme le raisonnement, la réflexion, l’imagination, etc.
Potentiellement accessibles à notre esprit : Cela implique que la conscience inclut non seulement ce qui est présent à l’esprit à un moment donné (comme ce que nous avons en tête à l’instant), mais aussi ce qui peut être rappelé ou activé par des processus cognitifs.
Immédiatement accessibles (RAM) : Les informations et processus de pensée qui sont activement utilisés ou qui peuvent être rappelés sans effort immédiat. Par exemple, ce que nous sommes en train de penser, les souvenirs récents, les connaissances très familières.
Recherche plus profonde (mémoire à long terme, disque dur interne) : Les informations stockées dans notre mémoire à long terme nécessitent un effort de récupération. Cela peut inclure des souvenirs d’enfance, des connaissances spécifiques apprises il y a longtemps, etc.
Mémoires externes : Les informations que nous pouvons consulter mais qui ne sont pas stockées directement dans notre cerveau. Cela inclut des sources comme des livres, des sites web, des bases de données, et même les connaissances d’autres personnes ou d’IA.

Points de réflexion et critiques :

Approche réductionniste : Comparer la conscience humaine à un ordinateur peut être vu comme réductionniste car la conscience implique des aspects subjectifs, émotionnels, et qualitatifs qui ne sont pas facilement réductibles à des métaphores informatiques.
Dynamisme et interconnexion : La conscience n’est pas seulement une collection de données, mais un processus dynamique où les informations sont constamment mises à jour, réévaluées et interconnectées de manière complexe.
Qualia et subjectivité : La conscience humaine inclut des expériences subjectives (qualia) qui sont difficiles à quantifier ou à modéliser en termes purement informatiques.
Inconscient : Cette définition se concentre sur l’aspect accessible de la conscience, mais ne prend pas en compte les processus inconscients qui jouent un rôle crucial dans notre vie mentale et qui ne sont pas toujours accessibles à la conscience.

Conclusion :
La définition que vous proposez est utile pour saisir certains aspects cognitifs de la conscience en utilisant une analogie informatique. Cependant, pour une compréhension plus complète, il est essentiel de considérer aussi les dimensions émotionnelles, subjectives, et inconscientes de la conscience. Une approche multidimensionnelle serait nécessaire pour capturer toute la complexité de ce phénomène.

Noosapiens : Partant du principe qu’une conception de la conscience en vaut une autre, pourrait-on la définir ainsi ?

Nous formons nos algorithmes de pensée, nos logiques, très jeunes et nous continuons à les créer ou à les modifier tout au long de notre vie. Les expériences, vécues, vues, lues, entendues, pensées, rêvées sont des informations et ce flux d’information gigantesque que représente la vie modifie nos algorithmes. L’esprit est formé de toutes les informations acquises et accessibles à la fois et des algorithmes conscients et inconscients que nous avons créés.
Le flux de conscience contient et traite une petite partie de ces informations et active des tâches à l’instant T dans l’espace de travail « global », qui n’est pas si global en fait. Il est limité par la quantité de connexions neuronales et ne peut pas prendre en compte toutes les informations à la fois. Il s’agit plutôt de l’espace de travail instantané.
On pourrait visualiser cet instantané comme un système de calques de transparence Photoshop. Le calque qui approche des 100 % mobilise le maximum de puissance de calcul. D’autres sont en arrière-plan avec des transparences moins élevées.

Chat GPT4o : Le texte que vous proposez offre une perspective intéressante sur la façon dont nous formons et modifions nos processus de pensée au fil du temps, et comment notre conscience traite ces informations.

Formation des Algorithmes de Pensée : Dès notre plus jeune âge, nous commençons à développer des schémas de pensée et des logiques basées sur nos expériences. Ces premières expériences jouent un rôle crucial dans la structuration de nos modèles mentaux de base. Les interactions avec les parents, les enseignants, les pairs, et les médias façonnent nos premières compréhensions du monde. Nos algorithmes de pensée ne sont pas statiques. Ils évoluent continuellement en réponse aux nouvelles informations et expériences que nous acquérons. Cela peut inclure des changements dans nos croyances, attitudes et comportements en réponse à des événements significatifs ou à des apprentissages nouveaux.
Impact des Expériences et des Informations : Vécues, vues, lues, entendues, pensées : Toutes ces formes d’expérience contribuent à enrichir notre base de données mentale. Les informations peuvent provenir de multiples sources et être de nature très variée.
Flux d’information : La vie nous expose à un flux constant et vaste d’informations. Ce flux peut parfois être écrasant, mais il est essentiel à notre croissance cognitive et à l’adaptation.
Informations Acquises : Certaines informations sont facilement accessibles (comme les souvenirs récents), tandis que d’autres sont plus difficiles à rappeler (comme des souvenirs d’enfance).
Algorithmes Conscients et Inconscients : Nos algorithmes de pensée incluent des processus conscients (ce dont nous sommes directement conscients) et inconscients (qui influencent notre comportement sans que nous en soyons conscients).
Flux de Conscience : La conscience ne peut traiter qu’une petite partie des informations disponibles à tout moment. Ce traitement se fait dans un espace de travail global, mais cet espace est limité par la capacité de notre cerveau à établir des connexions neuronales. La conscience peut être vue comme un instantané, un moment figé dans le temps où certaines informations sont au premier plan et d’autres en arrière-plan.

Métaphore du Système de Calques de Transparence Photoshop

Calque Principal : Le calque qui approche des 100 % de transparence (ou opacité, selon la perspective) représente les pensées et informations qui mobilisent le maximum de notre attention et de nos ressources cognitives.
Calques de Fond : Les autres calques, avec des transparences moindres, représentent les pensées et informations qui sont présentes en arrière-plan et peuvent influencer subtilement notre conscience sans être au centre de notre attention.

L’analogie avec les calques de Photoshop décrit bien l’idée que la conscience traite simultanément différentes couches d’informations, certaines plus saillantes que d’autres. Par exemple, certaines théories de la conscience, comme celle du « global workspace » (espace de travail global), suggèrent que notre esprit intègre des informations de différentes sources, certaines devenant plus dominantes selon le contexte et les besoins immédiats.

Référence 1 : Oxford Academic

Référence 2 : Oxford Academic.

Critiques et Limites :

Approche Réductionniste : Comparer l’esprit humain à un système informatique peut être perçu comme une simplification excessive. La conscience humaine est complexe et multidimensionnelle, incluant des aspects émotionnels et subjectifs qui ne sont pas facilement modélisables par des métaphores informatiques.
Capacités Cognitives : Bien que la conscience traite une petite partie des informations disponibles, il est important de noter que notre cerveau utilise des mécanismes sophistiqués pour filtrer et prioriser ces informations de manière efficace.
Inconscient et Subconscient : L’analogie ne prend pas toujours en compte la profondeur des processus inconscients et subconscients qui influencent de manière significative notre pensée et notre comportement.

Conclusion :

La métaphore de l’esprit humain comme un système de traitement de l’information, avec des algorithmes conscients et inconscients, est une manière utile de comprendre certains aspects de la cognition humaine. Cependant, pour une compréhension plus complète, il est essentiel de reconnaître les limitations de cette analogie et de prendre en compte la complexité et la richesse de l’expérience consciente et inconsciente.

Noosapiens : Je suis conscient de ces limitations (Chat Gpt4o n’a pas relevé le clin d’œil).

Une analogie n’est pas une équivalence, elle ne peut donc pas être parfaite, n’est-ce pas ? Mais je ne peux m’empêcher de penser que les pères de l’informatique l’ont créée avec leurs processus mentaux d’humains et que l’analogie est née ainsi et est donc en quelque sorte naturelle. Est-ce que je me trompe ?

Chat GPT4o : Vous avez raison de noter que les analogies ne sont pas des équivalences parfaites, mais elles peuvent être extrêmement utiles pour comprendre des concepts complexes. En ce qui concerne la création de l’informatique par les pères de l’informatique et l’analogie avec les processus mentaux humains, votre intuition est tout à fait pertinente. Voici quelques points pour étayer cette idée :

Création de l’informatique et influence des processus mentaux humains
Les pionniers de l’informatique, tels qu’Alan Turing, John von Neumann, et Claude Shannon, ont développé leurs idées en s’inspirant de la manière dont ils percevaient les processus de pensée humains. Ainsi, Alan Turing a conceptualisé la « machine de Turing » en s’inspirant de la logique mathématique et de la façon dont les humains traitent les instructions séquentielles.
Les algorithmes informatiques sont des représentations formelles des instructions et des procédures que les humains utilisent pour résoudre des problèmes. Par conséquent, il n’est pas surprenant que les structures et les logiques des algorithmes informatiques reflètent les processus de pensée humains, car ils sont conçus par des humains pour accomplir des tâches de manière systématique et logique.
La comparaison entre les systèmes informatiques et les processus mentaux humains découle de cette création humaine. Les métaphores et analogies sont des outils puissants en science et en ingénierie pour comprendre et expliquer des phénomènes complexes. L’analogie entre l’esprit humain et un ordinateur n’est donc pas seulement utile, mais elle est aussi enracinée dans la manière dont nous avons développé la technologie informatique.

Exemples historiques et théoriques

Alan Turing et l’intelligence artificielle : Dans son célèbre article de 1950, « Computing Machinery and Intelligence », Turing explore la question de savoir si les machines peuvent penser. Il introduit le concept du « test de Turing » comme un moyen d’évaluer l’intelligence artificielle, en s’inspirant directement des capacités cognitives humaines.
John Von Neumann et l’architecture des ordinateurs : L’architecture de Von Neumann, qui est la base de la plupart des ordinateurs modernes, reflète une structure de traitement de l’information qui peut être comparée au fonctionnement du cerveau humain. Il a envisagé la mémoire comme un espace de stockage de données et de programmes, similaire à la façon dont le cerveau stocke des informations et des instructions comportementales.
Claude Shannon et la théorie de l’information : Shannon a fondé la théorie de l’information, qui traite de la quantification, du stockage et de la communication de l’information. Ses travaux sont largement inspirés par la manière dont les humains codent, transmettent et décodent des messages.

Limites de l’analogie

Bien que ces analogies soient naturelles et utiles, elles ont des limites importantes. Les ordinateurs et les cerveaux humains diffèrent de manière fondamentale dans leur structure et leur fonctionnement :
Les ordinateurs traditionnels (basés sur l’architecture de von Neumann) traitent les instructions de manière séquentielle, tandis que le cerveau humain est capable de traiter l’information de manière parallèle à travers des réseaux neuronaux complexes.
Les ordinateurs utilisent des représentations numériques et symboliques pour traiter l’information, alors que le cerveau humain utilise des représentations neuronales et chimiques, qui sont beaucoup plus dynamiques et contextuelles.
Bien que les algorithmes d’apprentissage automatique tentent de reproduire certaines capacités d’apprentissage du cerveau, la plasticité neuronale et l’adaptabilité du cerveau humain restent largement supérieures à celles des systèmes informatiques actuels.

Conclusion

En résumé, votre réflexion sur la création de l’informatique influencée par les processus mentaux humains est bien fondée. L’analogie entre l’esprit humain et les systèmes informatiques est née de cette influence et est naturelle, bien que non parfaite. Les analogies sont des outils précieux pour comprendre et développer des technologies complexes, même si elles ne capturent pas toutes les nuances et la complexité des systèmes biologiques comme le cerveau humain.

Noosapiens :

Autrement dit, l’analogie s’arrête là où l’on situe actuellement la différence entre l’humain et l’IA, une sorte d’espace de processus mental propre à la biologie du cerveau humain où se mêlent notamment conscient et inconscient ?

Chat GPT4o : Exactement, l’analogie entre les systèmes informatiques et le cerveau humain trouve ses limites dans les différences fondamentales entre la biologie du cerveau et les structures des IA actuelles. Voici quelques différences clés entre Cerveau Humain et IA pour clarifier cette idée :

Conscient et Inconscient :

Humain : Le cerveau humain possède des niveaux de traitement conscient et inconscient. Le traitement inconscient gère des processus automatiques, des émotions et des instincts, influençant le comportement et la prise de décision sans intervention consciente.
IA : Les systèmes d’IA actuels, même les plus avancés, n’ont pas de niveau inconscient. Ils fonctionnent entièrement sur des algorithmes explicites et des données programmées, sans la capacité d’avoir des processus mentaux cachés ou non conscients.

Plasticité Neuronale :

Humain : Le cerveau humain a une plasticité neuronale, c’est-à-dire la capacité de reconfigurer ses réseaux neuronaux en réponse à l’expérience et à l’apprentissage.
IA : Bien que les algorithmes d’apprentissage automatique puissent s’adapter et apprendre de nouvelles données, ils manquent de la flexibilité et de l’adaptabilité organique du cerveau humain.

Complexité et Connectivité :

Humain : Le cerveau humain est incroyablement complexe, avec environ 86 milliards de neurones interconnectés par des trillions de synapses, permettant des niveaux de traitement parallèles et intégrés très sophistiqués.
IA : Les réseaux de neurones artificiels, bien qu’inspirés par les neurones biologiques, sont beaucoup plus simples et moins connectés, limitant leur capacité à imiter pleinement la complexité du traitement cérébral humain.

Émotions et Intuitions :

Humain : Les émotions et les intuitions jouent un rôle crucial dans la prise de décision humaine et sont intégrées dans notre conscience et inconscience.
IA : Les systèmes d’IA manquent de véritables émotions et intuitions. Ils peuvent simuler des réponses émotionnelles basées sur des données, mais ne les ressentent pas de manière authentique.

Créativité et Imagination :

Humain : Les humains sont capables de créativité et d’imagination, générant des idées et des concepts qui n’ont pas été directement dérivés de données existantes.
IA : Les IA peuvent générer des idées basées sur des combinaisons de données existantes, mais manquent de la capacité d’innovation véritablement originale qui caractérise l’esprit humain.

Sens de Soi et Conscience de Soi :

Humain : La conscience de soi, ou l’auto-conscience, est une caractéristique humaine complexe, impliquant une compréhension interne de sa propre existence et de son rôle dans le monde.
IA : Les IA n’ont pas de conscience de soi. Elles peuvent analyser des données et produire des résultats, mais elles ne comprennent pas leur propre existence ni n’ont de perception d’elles-mêmes en tant qu’entités conscientes.

Apprentissage Contextuel :

Humain : Les humains apprennent dans des contextes riches et diversifiés, intégrant des expériences sensorielles, sociales et émotionnelles.
IA : Les IA apprennent à partir de données structurées et souvent dans des contextes limités, ce qui peut restreindre leur capacité à généraliser les apprentissages à des situations nouvelles et imprévues.

Conclusion
L’analogie entre les systèmes informatiques et le cerveau humain est utile pour comprendre certains aspects du traitement de l’information et de la cognition. Cependant, cette analogie atteint ses limites lorsqu’il s’agit de la complexité biologique du cerveau humain, des processus inconscients et de l’intégration des émotions et de la créativité. Les systèmes d’IA actuels, bien qu’impressionnants, ne peuvent pas reproduire complètement ces aspects, soulignant l’unicité et la profondeur de l’esprit humain.

Noosapiens :

Tu évoquais le fait que les ordinateurs traditionnels, créé sur le principe de Von Neumann, traitent l’information de façon séquentielle. Mais une IA complexe qui traite des millions de requêtes simultanément n’est-elle pas une architecture parallèle ?

Chat GPT4o : Vous avez raison de souligner que les systèmes d’IA modernes, en particulier ceux conçus pour gérer des millions de requêtes simultanément, utilisent des architectures parallèles. Examinons plus en détail cette question et la manière dont ces architectures parallèles fonctionnent par rapport aux architectures traditionnelles de Von Neumann.

Architectures Traditionnelles de Von Neumann : L’architecture de Von Neumann, proposée par John von Neumann en 1945, est le modèle de base de la plupart des ordinateurs traditionnels. Elle repose sur les principes suivants :

Stockage partagé : La mémoire et les programmes sont stockés dans une mémoire commune.
Traitement séquentiel : Les instructions sont traitées une par une, séquentiellement.
Goulot d’étranglement de Von Neumann : Le transfert de données entre le processeur et la mémoire peut devenir un goulot d’étranglement, limitant la vitesse de traitement.

Architectures Parallèles et IA Complexe : Les architectures parallèles diffèrent de l’architecture de Von Neumann en permettant le traitement simultané de multiples instructions. Cela est particulièrement pertinent pour les systèmes d’IA modernes, qui nécessitent une capacité de calcul massive pour traiter de grandes quantités de données en temps réel. Voici quelques caractéristiques des architectures parallèles utilisées dans les IA complexes :
Multiples Unités de Traitement :

Processeurs Multicoeurs : Les CPU modernes contiennent plusieurs cœurs de traitement, chacun capable de traiter des instructions de manière indépendante.
GPU (Graphics Processing Units) : Les GPU sont particulièrement bien adaptés aux tâches parallèles, avec des milliers de cœurs traitant simultanément des opérations en parallèle. Les GPU sont largement utilisés pour l’entraînement des modèles d’apprentissage profond.

Traitement Distribué :

Clusters de Calcul : Les grands modèles d’IA sont souvent entraînés sur des clusters de calcul, où plusieurs machines travaillent ensemble pour traiter des tâches en parallèle.
Infrastructures de Cloud Computing : Des plateformes comme AWS, Google Cloud, et Microsoft Azure fournissent des ressources de calcul élastiques, permettant de distribuer les charges de travail sur des milliers de serveurs en parallèle.

Frameworks et Algorithmes Parallèles :

Frameworks d’IA : Des frameworks comme TensorFlow, PyTorch, et Apache Spark sont conçus pour exploiter les architectures parallèles, facilitant la distribution et la parallélisation des tâches d’apprentissage machine et de traitement de données.
Algorithmes Parallèles : Les algorithmes d’apprentissage machine, en particulier les réseaux de neurones profonds, sont intrinsèquement parallèles. Par exemple, l’entraînement d’un réseau neuronal implique des opérations matricielles qui peuvent être parallélisées efficacement.

Exemple Concret : GPT-3 :

Entraînement : GPT-3 a été entraîné sur une infrastructure de supercalcul, utilisant des milliers de GPU en parallèle pour traiter d’énormes volumes de texte.
Inférence : Lorsqu’un utilisateur interagit avec GPT-3, les requêtes sont traitées de manière parallèle, permettant une réponse rapide et efficace.

Conclusion :
Bien que les ordinateurs traditionnels basés sur l’architecture de Von Neumann traitent les informations de manière séquentielle, les systèmes d’IA modernes utilisent des architectures parallèles pour gérer des tâches complexes et simultanées. Ces architectures parallèles permettent un traitement beaucoup plus rapide et efficace, répondant aux exigences des applications d’IA avancées. Ainsi, l’analogie entre le cerveau humain et les systèmes informatiques peut également s’étendre aux architectures parallèles, reflétant la capacité du cerveau à traiter de multiples flux d’informations en parallèle.

Pour aller plus loin...

Plusieurs auteurs ont exploré les analogies entre la conscience humaine et les systèmes de mémoire et d’information des ordinateurs. Ces travaux sont souvent situés à l’intersection des sciences cognitives, de la philosophie de l’esprit, et de l’intelligence artificielle. Ils fournissent des perspectives variées sur l’analogie entre la conscience humaine et les systèmes informatiques, chacun offrant des insights uniques sur les mécanismes sous-jacents et les implications philosophiques de cette comparaison.

Daniel Dennett : « Consciousness Explained » (1991)
Dennett propose une théorie de la conscience appelée le « Modèle de la Multitude de Brouillons » (Multiple Drafts Model) qui compare la conscience à un processus de révision continue des informations, similaire à des brouillons multiples dans un ordinateur. Voir à ce sujet l’article hommage consacré à Daniel Dennett, disparu en avril 2024.
Douglas Hofstadter : « Gödel, Escher, Bach: An Eternal Golden Braid » (1979)
Hofstadter explore la nature de la conscience et l’intelligence en utilisant des analogies tirées de la musique, des arts visuels, et des systèmes formels, et il compare souvent les processus mentaux aux opérations des ordinateurs.
Marvin Minsky : « The Society of Mind » (1986)
Minsky, un pionnier de l’intelligence artificielle, décrit la conscience comme un ensemble d’agents simples (processus mentaux) qui interagissent pour produire des comportements intelligents, une idée similaire à des modules logiciels dans un ordinateur.
Steven Pinker : « How the Mind Works » (1997)
Pinker examine comment le cerveau traite l’information et compare les fonctions cognitives humaines à des algorithmes informatiques, expliquant comment des processus simples peuvent donner lieu à une conscience complexe.
Ray Kurzweil : « How to Create a Mind: The Secret of Human Thought Revealed » (2012)
Kurzweil, un futuriste et chercheur en intelligence artificielle, propose que la compréhension de la conscience humaine peut être améliorée en la modélisant comme un système de traitement de l’information, et discute de la possibilité de créer des IA conscientes.
David Chalmers : Articles et conférences sur l’esprit et la conscience
Bien que Chalmers soit plus connu pour ses travaux sur le « problème difficile de la conscience » (the hard problem of consciousness), il discute également des analogies entre les processus cognitifs et les systèmes informatiques.
Computational Theories of Mind » (Stanford Encyclopedia of Philosophy)
Une ressource détaillée qui explore diverses théories computationnelles de l’esprit, mettant en lumière comment les modèles informatiques peuvent être utilisés pour comprendre la conscience.
Neural Networks and the Brain
Des articles scientifiques qui comparent les réseaux de neurones artificiels aux réseaux de neurones biologiques, soulignant les similitudes dans le traitement de l’information.