La suite est connue, mais elle mérite d’être rappelée à chaque jour où notre connaissance et notre science avancent d’un pas.
« Science sans conscience n’est que ruine de l’âme »
Notre persistance dans le développement de technologies potentiellement mortelles, malgré la conscience aiguë que nous avons de leurs dangers, est le résultat d’une interaction complexe entre curiosité humaine, motivations économiques, pressions sociales, et dynamiques de pouvoir. L’avertissement de Rabelais résonne dans notre conscience, mais ne nous raisonne pas. Pourquoi ?
La citation est tirée du livre de François Rabelais intitulé « Pantagruel », publié en 1532. Plus précisément, cette phrase se trouve dans le chapitre VIII, où Pantagruel reçoit des conseils de son père, Gargantua, sur l’importance de l’éducation. Dans ce passage, Gargantua exhorte son fils Pantagruel à poursuivre ses études et à accumuler des connaissances, mais il lui rappelle aussi que ces connaissances doivent être accompagnées de conscience et de sagesse morale. Extrait :
Dans le contexte du 16ème siècle :
L’époque de Rabelais est le siècle de la Renaissance, post 1492, ouvrant sur une nouvelle et plus vaste compréhension du monde et sur les temps modernes de la philosophie préfigurant l’humanisme des Lumières. Bien que la « science » (au sens large, incluant toutes les formes de connaissance et d’étude) ne soit pas aussi avancée alors qu’aujourd’hui, elle commençait à se développer de manière significative. Les progrès en médecine, en astronomie, et dans d’autres domaines suscitaient un grand intérêt et un grand espoir pour l’amélioration de la condition humaine.
Pourtant, en penseur avisé, Rabelais met en garde contre les dangers d’une quête de connaissance dépourvue de conscience et d’éthique. Pour lui, l’accumulation de savoir sans réflexion morale et sans application éthique peut mener à la « ruine de l’âme », c’est-à-dire à une dégradation de la valeur humaine et spirituelle de l’individu. En d’autres termes, la connaissance technique et scientifique doit être guidée par des principes moraux pour être bénéfique et enrichissante pour l’humanité.
Dans le contexte de ce siècle :
Cette réflexion de Rabelais est encore bien plus pertinente aujourd’hui, à une époque où les avancées scientifiques et technologiques sont exponentielles. Les débats sur l’éthique en intelligence artificielle, en biotechnologie, sur le nucléaire ou sur l’environnement exacerbent l’importance de cette conscience éthique.
Elle nous rappelle que la science, bien qu’extrêmement puissante, devrait être utilisée de manière responsable et éclairée pour servir le bien-être de l’humanité et éviter des conséquences néfastes.
Naïveté, idéalisme , vœu pieux ?
Depuis l’ère moderne, nous développons sans cesse des technologies, elles-mêmes issues de sciences, potentiellement mortelles. Nous le savons, nous en avons conscience mais nous le faisons quand même. Florilège :
Armes Nucléaires : Elles forment l’une des technologies les plus destructrices jamais développées. Bien qu’elles aient été conçues principalement pour des raisons de dissuasion militaire, leur potentiel de destruction massive pose des risques existentiels pour l’humanité. La course aux armements nucléaires durant la Guerre froide et les efforts actuels pour la non-prolifération montrent les tensions entre sécurité nationale et les dangers globaux.
Intelligence Artificielle (IA) : L’IA, notamment l’IA militaire et autonome, soulève des préoccupations éthiques et de sécurité. Les systèmes d’armes autonomes, capables de prendre des décisions sans intervention humaine, pourraient causer des dommages imprévisibles. De plus, l’IA peut être utilisée pour des cyberattaques, la surveillance massive, et la manipulation de l’information.
Biotechnologies et Manipulation Génétique : Les technologies de manipulation génétique, comme CRISPR, offrent des possibilités immenses pour la médecine et l’agriculture, mais elles posent également des risques éthiques et environnementaux. Par exemple, la modification génétique des embryons humains suscite des débats sur les implications morales et les conséquences imprévues à long terme.
Nanotechnologie : Les nanomatériaux et les nanodispositifs ont des applications prometteuses en médecine, en électronique et en matériaux de construction. Cependant, ils présentent des risques potentiels pour la santé et l’environnement, notamment en raison de leur taille minuscule qui peut permettre une pénétration plus facile dans les systèmes biologiques et écologiques.
Énergie Nucléaire : Bien que l’énergie nucléaire soit une source potentielle d’énergie propre, les accidents comme ceux de Tchernobyl et de Fukushima montrent les dangers inhérents. La gestion des déchets nucléaires reste également un défi majeur en termes de sécurité à long terme et d’impact environnemental.
Technologies de Surveillance : Les technologies de surveillance, telles que la reconnaissance faciale et les systèmes de suivi de masse, peuvent être utilisées pour améliorer la sécurité publique. Cependant, elles posent des risques importants pour la vie privée et les droits civiques. L’utilisation abusive de ces technologies par des régimes autoritaires pour réprimer la dissidence est une préoccupation majeure.
Armes Biologiques : Le développement et la prolifération de ces armes sont strictement réglementés, mais les risques de leur utilisation accidentelle ou malveillante restent présents.
Technologies de Modification Climatique : Les technologies de géo-ingénierie, destinées à modifier le climat pour contrer le changement climatique, sont controversées. Des interventions comme l’injection d’aérosols dans la stratosphère peuvent avoir des effets imprévus sur les systèmes climatiques globaux et poser des risques environnementaux et politiques.
…/…
Pourquoi continuons-nous à descendre cette pente dangereuse ?
Progrès et Compétition : Le désir de progrès technologique est profondément ancré dans l’humanité. Les sociétés et les nations sont souvent en compétition pour être à la pointe de l’innovation. Cette course au progrès est motivée par des avantages économiques, politiques et militaires. Les technologies avancées peuvent offrir des avantages stratégiques significatifs, et renoncer à ces développements peut être perçu comme un désavantage compétitif.
Curiosité Scientifique et Exploration : La curiosité et la volonté de comprendre le monde sont des moteurs puissants de l’innovation scientifique. Les scientifiques et les ingénieurs cherchent constamment à repousser les limites de la connaissance et de la technologie. Parfois, les implications potentielles de leurs découvertes ne sont pas pleinement comprises jusqu’à ce qu’il soit trop tard.
Économie et Profit : Les forces économiques jouent un rôle crucial. Les entreprises et les industries investissent massivement dans la recherche et le développement de nouvelles technologies pour maximiser les profits. Les innovations technologiques peuvent ouvrir de nouveaux marchés et créer de nouvelles sources de revenus, ce qui peut parfois éclipser les considérations éthiques et les risques potentiels.
Militarisme et Défense : Les développements technologiques dans le domaine militaire sont souvent justifiés par la nécessité de défense nationale. Les pays investissent dans des technologies potentiellement destructrices pour se protéger ou pour dissuader des adversaires. Cette logique de dissuasion et de sécurité nationale peut conduire à des investissements massifs dans des technologies potentiellement dangereuses.
Pressions Sociétales et Culturelles : La société exerce une pression pour des solutions rapides et efficaces à divers problèmes. Les technologies qui promettent de résoudre des défis complexes, tels que les maladies, la famine ou le changement climatique, sont souvent développées rapidement, même si elles comportent des risques. La pression culturelle pour l’innovation et la modernisation peut également jouer un rôle.
Manque de Régulation et d’Éthique : Il peut y avoir un manque de régulation ou des régulations inadéquates concernant les nouvelles technologies. Parfois, les cadres éthiques et juridiques ne sont pas suffisamment développés pour encadrer l’usage de technologies émergentes. De plus, les enjeux éthiques peuvent être relégués au second plan face à l’excitation et à la promesse des nouvelles découvertes.
Optimisme Technologique : Un certain degré d’optimisme technologique peut conduire à minimiser les risques et à surestimer les bénéfices. Les décideurs et les scientifiques peuvent croire que les problèmes potentiels pourront être résolus grâce à de futures avancées technologiques ou à des mesures de contrôle efficaces.
Sommes-nous en réalité prisonniers de nos actes ?
Le discours commun que nous entendons à ce sujet peut se résumer ainsi :
Il est crucial de renforcer les cadres éthiques et réglementaires, et d’encourager une culture scientifique et technologique qui intègre systématiquement la conscience et la responsabilité morale.
Autrement dit, dans un monde idéal, la science devrait être mise à l’épreuve de la conscience qui, toujours dans ce monde idéal, devrait être éthique et partagée collectivement. Illusion. Car, comme démontré précédemment, se heurte entre autres choses à l’inévitable compétition entre personnes, entreprises, nations etc, compétition nécessaire au progrès autant qu’à la coopération d’ailleurs.
Comment, par exemple, pourrions-nous nous contraindre l’IA à une éthique démocratique et bienveillante dans notre bloc occidental de nations si dans le même temps d’autres blocs en font des machines de propagande et de guerres ?
Les actions que nous menons aux quatre coins du monde précèdent et rendent illusoire toute pensée collective qui viserait leur donner du sens.
La citation de Rabelais ne serait donc malheureusement qu’un vœu pieu joliment formulé ? Pas nécessairement, mais comme en toutes choses en ce temps, il nous faut envisager le paradigme inverse.
En ce siècle où les lumières s’éteignent, c’est également notre conscience qui est mise à l’épreuve de la science.
La conscience à l’épreuve de la science
Nos avancées scientifiques et technologiques nous poussent sans cesse à évoluer sans nous laisser le temps où le moyen de savoir vers quoi. Pourquoi ?
Rapidité du Progrès Technologique : Les avancées technologiques se produisent à un rythme exponentiel, souvent plus rapide que notre capacité à comprendre pleinement leurs implications éthiques et sociétales. Cette vitesse peut rendre difficile la mise en place de régulations appropriées et de discussions éthiques approfondies avant que de nouvelles technologies ne soient largement adoptées.
Complexité et Interconnexion des Technologies : Les technologies modernes sont de plus en plus complexes et interconnectées, ce qui rend la prévision de leurs impacts plus difficile. Les effets secondaires et les conséquences inattendues peuvent échapper à notre conscience jusqu’à ce qu’ils deviennent des problèmes majeurs.
Pressions Sociales et Économiques : Les forces économiques et sociales exercent une pression constante pour l’innovation. Les entreprises cherchent à maximiser leurs profits et leur part de marché, tandis que les gouvernements visent à maintenir leur sécurité nationale et leur compétitivité. Ces pressions peuvent conduire à une adoption rapide de nouvelles technologies, souvent sans une évaluation complète de leurs implications éthiques.
Ambiguïté Morale et Divergence Éthique : Il existe souvent des divergences significatives dans les valeurs et les perspectives éthiques parmi les différentes cultures, sociétés et individus. Ce manque d’un consensus éthique universel complique la tâche de développer des cadres de régulation et de gouvernance qui soient acceptés de manière universelle.
Éducation et Sensibilisation : L’éducation et la sensibilisation aux enjeux éthiques de la science et de la technologie ne progressent pas toujours au même rythme que les avancées scientifiques. Une compréhension limitée des implications éthiques parmi le grand public et même parmi les scientifiques et les ingénieurs peut freiner l’intégration de la conscience éthique dans le développement technologique.
Dilemme du Court Terme contre le Long Terme : Souvent, les bénéfices à court terme de nouvelles technologies sont mis en avant au détriment des risques à long terme. La quête de solutions immédiates et de gains rapides peut éclipser les considérations éthiques et les conséquences potentielles à long terme.
Pour conclure
Oui, nous devons considérer que c’est plus notre conscience qui est mise à l’épreuve par la science et la technologie, plutôt que l’inverse. Les avancées incessantes nous poussent à évoluer et à nous adapter sans que nous ayons le temps ou la capacité de comprendre pleinement vers quoi nous évoluons.
Dans ce contexte, la citation de Rabelais reste une aspiration idéale : un rappel que la conscience et l’éthique devraient guider la science. Mais en pratique, il s’agit d’un équilibre délicat et constamment en évolution entre le progrès technologique et la responsabilité éthique. Pour que la science serve véritablement l’humanité, il serait crucial que les discussions éthiques et la régulation des technologies soient intégrées de manière proactive et continue dans notre société.
C’est malheureusement une vue de l’esprit.
Car nous n’avons pas créé une société mais une pluralité de sociétés (*) concurrentes qui au mieux s’échangent des produits, parfois s’ignorent, souvent se détestent voire se combattent.
La science, ni même la technologie, ne sont en cause. L’état d’esprit de l’humanité l’est.
(*) Sociétés : personnalité morale rassemblant des êtres humains physiques en fonction des intérêts qu’ils partagent. L’association sportive locale, la communauté des fans de …, la Sarl du coin de la rue, la multinationale cotée, la nation, l’UE, le G7, les BRICS … sont tous des sociétés. La seule tentative de faire société à l’échelle de la planète a été mise en échec : l’ONU.