(essai)
Transhumanisme

et intelligence artificielle


Nietzsche & Co.
Surhommes en tout genre.
Demandez le catalogue
!

Quelle est la question ?


Des projets scientifiques et technologiques en cours pourraient
aboutir à une sorte de relève de l'humanité actuelle sous la
forme annoncée d'un
transhumanisme.

De quoi s'agit-il ?
Ce serait l'émergence (*), d'hommes "améliorés" et 
"augmentés", disons H+ ou H 2.0 (**), moins
vulnérables et plus performants par rapport à
nous les
1.0
sur les plans à la fois

   * physique, mécanique (avec une bonne louche de
     robotique et nanotechnologie
),
 

   * mental
(avec une surcouche d'intelligence
      numérique
)

   * et
biologique /génétique (santé, viellissement
      visant même à l'immortalité).

C'est pour quand ?
Ces projets, où sont engagés de très gros moyens, visent cette
émergence, le point d'inflexion où nous les primitifs passeront
la main, vers 2040-2050, certes peut être en sous-estimant
les obstacles.


Quoi en penser, nous les humains 1.0 ?
On n'a pas là une nouvelle recette de cuisson des oeufs durs.
Il est clair que les perspectives sont considérables et que les
effets positifs et négatifs seront déterminants. Mais aussi 
quasiment impossibles à prévoir vu l'importance de la 
mutation dont il faut chercher un précédent au néolithique.

Mais on peut au moins réfléchir aux points qui seront
à surveiller
. C'est à quoi s'intéresse cet article.

(*) La notion d'émergence de nouvelles caractéristiques, naissant à
      partir d'un seuil critique d'évolution, est une propriété des
      systèmes  dynamiques "ouverts" étudiés par le Prix nobel
      Ilya Prigogine 


(**) ces numérotations 1.0 et 2.0 sont assez arbitraires et partent

        de l'humanité actuelle (sapiens sapiens), sans remonter aux
        hominidés.

Cet article ne cherche pas à  faire le tour complet des techniques
envisagées, d'ailleurs aussi  complexes
qu'évolutives, mais à
réflêchir à ce que pourrait être une société d'hommes
"augmentés
".

=> Cette société serait-elle elle -même ...augmentée ?

D'abord la pêche au gros

Avant de tenter une analyse fine et détaillée des divers effets
- positifs ou néfastes - que l'on peut entrevoir, autant commencer
par l'aspect le plus grosssier, la question la plus basique et
provocatrice sans avoir peur de se fourvoyer dans des platitudes.

Et c'est la remarque -tout à fait pertinente - d'Einstein sur
l'omniprésence de la bêtise humaine qui offre l'amorce d'une 
telle question : 


L'intelligence artificielle
menace-t-elle la bêtise humaine ?


Les  humains 2.0 ont montré dans l'histoire leur capacité à
s'autodétruire collectivement, à partir de luttes de pouvoir. 

Alors l'avènement des 2.0 verra-t-il

 * l'émergence dans la société d'une sagesse commune, au moins
    sur ce plan ?

* ou au contraire ce mode de comportement désastreux sera-t-il
   lui aussi ...augmenté ?


Fin de l'espèce humaine 1.0 ?

Sommes-nous bons pour le musée ?

Vivons-nous les derniers instants
de l'espèce humaine actuelle ?


D'abord un rappel sur ce qui a conduit à l'humanité actuelle.


L'homme actuel résulte d'une série de mutations avec diverses
étapes et variantes depuis un ou deux millions d'années. 


Les sociétés humaines elles-mêmes ont évolué, avec des
divergences et aussi des enrichissements réciproques.

Le stade actuel de la société si on la prend dans son ensemble,
est celui de la fameuse mondialisation des échanges de toutes
sortes. 

Hé oui, de toutes sortes, pas seulement économiques comme le
fait  une approche certes courante, mais réductrice. 



Qui dit échanges dit


* rapprochement, qui fait que le monde est devenu monde,
   une révolution copernicienne (désolé pour le cliché),  qui relativise, 
   même si elles s'accrochent, à la fois

   - la fameuse "souveraineté" sans partage des nations

-    et d'autres "identités" en fonctions d'origines (poids de l'histoire
      et des traditions) plus que d'affinités de projets


* mais aussi diversité et même foisonnement.

   C'est donc arbitrairement, un peu trop en bloc, pour simplifier par
   rapport à la diversité humaine et sociale , que cet article parle
   d'hommes 1.0 pour caractériser l'espèce humaine actuelle et la
   société qu'elle forme. 


Autre chose, tout n'est pas si nouveau pour notre espèce, clairement
évolutive. On peut inclure dans cette évolution les peintres rupestres
d'il y a 30 000 ans, puis les chocs culturels et technologiques accélérés
des dix
derniers millénaires.

Pour ne prendre qu'un exemple, la durée de vie humaine moyenne
a déjà sérieusement progressé
.

Disons que par rapport aux sapiens sapiens de base, nous avons atteint
au
minimum le stade humain 1.06, voire 1.10.

Une estimation très prudente, dont vous pouvez négocier les centimes  !


Maintenant projettons nous sur ce que pourra donner
l'évolution future
.


Reprenons le la question basique de savoir si cette espèce évoluera
sous forme :


* soit d'un remplacement par une nouvelle espèce, les humains 2.0,
   aux facultés titanesques et des durées de vie individuelles se
   chiffrant
en siècles.

   Une espèce dotée, reprenons l'idée, d'une plus grande sagesse ?
   Ce franchissement d'un 
seuil de sagesse apporterait l'émergence
   du niveau supérieur d'organisation du système, telle que le
   prévoit la théorie
évoquée plus haut sur les systèmes dynamiques
   "ouverts" en général. Il pourrait évoluer dans le sens :
  

* soit d'une grande tuerie, hypothèse à ne pas écarter, cette espèce a
   hélas fait ses preuves en cette matière, étant conduite par la peur ou
   par la convoitise / l'esprit de domination, émotions qui se prêtent
   facilement aux exacerbations collectives. Les fameux "robots tueurs",
   risquent d'être un simple épiphénomène dans cette hypothèse
   d'embrasement général  ....numérisé  

   On pourrait alors dire, désolé Prigogine, que l'entropie et le chaos
   auraient gagné, adieu  l'émergence, l'auto-organisation, la mutation
   vers un système de niveau supérieur


Essayons de formuler la question en entrant plus avant
dans la psychologie individuelle et collective :

* Cette espèce 2.0 sera-t-elle plus rationnelle et ainsi
   mieux se débrouiller que nous ?

* Ou gardera-t-elle la plupart de nos travers mentaux,
   dont cette capacité à s'autodétruire déjà citée ?

* Ou même, sera-t-elle le support de travers ou
   perversités inédits ?
   
    Par exemple, empêtrée dans les nationalismes, notre espèce, rien

    ne dit si sa version 2.0 aplanira les clivages ou les multipliera, a
    bien du mal à bâtir une
mondialisation démocratique pour
    survivre aux défis planétaires
aussi divers qu'inquiétants.

Avec une nouvelle structure sociale ?


Nous verrons plus loin les impacts possibles sur la conscience collective.

En tout cas au plan culturel de la connaissance de l'homme et de
l'univers,
le tranhumanisme produirait un
séisme paradigmique ,
pour ne pas répéter révolution
copernicienne
.


Plus
prosaïquement, l'organisation sociale serait profondément
influencée et devra prendre en compte :


* de fortes évolutions démographiques, dus à l'allongement
   spectulaire
de la  durée de vie,

* D'importantes questions d'adaptation économique et
   sociale
, entre autres la répartition des coûts et avantages,
    dans la population, pouvant faire resurgir les débats de
    classe
(voir ci-après),


* Les évolutions du fonctionnement politique : équilibre
   entre société et droit des individus, modes de prise de
   décision
.

N'y aura-t-il que des 2.0 dans le futur,
ou cela sera réservé à des privilégiés ?


Evidemment  le coût de toutes les nouvelles technologies très
complexes qui seront mises en jeu va entraîner des questions

Une question centrale pourrait être de savoir comment se fera
l'allocation de ces ressources
comme disent les économistes.

Enoncé plus crûment, comment se fera le choix de ceux qui
bénéficieront le plus de ces nouvelles facultés qui engageront
d'énormes coûts 


Constatons que d'ores et déjà le coût de la santé croît
fortement par l'utilisation de technologies médicales de
plus en plus sophistiquées et spécifiques à chaque cas à
traiter.


Ce choix sera t-il totalement libre, sous forme d'auto-organisation
(une des caractéristiques des systèmes dynamiques) ou sous la
coupe de telle ou telle
autorité politique ?


Sur ce plan on peut supposer que certains marxistes et bourdieusiens
nous diront que
cette évolution technique sera pour une grande part
réservée à une nouvelle classe, sans doute
par autoreproduction
d'une classe "dominante" préexistente qui ne gardera les 1.0 que
comme prolétariat exploité.

OK, tous les scénarios sont à envisager. 

Mais, pour aller plus loin dans le cynisme, entre nous quel serait
l'intérêt d'une classe transhumaine élitique de disposer d'une classe
humaine asservie, puisque des robots 1.xx (des robots dont l'IA serait
bridée pour ne pas s'émanciper) feraient mieux l'affaire et seraient
moins turbulents ?

Un autre point qui relativise cette hypothèse de discrimination
économique est qu'une t
echnologie au coût inabordable au départ
voit souvent ce coût chûter jusqu'à devenir accessible à quasiment
tout un chacun après un certain nombre d'années.  Bon, OK, disons
quelques dizaines d'années, encore que l'analyse d'ADN et certains
algotithmes de décision et cyber-automatismes soient déjà devenus
d'une grande banalité

Du transhumanisme lowcost, quoi !
Avec toutefois, en attendant la généralisation éventuelle du 2.0,
toute une hiérarchie
humaine et sociale passant par les 1.2, les 1.5,
les 1.8...
Chacun son étage dans l'ascenseur transhumain !


Et la question morale de l'eugénisme dans tout cela ?


Comme évoqué en introduction, la génétique fera partie des techniques
visant au transhumanisme.

Voilà de quoi relancer le débat moral sur l'eugénisme, définie comme
recherche d'amélioration génétique non naturelle de l'espèce humaine,
doublée d'une sélection tout aussi artificielle, et qui plus est serait
autoritair
e.

L'eugénisme peut comporter notamment :

* un contrôle discriminatoire de la procréation (stérilisations
   forcées),

* et / ou un formatage uniformisant des individus, en éliminant des 
   caractéristiques considérées indésirables pour la société,

* ou encore la sélection, ou même la création, par manipulation
   des gènes, de types
, voire de races d'individus spécialisés dans
   telles ou telles fonctions plus ou moins élitistes ou subalternes.

On sait aussi que l'idée d'eugénisme avait mené à des expériences de
sinistre mémoire au siècle dernier.

Cela dit, difficile de relancer d'ores et déjà ce débat sans savoir quelles
pratiques génétiques précises utiliserait la recherche transhumaniste,
par exemple en matière :

* de santé et vieillissement, qui semblent être les objectifs prioritaires,

* mais aussi d'évolution des facultés cognitives. Les neurosciences font
   sur ce plan de gros progrès.

OK donc, il est prématuré de se prononcer plus avant, tant qu'on n'en
connait pas plus sur  :


* le principe même de telle ou telle pratique précise que
   certains pourraient accuser de manipulation
mettant en
  
en danger l'espèce.

* ou son application, qui pourrait dériver de façon 
   autoritaire sans respecter le libre arbitre de l'individu.

C'est donc un domaine qui sera à suivre de très près, de préférence
sans tomber dans des fantasmes¨(*) , et à encadrer si besoin est, à
partir de la connaissance qui sera acquise.
A la fin de cet article est d'ailleurs posé le problème de la gestion des
impacts du transhumanisme de façon plus générale.

(*) déjà que le débat est féroce sur le maïs ogm, imaginez la frénésie
de certaines réactions, étayées ou de principe,
si l'on touche à un
seul gêne, transmissible ou non,  de l'être humain,
même à titre
thérapeutique !


Quelle seront les propriétés mentales

de la (néo) humanité ?


Quid de la créativité ? L'IA y est-elle apte ?

D'énormes progrès en IA ont lieu quasiment chaque jour, avec :

* des machines dont la puissance croit de façon exponentielle
* et des outils mathématiques de plus en plus performants

pour analyser et combiner de façon massive (mégadonnées / big
data)
l'intéraction de facteurs extrèmement nombreux pour
comprendre des phénomènes complexes dans un but prédictif
pour l'aide à la décision.

Cela dit dans un univers et une société gouvernés par l'incertitude,
où pullulent les surprises, on peut avoir des doutes sur l'aptitude
créatrice que pourraient
atteindre les robots et leur intelligence
artificielle
pour
:


* faire face à des situations entièrement nouvelles, aux causes et
   effets par nature non connus, même de Madame Irma.


OK, le "big data" pour recenser les évolutions même les plus
nouvelles et s'y adapter opportunément, très bien aussi les

moteurs probabilistes
pour traiter les questions ordinaires.

Mais la modélisation à ses limites notamment dans les donaines 
"soft". Les risques de "plantage" ne sont pas à négliger. Il vaut
mieux ne pas trop se sécuriser, trop se laisser materner par des
modèles aux conclusions considérées imparables !

Il faut admettre que
prendre des décisions engageant l'avenir
c'est faire des paris,
accepter les incertitudes du monde.
Elles  tendent à échapper, c'est la nature même (et le charme)
des incertitudes, aux statistiques
passées. Elles peuvent aussi
rendre instantanément caduques les tendances les plus
nouvelles, qui peuvent n'être que des feux de paille, voire
des illusions d'optique.
Sans parler des bugs non repérés dans les programmes et
du
cyber piratage !


Décider c'est l'affaire du ...décideur, pas de son
assistant
intelligent.
Sagesse et
intelligence, c'est pas tout à fait la
même chose !


* et surtout ....être apte à créer ces nouvelles situations par
   l'innovation technique, sociale ou autre dite "de rupture" échappant
   à la logique conventionnelle.
  

L'innovation, la créativité supposent en effet un esprit rebelle,
capable de renier des savoirs acquis, voire fortement  ancrés.


C'est dépasse la simple mécanique dite "autoapprenante"
souvent vue comme le Graal que doit viser l'IA.


* sans oublier une autre question  : comment l'IA saura traiter les
   sous-entendus et l'humour ? Hé oui, l'esprit farfelue est cousine
   de la rébellion, certes en plus "soft", moins tournée vers l'action,
   mais basée aussi sur une rupture du sens.


Quid de la conscience autonome de la partie "robot"?


Si dans un futur éloigné l'IA aboutit à la prise de conscience
autonome par la machine ce qui est considéré le niveau 2 de
l'IA (*), elle ne ferait pas que prolonger l'intelligence du concepteur,
mais s'en émanciperait.

(*) l'IA dite "forte" selon les travaux d'un précurseur,
     Alan Turing.


L'ordinateur "intelligent" sera-t-il devenu un être
conscient et
émancipé quand, non seulement il
éprouvera des
émotions, critère souvent avancé,
mais quand de façon délibérée (et pas seulement
en appliquant un automatisme inséré par son
programmeur il refusera d'obéir, ou trichera, ou
fera des actions
malhonnêtes ou néfastes ?

Même l'autoapprentissage, traité plus haut, ne suppose pas une
conscience indépendante, non asservie. L'hypothèse de conscience
autonome parait en fait un peu utopique (*), mais on ne sait jamais...
Contentons nous de parler, c'est pour l'instant plus vraisemblable,
de simple
degré de conscience pour le robot.

(*) les neurosciences n'ont déjà même pas déterminé comment se
      produit la conscience dans le cerveau humain, même si une zone,
      le claustrum, est suspectée d'en être le chef d'orchestre


Au fait, si le robot à un jour une conscience, est devenu un être
sensible en plus d'être  intelligent, il réclamera des droits, non ?


Ce qui se produirait probablement c'est une interconnection de
pensées
entre la / les machine (s) et l'homme avec qui elle(s)
serai(en)t en symbiose, l'un des un fondements du transhumanisme,
chacune des deux types d'entités apportant son propre degré de
conscience.

Quelle serait alors la latitude de chaque partie d'un cerveau devenu
ainsi "bionique" pour prendre des décisions, sachant que certaines ne
pourraient pas attendre le bon vouloir de deux parties, au risque de
ne pas traiter les besoins ?

Tempête sous un transcrâne ? Ou simple problème de délégation de
pouvoirs bien connu en management ?


Quid de la conscience collective de la néo-humanité ?


L'être transhumain serait bien entendu largement et directement
connecté
aux diverses sources de connaissance et à son environnement
physique et social, et enverra lui-même de multiples informations dont 
certaines personnelles (d'ores et déjà la montre connectée peut
transmettre jusqu'aux battements de coeur de celui qu la porte).

Naîtrait-il alors une conscience collective des humains 2.0 ? Par accès
de chacun à toutes les connaissances universelles (mégadonnées) ? On a
là non seulement l'homme augmenté mais aussi l'homme étendu, en
fusion avec l'univers

Ce que certains appellent la noosphère (article seulement en anglais
pour
l'instant)


Mais cela ne serait-il pas incohérent avec l'autonomie mentionnée
plus haut, puisque cela comporterait des menaces de
 
* Perte de vie privée  puisque le système  puiserait dans les données
   personnelles pour optimiser son fonctionnement
* Production de conformismes, avec des idées de plus en plus
   communes
* Autres phénomènes de groupes pas tous désirables domination
   des individus par la société, excès divers comme dans des civilisations
   qui se sont écroulées en abusant de leur illusoire toute-puissance ...) ?

Ce ne serait en rien nouveau. Les humains 1.0, certes censés moins
intelligents, mais il s'agit ici de sentiment et non d'intelligence, ont
montré leur tendance au conformisme allant parfois, l'histoire l'a
montré, jusqu'au totalitarisme de groupe.

En tout cas cela rend d'autant plus urgent le besoin d'organiser le monde
autrement que sous la souveraineté absolue des états-nations
, le faire
évoluer vers des formes moins barbares et clivantes, dans un esprit de
mondialisation démocratique,  

Quid des émotions individuelles et collectives ?


L'émotionnel, très présent chez l'homme, comme résultat de l'évolution,
pourrait être plus ou moins court-circuité par l'IA.

Cela dit, il est vrai que l'émotion a ses travers (p. ex. haîne,  surconfiance,
mimétisme...) pouvant être destructeurs.


En notant cependant que
* sans émotion, bonjour le manque de motivation à agir !
* il y a des émotions positives. Survivront-elles ?

Ainsi donc:
* Les 2.0 finiront-ils en automates, par conformisme
   "hyperrationel"
(et
non plus émotionnel tel que
    mentionné plus haut pour les 1.0) ?


* Ou au contraire acquéreront-ils plus d'autonomie,
    de liberté et de différentiation ?
    Ben oui, ce serait une drôle d'idée d'acquérir des pouvoirs
    fabuleux pour se se retrouver dans un carcan social !


* Ou bien encore la psychologie humaine atteindra t'elle un
   nouveau seuil critique (encore les systèmes dynamiques,
   un dada de l'auteur, vous l'avez remarqué) avec de
   nouvelles émotions "émergentes"
, inconnues
   jusqu'ici ?

   Dont certaines pourraient être particulièrement perverses
   (ou magnifiques, d'ailleurs).

Cela dit, même si prédomine de l'intelligence, qui dit que les envies de
domination ne resteraient pas les plus fortes
, et feraient retomber 
la société dans des conflits dévastateurs (on retrouve là l'hypothèse
où l'émergence d'une société supérieure avorterait)

Au total, ce serait un bien ou un mal ?
Comment savoir quels seraient les
impacts. Comment les gérer ?
 


Faut-il freiner le processus ? Ou l'accompagner ?


On peut phosphorer à perte de vue sur les effets possibles.

Mais, comme pour toute innovation "de rupture", et si
cette évolution est inéluctable, difficile de décréter
des entraves préalables sur la base du
sinistre
"principe de précaution"
qui,
à partir d'hypothèses non
vérifiées / non vérifiables,
refuse à l'avance toute
innovation scientifique et technique.


Le mieux serait plutôt d'accompagner cette évolution 
car seul le retour d'expérience, au fil des développements,
pourra éclairer le débat d'un possible encadrement


Toute activité, par exemple l'utilisation de l'automobile, est devenue
légalement encadrée, notamment pour gérer les responsabilités.

Donc il n'y a pas de raisons que le transhumanisme génétique, la
robotique, l'intelligence artificielle, le croisement massif de données
personnelles et autres pratiques pouvant transformer l'individu, ne
se situent pas dans un cadre juridique adéquat, bâti au fur et à
mesure qu'on connaîtra leurs véritables effets


Il est donc clair que ma petite accroche provocatrice en début
d'article sur bêtise naturelle et intelligence artificielle ne doit pas
être prise argent comptant. Tout au plus au stade actuel peut-elle
amener à trouver des pistes non définitives de points qui 
devront faire l'objet d'évaluation
.

Par exemple les risques de dérive eugénique, déjà mentionnés
devront être suivis de près.


Alors, des juristes dans la salle ?

Ainsi donc sur ces domaines des comités d'éthique s'imposent pour
construire peu à peu un cadre au vu des évolutions.  Mais leur 
pouvoir  de sanctionner les dérives risque d'être théorique car
extra-judiciaire.

C'est là que les institutions judiciaires chargées des droits de
l'homme au niveau mondial
, dont les pouvoirs restent eux
aussi encore très bridés par la domination des Etats-nations,
devront un jour ou l'autre se saisir de la question et constituer une
jurisprudence.

Compléments historiques et philosophiques

Voir un lien vers une approche complémentaire, notamment du

contexte historique et philosophique



Ah au fait, faudra t'il définir des droits et devoirs spécifiques aux
robots
(Asimov nous a mis sur la voie) et aux transhumains ?

Retour à collection : articles de société migrés depuis Knol
Retour à collection : articles d'économie migrés de Knol
Retour à collection: articles sur la société / le monde migrés de Knol


(classement par analogie car l'article n'éxistait pas sur Knol avant
migration)


 
M.a.j. / updated :10  oct. 2015
All my ex-knols / Tous mes ex knols   
Disclaimer / Avertissement légal

This site tracked by OneStat.com. Get your own free site tracker.