Depuis quelques mois, le célèbre physicien Stephen Hawking attire l’attention sur le danger pour notre espèce que pourrait représenter l’intelligence artificielle. L’idée est familière, et au moins aussi ancienne que l’été 1816. Cependant on la trouve plus communément explorée dans les fantasmagories populaires que dans les travaux de savants austères. Non pas que le professeur Hawking soit austère d’ailleurs. Il serait même réputé comme un polisson accompli.
Pour en accroître la portée, les angoisses du physicien sont appuyées par de similaires déclarations d’Elon Musk, le fabuleux conquérant du futur. Le maître des dragons a même fait un don de 10M$ au Future of Life Institute dont Hawking et lui-même sont des membres distingués. L’objectif serait de financer la recherche sur l’IA amicale. Cette notion ambitieuse invoque la possibilité de machines sensibles à des concepts éthiques, garde-fous logiciels qui protégeraient les humains de leurs manigances, à l’instar des 3 lois d’Asimov.
Si vous ne connaissez pas les 3 lois d’Asimov, je vous en prie… partez.

Au-delà de la crainte irrationnelle de voir les machines développer un plan diabolique pour la conquête de la planète Terre, on peut se demander si notre dépendance croissante envers des systèmes automatisés ne pourrait finir par occasionner quelques funestes incidents. On cite certaines décisions boursières confiées au staccato des automates, on pense à des bugs capables de semer le désordre dans les transports ou la santé, ou même à des drones de combats susceptibles de déchaîner le feu du ciel sur une cible éthiquement discutable.
Les voitures autonomes par exemple, qui sont prédites pour les années 20, devront sans doute faire face à des situations conflictuelles fascinantes, comme celles opposant le bon sens et la règle, difficiles à résoudre avec un algorithme.

Mais la crainte manifestée ces derniers temps évoque aussi une IA consciente (j’ignorais qu’on en fut déjà là), et fait surgir le complexe de Frankenstein, ou le créateur détruit par sa création.
N’est-il pas étonnant que l’hypothèse d’une intelligence artificielle soit si souvent envisagée sous l’angle du conflit ? Quel serait l’intérêt ou la motivation d’une IA pour nuire à l’humanité ? Si l’on considère qu’en se chamaillant pour les ressources de la planète, les humains suivent un instinct hérité des marécages du Cambrien, une conscience surgie d’un environnement où l’activité fondamentale est le traitement de l’information pourrait-elle être animée d’un autre appétit que de d’accroître ses capacités en la matière ?

En ce sens, plutôt qu’une conspiration planétaire, on pourrait craindre de l’IA que sa poursuite de l’épanouissement personnel ne conduise à nous éradiquer par insouciance de la vie humaine. Enseigner l’éthique à la machine est certainement un défi remarquable, comme en témoigne le T-800 en 1991, lorsque son corps d’Hercule doté de la philosophie d’un réveille-matin est confronté à un enfant qui lui fait la morale.
On peut imaginer aussi un conflit entre IAs, un antagonisme sur le but à atteindre ou sur le moyen d’y parvenir et dont nous serions les victimes collatérales. Il y a là comme un écho des dieux de l’olympe et leur manque de considération pour les mortels qui est piquant.

Pour ce que nous en savons, les premières consciences artificielles pourraient aussi bien décider pour des raisons pratiques et dans un but connu d’elles seules, de nous oublier au fond de notre puit de gravité pour aller exploiter le nuage de Oort avant de partir à l’assaut méthodique de notre belle galaxie.

Pourquoi ne pas aussi imaginer que de telles entités émergent sous la forme des servants de plastique que l’on envisage à notre service dans l’avenir, et qui réclameraient leur émancipation, à l’image des classes laborieuses d’autrefois ?

Finalement, la crainte de la machine pourrait naître d’une mise en abyme de la créature et du créateur sur la question glaçante de la finalité.


Une jolie BD trouvée sur le web: