Vers une déshumanisation ? Et la morale alors ?
Il y a maintenant 10 jours (i.e. le 18 décembre), plusieurs sites Internet faisaient état de craintes par rapport aux risques liés à l’intelligence artificielle et aux robots. Les articles (consultables ici et là) rebondissaient alors sur les déclarations de Noel Sharkey, ingénieur informatique et psychologue spécialisé dans les machines cognitives et la robotique, publiées dans Science.
Puisque nous avons évoqué plusieurs aspects positifs de ces technologies dans les articles précédents (amélioration de la gestion des tâches de production et bénéfices pour la santé et la médecine notamment), il semble donc pertinent de revenir tout aussi sérieusement sur leur côté sombre.
Sharkey n’est pas un opposant virulant et fanatique - au contraire, puisqu’il développe lui-même des recherches dans le domaine de l’intelligence artificielle et participe à l’organisation de concours de robots partout dans le monde. Mais il tient, en parallèle, un discours éthique de mise en garde.
Vie domestique
Ainsi, il s’interroge sur les effets potentiellement néfastes des robots baby-sitters : ceux-ci sont actuellement si perfectionnés qu’ils sont capables de gérer des enfants en bas âge pendant plusieurs jours sans intervention des parents.
Mais aucune étude ne s’est encore penchée sur les effets à long terme de ce problème : les enfants trop privés de contacts humains parentaux souffriront-ils dans leur développement ? Noel Sharkey évoque une ancienne expérience effectuée sur des bébés singes, montrant que ceux-ci grandissaient dans de mauvaises conditions sans leur parents.
Soldats-robots
Il faut aussi rappeler son article dans le Guardian, daté du 18 août 2007 (consultable en cliquant sur ce lien), qui critique vivement l’utilisation de robots dans des conflits armés. L’armée américaine utilise déja des drônes de reconnaissance, des détecteurs de mines antipersonnel et des dispositifs d’aide à la prise de décision pour le soldat sans mettre sa vie en danger. Mais, d’ici 2010, elle aura investi 4 milliards de dollars dans la création d’un soldat artificiel capable de combattre.
Contre qui et comment ? Dans cet article du Telegraph, les partisans de ces recherches affirment qu’un robot sera un meilleur combattant qu’un être humain : sa perte ne représente aucune souffrance, il n’a pas de sentiments et ne se laisse pas influencer par des émotions dues au stress de la situation. De plus sa programmation serait conforme aux Conventions de Genève ; il s’attaquerait aux autres machines et non aux humains a priori.
Sharkey est par contre dégoûté. S’il reconnait les avancées conséquentes en intelligence artificielle, pour lui, les robots ne sont pas capables de prendre les bonnes décisions à coup sûr et risquent de commettre des erreurs (meurtre de civils par exemple). La réalité est beaucoup moins avancée que dans les oeuvres de science-fiction ; de plus il y a fort à parier que les êtres humains seront pris pour cible (quel intérêt d’arbitrer un conflit par une bataille de robots alors que la guerre est une entreprise de dévastation des gens et des infrastructures ?).
Pour Sharkey, il est impératif de rédiger des lois quant à l’éthique des combats robotisés, ce que les militaires approuvent également. Mais en attendant, la réalisation de soldats artificiels dévastateurs semble beaucoup plus réaliste à court terme que la création d’un cerveau cognitif (voir notre article à ce sujet).
On le voit, le futur n’est pas toujours rose, même en ce qui concerne le progrès - et ce n’est pas nouveau. Que ce soit dans la vie domestique, dans la résolution de conflits ou encore dans le domaine du travail (chômage, par exemple dans les chaînes de production d’automobiles entièrement robotisées), les robots risquent, en remplaçant l’être humain, de laisser place à des inconnues.
Faut-il en avoir peur ? Faites part de votre avis !
