Isaac Asimov – 1920/1992 – établit les lois de la robotique selon:
- Un robot ne peut porter atteinte à un être humain, ni, restant passif, permettre qu’un être humain soit exposé au danger.
- Un robot doit obéir aux ordres que lui donne un être humain, sauf si de tels ordres entrent en conflit avec la première loi.
- Un robot doit protéger son existence tant que cette protection n’entre pas en conflit avec la première ou la deuxième loi.
Suite à ces lois, il introduira la loi Zéro qui stipule qu’un robot peut préférer l’avenir de l’humanité à celle de l’individu.
Cependant, il reste toujours le cas où un robot verse du poison dans un verre qu’un autre robot plus tard servira à quelqu’un … selon l’auteur lui-même.
Mais alors, y aurait-il une loi entre -1 et 4 qui puisse sécuriser le tout? Oui et non je dirais:
- oui: on peut toujours sécuriser l’ensemble des lois en introduisant une nouvelle loi. Il y a cependant le piège de l’étouffement qui mènerait à l’inactivité du robot ou au contraire à sa paranoia.
- non: la compréhension de la loi, est-ce donc son domaine suggéré d’application, doit être d’un point de vue humain intelligible par la machine. Il y a donc une dépendance entre l’énoncé et la capacité d’interprétation de la machine.
Asimov pose cependant un jalon intéressant: les robots sont équipés de cerveaux positroniques censés leur conférer une capacité aigue d’analyse.
C’est cependant insuffisant car l’entendement ne saurait être jalonné. Si un Kip Thorne écrit qu’il peut comprendre la différence entre son cerveau et celui d’un Hawkins, la faculté de comparaison/jugement d’un robot dépend de critères qui relèvent plus de la quantique que de l’algorithmique.
Mais alors cette loi? D’autres écrivains se sont lancés dans une telle analyse bien avant ce billet, je souhaite cependant proposer ma loi, libre à chacun de la critiquer. J’avais pensé tout d’abord à:
Un robot vaut mieux que deux tu l’auras.
J’avais aussi pensé à Robot qui rouille amasse la mousse mais c’était moins dans l’action.
C’est une blague se dit-on avec des points d’exclamations. Je pourrais m’en sortir par une sorte d’aveu d’impuissance et répondre: oui, c’en est une. Toutefois, là où cela deviendrait intéressant, ce serait lorsqu’on se poserait la question: qu’est-ce qu’un robot pourrait en penser ? En quoi une non loi en apprence peut-elle faire office de loi? Et là le problème devient beaucoup plus épineux.
C’est ainsi que, de fil en aiguille, je me suis demandé ce qu’un robot penserait d’une parole morale, voire biblique, telle que:
Le robot ne fera pas à l’homme ce qu’il n’aimerait pas qu’on lui fasse.
Super, maintenant le robot pourra prendre 2 chemins selon qu’il interprète le “qu’il n’aimerait pas qu’on lui fasse” comme étant lui-même ou l’Homme. Ensuite il se posera la question: qu’est ce que moi ou l’Homme n’aimerait pas qu’on lui fasse …
