Ce robot refuse un ordre s’il se sent en danger : le début de la fin ?


Un robot peut refuser de ne pas exécuter un ordre si cela le met en danger, mais dans un avenir très proche, on veut que ces robots puissent être une aide pour la personne, mais jusqu’où les scientifiques iront dans la programmations des robots ? Pourquoi, nous voulons remplacer l’être humain pour l’aide comme par exemple aux  personnes âgées, alors qu’ils auront plus besoin des contacts humains ?
Nuage

 

Ce robot refuse un ordre s’il se sent en danger : le début de la fin ?

 

Le robot Pepper au premier plan, et Nao au second, tout deux mis au point par la société Aldebaran Robotics.

Le robot Pepper au premier plan, et Nao au second, tout deux mis au point par la société Aldebaran Robotics.

Photo: Nicolas Datiche/SIPA

ROBOTIQUE – Deux experts en robotique américains ont programmé le robot Nao pour qu’il soit capable de refuser un ordre si ce dernier met son existence en danger. Une expérience fascinante et à la fois effrayante pour notre futur commun.

Dans le film « Ex-Machina », Ava est une humanoïde dotée d’une intelligence artificielle hors-norme. A la fois belle et fascinante, elle finit par soupçonner son créateur de vouloir la tuer. Elle décide de tout mettre en œuvre pour s’échapper d’un laboratoire ultra-moderne, dans lequel elle est murée. Et ainsi s’affranchir de toute domination humaine. Certes, nous en sommes encore très loin.

Mais ce scénario futuriste n’a pourtant rien de loufoque. Les chercheurs américains Gordon Briggs et Matthias Scheutz de l’université de Tufts (États-Unis) viennent d’en faire une brillante démonstration. Pour cela, les deux compères ont programmé un robot Nao, développé par la société Aldebaran Robotics, afin qu’il soit capable de refuser un ordre, du moins s’il le met en danger.

D’ici quelques années, ce robot sera utilisé pour des services d’aide à la personne. Pour s’occuper des personnages âgées, en résumé. Dans la vidéo de présentation (tournée à la va-vite), le chercheur commande au robot Nao de s’asseoir, puis de se relever. Ce dernier obéit alors au doigt et à l’œil. Quand soudain il lui demande d’avancer jusqu’au bord d’une table, le robot s’arrête net, puis ce dernier explique qu’il ne peut pas le faire, au risque de mettre sa « vie » en danger.

Les « trois lois de la robotique » d’Asimov

Pour terminer la démonstration, le scientifique ordonne au robot Nao de marcher en avant, en ajoutant qu’il sera rattrapé au moment de la chute. Evidemment, il opère sans rechigner à cet instant. La confiance aveugle dont fait preuve la machine a été programmée dans sa mémoire (électronique). Bref, dans son disque dur. Mais qu’en sera-t-il le jour où un robot sera capable de briser les chaînes qui l’asservissent, à l’instar d’Ava dans le film « Ex-Machina » ?

Le célèbre écrivain de science-fiction Isaac Asimov, au demeurant inventeur du mot « robot », a déjà réfléchi à la question. D’ailleurs bien avant leur apparition dans le monde réel. Dans un roman intitulé « Cycle des Robots » (« Nous les robots » en français), publié aux Etats-Unis au début des années 80, il formule ce que l’on appelle les « Trois lois de la robotique« .

Règle numéro 1 ⇒ Un robot ne peut porter atteinte à un être humain, ni, en restant passif, permettre qu’un être humain soit exposé au danger.
Règle numéro 2 ⇒  Un robot doit obéir aux ordres qui lui sont donnés par un être humain, sauf si de tels ordres entrent en conflit avec la première loi.
Règle numéro 3 ⇒ Un robot doit protéger son existence tant que cette protection n’entre pas en conflit avec la première ou la deuxième loi.

A en croire Asimov, ces trois lois sont censées garantir la paix entre l’homme et la machine. Gageons pour notre avenir commun qu’aucun scientifique n’ose un jour blasphémer ces principes. Dans le cas contraire, l’écrivain visionnaire ne donne pas cher de notre peau.

http://www.metronews.fr/

Une réponse à “Ce robot refuse un ordre s’il se sent en danger : le début de la fin ?

Votre commentaire

Entrez vos coordonnées ci-dessous ou cliquez sur une icône pour vous connecter:

Logo WordPress.com

Vous commentez à l’aide de votre compte WordPress.com. Déconnexion /  Changer )

Photo Google

Vous commentez à l’aide de votre compte Google. Déconnexion /  Changer )

Image Twitter

Vous commentez à l’aide de votre compte Twitter. Déconnexion /  Changer )

Photo Facebook

Vous commentez à l’aide de votre compte Facebook. Déconnexion /  Changer )

Connexion à %s