Sujet du Merc. 25 Mai 2016 : Le droit des robots.

Le droit des robots.

                

Avec l’émergence actuelle de la robotique et des intelligences artificielles, on est en droit de se demander quelle place nous leur accorderont dans notre société. La première question que l’on pourrait se poser serait, qu’est-ce qu’un robot ? Une intelligence artificielle ?

-          Un robot est un dispositif mécatronique (association de mécanique et d’électronique) accomplissant automatiquement soit des tâches qui sont généralement dangereuses, pénibles, répétitives ou impossibles pour les humains, soit des tâches plus simples mais en les réalisant mieux que ce que ferait un être humain. (Wikipédia)

-          L'intelligence artificielle est la discipline scientifique relative au traitement des connaissances et au raisonnement, dont le but est de permettre à une machine d'exécuter des fonctions normalement associées à l'intelligence humaine : compréhension, raisonnement, dialogue, adaptation, apprentissage, etc. (Futura science)

Actuellement, la robotique est particulièrement avancée. Les robots les plus récents pourraient parfaitement être confondus avec un être humain, ou atteignent des précisions de mouvement et de vitesse dépassant largement nos capacités.

En ce qui concerne l’intelligence artificielle, l’avancement reste encore difficile, même avec la victoire récente d’alphaGo sur le jeu de Go, ou encore la première histoire écrite par un programme informatique. Dans ce dernier cas, l’homme a dû intervenir à hauteur de 70-80% dans cette écriture. Éventuellement, nous pourrions améliorer ces logiciels, mais ils resteraient des programmes fonctionnant sur le principe du "deeplearning" : utilisation d'une très grande base de données en amont pour apprendre à effectuer une tâche précise (comme reconnaître un visage ou un objet particulier sur une photo).

Pour déterminer le droit des robots et I.A., il nous faudra, avant tout, définir le niveau de conscience de ceux-ci. Nous pouvons évoquer ici la notion de singularité technologique, qui définit le point limite où une intelligence artificielle devient réellement consciente. 

Mais celui-ci reste cependant très flou, puisque nous ne savons déjà pas comment définir parfaitement notre propre conscience. 

Dans ce cas, comment pourrions-nous définir le niveau de conscience de notre création ? Celui-ci pourrait être défini par sa capacité à innover, à créer, à s’intéresser, à avoir conscience de soi. Pour répondre à la question, nous étudions l’activité de notre cerveau, afin d’en comprendre les rouages et de peut-être, ainsi, en tirer les schémas de fonctionnement de notre propre conscience. Pourrons-nous, par la suite, la retransmettre dans un micro-processeur ? 

Plusieurs pistes sont à l’étude : processeurs quantiques, l’architecture 3D, les processeurs biologiques…

Dans le cas d’un niveau de conscience équivalent au nôtre, il faudra peut-être penser à limiter leur niveau d’action. En effet, s’ils nous ressemblent, rien ne les empêcherait de nous attaquer. Pour éviter cela, nous pourrions nous inspirer des trois lois de la robotique d’Isaac Asimov :

1.      un robot ne peut porter atteinte à un être humain ni, en restant passif, permettre qu'un être humain soit exposé au danger.

2.      un robot doit obéir aux ordres qui lui sont donnés par un être humain, sauf si de tels ordres entrent en conflit avec la première loi.

3.      un robot doit protéger son existence tant que cette protection n'entre pas en conflit avec la première ou la deuxième loi.

Ces lois ont été écrites pour rendre dociles les robots, en faire des esclaves. Si nous voulons nous protéger de nos créations, devrons-nous donc les asservir ?