Quand les robots deviendront plus intelligents que nous…
Par Stéphane Durand
Publié en complément du carnet insolite
Attention, il faut bien faire la différence entre :
1) quand les ordinateurs vont atteindre grosso modo notre intelligence (ce qui n’est bien sûr pas encore le cas)
2) ce qui va se passer après.
Par « intelligence d’un niveau humain », on peut se contenter de considérer qu’un ordinateur peut faire tout ce qu’un humain peut faire, sans « comprendre » nécessairement ce qu’il fait; c’est-à-dire sans avoir une conscience équivalente à la nôtre. Cela ne change rien à l’argument présenté dans ma chronique.
Donc, premièrement, la question n’est pas de savoir si les machines vont atteindre un jour notre intelligence, mais plutôt quand cela va arriver. La plupart des chercheurs sont convaincus que cela va se produire avant la fin du siècle. Mais certains pensent que ca pourrait être d’ici 20 ans. Ensuite, comme expliqué dans ma chronique radio (et c’est le point crucial), il semble très probable qu’elles vont rapidement dépasser notre intelligence. Voila pourquoi, selon Nick Bostrom (le directeur du « Future of Humanity Institute » de la célèbre université d’Oxford), il vaut la peine de commencer dès maintenant à réfléchir à cette éventualité.
Son livre : Nick Bostrom, Superintelligence, 2014.
On peut penser qu’il est facile de programmer un robot pour qu’il ne nuise jamais aux humains. Mais c’est plus compliqué qu’il n’y parait. Supposons qu’un robot aide un pêcheur à rendre plus efficace son système de pêche. Supposons qu’il le rend tellement efficace que tous les autres pêcheurs n’arrivent plus à vivre de leur pêche devenue famélique. Est-ce que le robot leur a nuit? Et n’aurait-il pas dû alors aider le premier pêcheur? Et si le robot est dans une situation où il pourrait faire un geste qui blesserait quelques personnes mais en sauverait en même temps une centaine de la mort. Que doit-il faire? C’est exactement comme pour un système juridique : quand on pense qu’on a pensé à tout, il reste toujours une façon d’interpréter qui nous avait échappé au départ.
En complément, une de mes chroniques de l’an passé sur un sujet similaire, ainsi que sa page web complémentaire.