![\"Allons-nous](\"http:\/\/www.massarate.ma\/wp-content\/uploads\/2015\/09\/robot-future-f.jpg\")
<\/p>\n<\/p>\n
Lorsque le formidable article “Pourquoi le futur n’a pas besoin de nous” de Bill Joy, directeur scientifique de Sun Microsystems, fit la une de Wired Magazine\u00a0en avril 2000, il d\u00e9cha\u00eena les passions dans les cercles du secteur high-tech. Sa th\u00e8se \u00e9tait que “les technologies les plus puissantes du 21e si\u00e8cle -la robotique, le g\u00e9nie g\u00e9n\u00e9tique et les nanotechnologies- menacent d’extinction l’esp\u00e8ce humaine”.<\/p>\n
Bill Joy parlait alors de technologies capables de s’autoreproduire, dont nous perdrions le contr\u00f4le. Alors qu’elles relevaient jusqu’alors de la science-fiction, leur av\u00e8nement ne serait plus qu’une question de d\u00e9cennies, voire d’ann\u00e9es. Des dizaines de milliers de scientifiques, d’ing\u00e9nieurs, de math\u00e9maticiens, et d’informaticiens produisent \u00e0 tour de bras des corpus th\u00e9oriques et des applications sp\u00e9cialis\u00e9es, sans faire grand cas de leurs impacts globaux.<\/p>\n
Leur financement est assur\u00e9 par divers budgets militaires \u00e9tatiques, en grande partie externalis\u00e9s au profit de grands groupes industriels, mais aussi, de plus en plus, par les efforts que consacrent certaines entreprises mondialis\u00e9es. La croissance de la production de connaissance a \u00e9volu\u00e9 de mani\u00e8re exponentielle avec l’acc\u00e9l\u00e9ration des capacit\u00e9s des ordinateurs et leur \u00e9volution vers plus d’autonomie.<\/p>\n
70% du volume des \u00e9changes boursiers des Etats-Unis sont d\u00e9sormais le fait d’ordinateurs et de leurs algorithmes -ce qui n’est encore qu’un aper\u00e7u du futur qu’avait d\u00e9crit Bill Joy.<\/p>\n
Chez les futurologues les plus \u00e9clair\u00e9s, les pr\u00e9occupations portent sur les cons\u00e9quences souhait\u00e9es mais aussi sur les r\u00e9percussions non d\u00e9sir\u00e9es. Les armes autonomes, par exemple, peuvent \u00eatre con\u00e7ues dans un certain but par les arm\u00e9es, mais leur usage peut d\u00e9boucher sur des situations non souhait\u00e9es et plus redoutables, o\u00f9 ces armes d\u00e9cideraient d’elles-m\u00eames qui et quand elles frapperaient.<\/p>\n
Le mois dernier, l’astrophysicien Stephen Hawking, le confondateur d’Apple Steve Wozniak et Elon Musk, dirigeant de Tesla Motors, ont sign\u00e9 avec de nombreux autres experts une lettre ouverte appelant \u00e0 une interdiction des armes autonomes. Ce texte avance que “Si jamais une puissance militaire venait \u00e0 prendre de l’avance dans ce domaine, une course \u00e0 l’armement entre toutes les nations serait in\u00e9vitable”, ajoutant que “\u00e0 la diff\u00e9rence des armes nucl\u00e9aires, leur fabrication ne demande pas de mati\u00e8res premi\u00e8res co\u00fbteuses ou difficiles d’acc\u00e8s, elles se g\u00e9n\u00e9raliseront donc tr\u00e8s vite et leur production en grandes s\u00e9ries sera peu co\u00fbteuse pour toutes les puissances militaires d’importance”.<\/p>\n
L’intelligence artificielle (IA) ou les “machines pensantes” sont bien plus inqui\u00e9tantes pour les scientifiques et technologues s\u00e9rieux que ne le laisse penser le faible nombre de ceux qui s’expriment publiquement.<\/p>\n
En d\u00e9cembre dernier, dans une interview accord\u00e9e \u00e0 la BBC, Stephen Hawking, de sa voix synth\u00e9tis\u00e9e par ordinateur, mettait en garde: “le d\u00e9veloppement d’une v\u00e9ritable intelligence artificielle pourrait signer la fin de la race humaine… Cette IA pourrait acqu\u00e9rir par elle-m\u00eame son ind\u00e9pendance, et s’auto-recomposer \u00e0 une vitesse sans cesse croissante”. Grand penseur, Hawking relevait que “les humains, brid\u00e9s par une \u00e9volution biologique lente, ne feraient pas le poids et seraient remplac\u00e9s”.<\/p>\n
Les entreprises qui d\u00e9veloppent des robots visant \u00e0 remplacer des dizaines de millions de cols bleus ou blancs ne se caract\u00e9risent pas par leur retenue. Il suffit d’observer les derni\u00e8res usines, raffineries et zones de stockages construites pour imaginer ce qui se profile. M\u00eame le travail des avocats est aujourd’hui automatis\u00e9.<\/p>\n
Mais les alertes lanc\u00e9es par des personnes comme Nassim Taleb, auteur du best-sellerBlack Swan<\/em>\u00a0et Stuart Russell, professeur d’informatique \u00e0 Berkeley et coauteur d’un livre sur l’intelligence artificielle traitant des “risques qui pourraient d\u00e9boucher sur l’extinction de la race humaine”, doivent \u00eatre diffus\u00e9es aupr\u00e8s d’un public plus large.<\/p>\n Les syst\u00e8mes complexes peuvent \u00eatre extr\u00eamement fragiles, dans des proportions tout \u00e0 fait impr\u00e9visibles jusqu’au moment o\u00f9 les failles se r\u00e9v\u00e8lent! C’est en cela que Bill Joy voyait dans ces trois domaines technologiques -les nanotechnologies, le g\u00e9nie g\u00e9n\u00e9tique et l’intelligence artificielle- un \u00e9cheveau de syst\u00e8mes se d\u00e9ployant sur la plan\u00e8te au-del\u00e0 de tout contr\u00f4le humain.<\/p>\n Dans une interview r\u00e9cente du 17 juillet 2015 au magazine Science, la question suivante fut pos\u00e9e au professeur Russell: “quel est selon vous le chemin le plus probable qui m\u00e8nerait de l’intelligence artificielle (IA) au d\u00e9sastre?” Sa r\u00e9ponse fut: “les routes pourraient \u00eatre vari\u00e9es et complexes – des entreprises \u00e0 la poursuite d’une sup\u00e9riorit\u00e9 technologique d\u00e9cisive, des pays cherchant \u00e0 b\u00e2tir des syst\u00e8mes d’IA avant leurs ennemis, ou un \u00e9volution plus lente, rappelant l’histoire de la grenouille qu’on porte progressivement \u00e0 \u00e9bullition, et amenant \u00e0 une d\u00e9pendance et \u00e0 un affaiblissement qui ne seraient pas sans rappeler ceux d\u00e9crits par E.M. Forster dans La machine s’arr\u00eate”.<\/p>\n Il affirme \u00e9galement \u00e0 Science\u00a0qu’il “n’a pas connaissance d’un quelconque mouvement appelant \u00e0 une r\u00e9glementation interne ou externe \u00e0 l’IA, car nous n’avons aucune id\u00e9e de la mani\u00e8re de d\u00e9finir ces r\u00e8gles”. Telle est, rel\u00e8ve-t-il, la cons\u00e9quence de la “d\u00e9routante diversit\u00e9 des logiciels”.<\/p>\n En attendant, le Congr\u00e8s n’a toujours pas pris conscience de ces sombres sc\u00e9narios. La majorit\u00e9 r\u00e9publicaine n’a pas int\u00e9r\u00eat \u00e0 organiser des sessions d’information, car les int\u00e9r\u00eats \u00e9conomiques qui la gouvernent n’y voient eux-m\u00eames aucun avantage. Et en face, de myopes D\u00e9mocrates sont trop occup\u00e9s \u00e0 passer des coups de fil pour lever les fonds qui alimenteront leurs campagnes de reconqu\u00eate du Congr\u00e8s en 2016.<\/p>\n Certains de ces D\u00e9mocrates sont n\u00e9anmoins mieux au fait. Ils ont longtemps soutenu l’Office of Technology Assessment (OTA), un organisme d\u00e9pendant du Congr\u00e8s, mis en place pour documenter et conseiller ses membres sur ce type de probl\u00e8mes. Apr\u00e8s la victoire du repr\u00e9sentant r\u00e9publicain Newt Gingrich contre la majorit\u00e9 sortante d\u00e9mocrate en 1994, une de ses premi\u00e8res d\u00e9cisions fut de couper les financements et de fermer l’OTA.<\/p>\n Depuis, le Congr\u00e8s a fait l’autruche. Le peuple am\u00e9ricain en paiera certainement le prix, \u00e0 moins que quelques personnes bien plac\u00e9es, dont des figures de la communaut\u00e9 scientifique, ne s’organisent pour exiger du Congr\u00e8s qu’il r\u00e9tablisse le syst\u00e8me d’alerte technologique qu’apportait l’OTA. Cette institution a permis d’\u00e9conomiser des sommes bien plus importantes que son maigre budget de 22 millions de dollars, en bloquant certains projets inutiles et co\u00fbteux qui circulaient au Capitole.<\/p>\n L’immobilisme de la politique int\u00e9rieure am\u00e9ricaine ne devrait pas emp\u00eacher une extension des Conventions de Gen\u00e8ve contre les armes chimiques et biologiques, pour les amener \u00e0 couvrir \u00e9galement ces nouvelles armes de destruction massive de l’humanit\u00e9. Un tel projet serait rien moins qu’une d\u00e9claration actualis\u00e9e des droits humains fondamentaux.<\/p>\n Ralph Nader\u00a0– Huffington Post<\/span><\/em><\/p>\n","protected":false},"excerpt":{"rendered":" Lorsque le formidable article “Pourquoi le futur n’a pas besoin de nous” de Bill Joy, directeur scientifique de Sun Microsystems, fit la une de Wired Magazine\u00a0en avril 2000, il d\u00e9cha\u00eena les passions dans les cercles du secteur high-tech. Sa th\u00e8se \u00e9tait que “les technologies les plus puissantes du 21e si\u00e8cle -la robotique, le g\u00e9nie g\u00e9n\u00e9tique […]<\/p>\n","protected":false},"author":30,"featured_media":40804,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":[],"categories":[469],"tags":[],"_links":{"self":[{"href":"https:\/\/www.massarate.ma\/wp-json\/wp\/v2\/posts\/40793"}],"collection":[{"href":"https:\/\/www.massarate.ma\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.massarate.ma\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.massarate.ma\/wp-json\/wp\/v2\/users\/30"}],"replies":[{"embeddable":true,"href":"https:\/\/www.massarate.ma\/wp-json\/wp\/v2\/comments?post=40793"}],"version-history":[{"count":0,"href":"https:\/\/www.massarate.ma\/wp-json\/wp\/v2\/posts\/40793\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.massarate.ma\/wp-json\/wp\/v2\/media\/40804"}],"wp:attachment":[{"href":"https:\/\/www.massarate.ma\/wp-json\/wp\/v2\/media?parent=40793"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.massarate.ma\/wp-json\/wp\/v2\/categories?post=40793"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.massarate.ma\/wp-json\/wp\/v2\/tags?post=40793"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}