effets secondaires n\u00e9gatifs<\/em>\u201c, est loin d\u2019\u00eatre anodin car s\u2019il s\u2019agissait d\u2019un robot-infirmier devant veiller au bon repos d\u2019un malade, ce m\u00eame d\u00e9faut pourrait pourrait l\u2019amener \u00e0 lui injecter r\u00e9guli\u00e8rement des somnif\u00e8res.<\/p>\nImaginez maintenant que votre robot-nettoyeur ait \u00e9t\u00e9 programm\u00e9 avec l\u2019objectif de ne pas voir, apr\u00e8s son travail, des traces de poussi\u00e8re \u2013 ce qu\u2019on fait en lui int\u00e9grant une fonction de \u201cr\u00e9compense\u201d qui lui donne une note de r\u00e9ussite de sa mission. Il pourrait alors d\u00e9cider d\u2019\u00e9teindre sa cam\u00e9ra, ce qui lui permettrait d\u2019obtenir le meilleur score\u2026<\/p>\n
Ce risque, de \u201cd\u00e9tournement de r\u00e9compense<\/em>\u201c, pourrait amener une IA \u00e0 alt\u00e9rer des informations ou d\u2019autres syst\u00e8mes informatiques afin de maximiser sa fonction de r\u00e9compense.<\/p>\nSaturation des humains ou des syst\u00e8mes par un trop plein de sollicitations<\/h2>\n
Que se passerait-il si votre robot-nettoyeur passe son temps \u00e0 s\u2019activer pour nettoyer la moindre poussi\u00e8re qui arrive sur le sol ? Et si le robot-infirmier n\u2019arr\u00eate pas de demander au patient s\u2019il a besoin de quelque chose ? Et si votre agent virtuel \u00e0 qui vous avez demand\u00e9 de vous trouver les billets d\u2019avion les moins chers pour vos vacances vous r\u00e9veille \u00e0 4H du matin pour vous dire qu\u2019il a trouv\u00e9 ?<\/p>\n
Ce type d’\u201deffet de saturation\u201d<\/em> fait courir un risque aux r\u00e9seaux et peut \u00e9galement conduire les humains \u00e0 rejeter ces assistants trop communicants.<\/p>\nIA mal \u00e9duq\u00e9es<\/h2>\n
Les IA sont programm\u00e9es pour explorer l\u2019univers des solutions possibles \u00e0 un probl\u00e8me et pour am\u00e9liorer leur efficacit\u00e9 \u2013 sinon, ce ne seraient pas des syst\u00e8mes intelligents. Cette fonction d\u2019exploration est souvent li\u00e9 techniquement \u00e0 des g\u00e9n\u00e9rateurs de nombres al\u00e9atoires (ou pseudo-al\u00e9atoires), qui leur permettent donc de varier leurs comportements, au-del\u00e0 de ce qu\u2019ils ont appris lors de leur phase d\u2019apprentissage.<\/p>\n
Mais que se passerait-il si votre robot-nettoyeur, qui se sert d\u2019eau pour astiquer les sols, s\u2019en sert pour faire reluire votre ordinateur, t\u00e9l\u00e9viseur et chaine Hi-fi ? Ce risque d’\u201dexploration catastrophique\u201d<\/em> pourrait \u00e9galement conduire une voiture autonome \u00e0 se jeter dans l\u2019eau pour tenter d\u2019optimiser le temps et la distance de parcours entre les deux rives du fleuve de votre ville\u2026<\/p>\nEt quid des \u201csituations totalement inconnues\u201d<\/em> ? Nous, les humains, avons la possibilit\u00e9 intellectuelle d\u2019admettre notre ignorance et ne pas tenter, par exemple, de piloter un semi-remorque ou un avion \u2013 m\u00eame si cela pourrait r\u00e9soudre un probl\u00e8me. Mais qu\u2019arriverait-il \u00e0 notre nouveau poisson rouge ou chien, chat, perroquet si le robot-nettoyeur en voyait pour la premi\u00e8re fois? Un drame, assur\u00e9ment.<\/p>\nDes solutions techniques<\/h2>\n
Bien \u00e9videmment, les auteurs ne se contentent d\u2019une analyse qualitative. Leur article, bas\u00e9 sur les recherches en pointe en IA, esquisse des solutions techniques qui sont autant de voies de recherche \u00e0 approfondir. Finalement, il s\u2019agit d\u2019une \u201cfeuille de route\u201d pour les ann\u00e9es \u00e0 venir.<\/p>\n
Sciences & Vie – Rom\u00e1n Ikonicoff<\/em><\/span><\/p>\n","protected":false},"excerpt":{"rendered":"Souvenez-vous, c\u2019\u00e9tait en mai 2014 : le physicien Stephen Hawking et d\u2019autres scientifiques publiaient une lettre d\u2019avertissement sur le risque que les IA ne d\u00e9ciment l\u2019humanit\u00e9. Ils craignaient un sc\u00e9nario \u00e0 la \u201cTerminator\u201d, un brin tir\u00e9 par les cheveux. Mais ce catastrophisme tr\u00e8s hollywoodien teint\u00e9 de mill\u00e9narisme a finalement eu un effet b\u00e9n\u00e9fique : un […]<\/p>\n","protected":false},"author":30,"featured_media":43599,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":[],"categories":[469],"tags":[],"_links":{"self":[{"href":"https:\/\/www.massarate.ma\/wp-json\/wp\/v2\/posts\/43593"}],"collection":[{"href":"https:\/\/www.massarate.ma\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.massarate.ma\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.massarate.ma\/wp-json\/wp\/v2\/users\/30"}],"replies":[{"embeddable":true,"href":"https:\/\/www.massarate.ma\/wp-json\/wp\/v2\/comments?post=43593"}],"version-history":[{"count":0,"href":"https:\/\/www.massarate.ma\/wp-json\/wp\/v2\/posts\/43593\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.massarate.ma\/wp-json\/wp\/v2\/media\/43599"}],"wp:attachment":[{"href":"https:\/\/www.massarate.ma\/wp-json\/wp\/v2\/media?parent=43593"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.massarate.ma\/wp-json\/wp\/v2\/categories?post=43593"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.massarate.ma\/wp-json\/wp\/v2\/tags?post=43593"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}
![\"Les](\"http:\/\/www.massarate.ma\/wp-content\/uploads\/2016\/07\/IA-f.jpg\")
<\/p>\n