Le britannique Stephen Hawking, professeur, physicien th\u00e9oricien et cosmologiste, est universellement connu, et aussi bien dans le champ de la science pure que dans celui de la communication, \u00e0 cause de ses travaux et des conditions extraordinaires de son \u00e9tat de sant\u00e9 où il effectue ses travaux. L’article du Wikip\u00e9dia<\/em> qui lui est consacr\u00e9 indique sur ce dernier point que «Hawking souffre d’une dystrophie neuromusculaire qui est attribu\u00e9e \u00e0 une scl\u00e9rose lat\u00e9rale amyotrophique (SLA) ; sa maladie a progress\u00e9 au fil des ans et l’a laiss\u00e9 presque compl\u00e8tement paralys\u00e9<\/em>». Nous parlons par cons\u00e9quent d’un tr\u00e8s grand savant qui pr\u00e9sente des caract\u00e9ristiques extraordinaires dans sa vie personnelle, suffisamment pour en faire \u00e9galement un personnage hors du commun pour l'\u00a0\u00bbimage\u00a0\u00bb que v\u00e9hicule la communication, qui lui donne une notori\u00e9t\u00e9 suppl\u00e9mentaire consid\u00e9rable hors du champ de la science pure. La cons\u00e9quence est que ce trait fondamental de sa vie personnelle en fait, en plus de ce qu’il est dans sa fonction r\u00e9elle, un personnage intens\u00e9ment m\u00e9diatique \u00e0 l’image des \u00ab\u00a0people<\/em>\u00a0\u00bb dont la communication est si friande, dans notre soci\u00e9t\u00e9 où le syst\u00e8me de la communication v\u00e9hiculant le sensationnalisme s’empare de tous les sujets pour les faire intervenir puissamment dans la perception que nous avons de la gloire factice ou de la destin\u00e9e catastrophique du Syst\u00e8me.<\/p>\n<\/p>\n Il se trouve que, d’une fa\u00e7on g\u00e9n\u00e9rale, Hawking a toujours \u00e9t\u00e9 per\u00e7u comme un optimiste, un croyant plein d’allant dans la puissance et l’avenir superbe de la science, et par cons\u00e9quent de la modernit\u00e9 (et, par cons\u00e9quent, jugerions-nous, du Syst\u00e8me). Cette perception a toujours \u00e9t\u00e9 formidablement amplifi\u00e9e par son \u00e9tat personnel catastrophique, et par la t\u00e9nacit\u00e9 et le courage avec lesquels il le maîtrisait pour poursuivre son travail. Mais voil\u00e0 que cette perception de l’optimisme du grand savant est brusquement alt\u00e9r\u00e9e, peut-\u00eatre d\u00e9cisivement, par le jugement cr\u00e9pusculaire que Hawking porte sur l’avenir de la cohabitation de l’esp\u00e8ce humaine avec le d\u00e9veloppement de l’IA (Intelligence Artificielle, – AI en anglais, – disons \u00e9galement \u00ab\u00a0les robots\u00a0\u00bb). Cette cohabitation, estime Hawking, pourrait tr\u00e8s rapidement tourner en une confrontation entre l’AI et l’esp\u00e8ce humaine, aboutissant \u00e0 l’extinction de la seconde. D’une fa\u00e7on plus imag\u00e9e, nous parlerions de \u00ab\u00a0la r\u00e9volte des robots\u00a0\u00bb comme on parlerait apr\u00e8s tout de la \u00ab\u00a0r\u00e9volte des esclaves\u00a0\u00bb. (Le terme \u00ab\u00a0robot\u00a0\u00bb est d\u00e9riv\u00e9 du tch\u00e8que robota<\/em> signifiant \u00ab\u00a0servage\u00a0\u00bb, il a \u00e9t\u00e9 introduit en 1920 par l’\u00e9crivain tch\u00e8que Karel Capek dans la pi\u00e8ce de th\u00e9\u00e2tre Rossum’s Universal Robots<\/em>, mont\u00e9e en 1921.)<\/p>\n<\/p>\n Le professeur Hawking parle \u00e0 BBC.News<\/em> le 2 d\u00e9cembre 2014<\/a> : «\u00ab\u00a0The development of full artificial intelligence could spell the end of the human race.\u00a0\u00bb<\/em> […] Prof Hawking says the primitive forms of artificial intelligence developed so far have already proved very useful, but he fears the consequences of creating something that can match or surpass humans. \u00ab\u00a0It would take off on its own, and re-design itself at an ever increasing rate,\u00a0\u00bb he said. \u00ab\u00a0Humans, who are limited by slow biological evolution, couldn’t compete, and would be superseded.\u00a0\u00bb<\/em>»<\/p>\n<\/p>\n • Comme c’est sa fonction puisque faisant partie de la presse-Syst\u00e8me dont le r\u00f4le essentiel est de prot\u00e9ger le Syst\u00e8me, BBC.News<\/em> introduit une note qu’il qualifie de \u00ab\u00a0plus optimiste\u00a0\u00bb, – quoique cet optimisme, venu de Rollo Carpenter, reste extr\u00eamement vague et d\u00e9pendant d’une vision subjective (optimiste, justement, dans ce que l’optimisme a d\u00e9sormais de suspect dans ce domaine) ; bref, il s’agit purement et simplement d’une affirmation du type \u00ab\u00a0je parie que cela se passera bien\u00a0\u00bb \u00e0 propos du d\u00e9veloppement de l’IA, \u00e9videmment pr\u00e9sent\u00e9e comme une perspective irr\u00e9sistible…<\/p>\n<\/p>\n «\u00ab\u00a0I believe we will remain in charge of the technology for a decently long time and the potential of it to solve many of the world problems will be realised,\u00a0\u00bb said Rollo Carpenter, creator of Cleverbot. Cleverbot’s software learns from its past conversations, and has gained high scores in the Turing test, fooling a high proportion of people into believing they are talking to a human. Mr Carpenter says we are a long way from having the computing power or developing the algorithms needed to achieve full artificial intelligence, but believes it will come in the next few decades. \u00ab\u00a0We cannot quite know what will happen if a machine exceeds our own intelligence, so we can’t know if we’ll be infinitely helped by it, or ignored by it and sidelined, or conceivably destroyed by it,\u00a0\u00bb he says. But he is betting that AI is going to be a positive force.<\/em>»<\/p>\n<\/p>\n • Par ailleurs, BBC.News<\/em> convient que Hawking n’est pas le seul \u00e0 \u00eatre pessimiste, simplement parce que c’est le sentiment le plus r\u00e9pandu (l’optimisme \u00e0-la-Rollo \u00e9tant effectivement la chose la plus difficile \u00e0 relever, et encore selon la d\u00e9monstration assez peu scientifique qu’elle rel\u00e8ve d’une croyance r\u00e9duite au proc\u00e9d\u00e9 du \u00ab\u00a0pari\u00a0\u00bb). L’entrepreneur et financier des mati\u00e8res de technologies li\u00e9es \u00e0 l’IA Elon Musk<\/a> est cit\u00e9 … «Prof Hawking is not alone in fearing for the future. In the short term, there are concerns that clever machines capable of undertaking tasks done by humans until now will swiftly destroy millions of jobs. In the longer term, the technology entrepreneur Elon Musk has warned that AI is \u00ab\u00a0our biggest existential threat\u00a0\u00bb.<\/em>»<\/p>\n<\/p>\n • Restons alors avec Elon Musk. De quoi s’agit-il lorsqu’il cite \u00ab\u00a0un plus long terme\u00a0\u00bb pour dire que l’IA est effectivement<\/strong> \u00ab\u00a0la plus grande menace existentielle\u00a0\u00bb contre notre esp\u00e8ce ? Il en parlait le 24 octobre 2014<\/a> (Washington Post<\/em>) \u00e0 un symposium du Massachussetts Institute of Technology<\/em> (MIT) en insistant sur la gravit\u00e9 de la menace (\u00ab\u00a0Avec l’IA, nous sommes en train de r\u00e9veiller le d\u00e9mon\u00a0\u00bb) tout en restant assez vague et impr\u00e9cis sur le d\u00e9lai. Mais une indiscr\u00e9tion accidentelle, connue plus tard, a r\u00e9v\u00e9l\u00e9 le fond de la pens\u00e9e de Musk sur le d\u00e9lai, qui est pr\u00e9cis\u00e9 et se r\u00e9v\u00e8le pas tr\u00e8s loin d’\u00eatre court pour une menace de cette ampleur catastrophique, – dans le terme des cinq ans \u00e0 venir, 10 ans au plus…<\/p>\n<\/p>\n C’est UPI (voir Space Daily Report<\/em> le 16 novembre 2014<\/a>) qui a publi\u00e9 la nouvelle \u00ab\u00a0accidentelle\u00a0\u00bb… «After saying artificial intelligence in robots is \u00ab\u00a0our biggest existential threat\u00a0\u00bb and that we’re risking \u00ab\u00a0summoning a demon\u00a0\u00bb during an interview with MIT, Musk has now accidentally made public his ideas of when the threat might materialize. \u00ab\u00a0The risk of something seriously dangerous happening is in the five year timeframe. 10 years at most,"\u00a0\u00bbMusk wrote in an email to publisher John Brockman. \u00ab\u00a0Please note that I am normally super pro technology and have never raised this issue until recent months. This is not a case of crying wolf about something I don’t understand.\u00a0\u00bb<\/em><\/p>\n<\/p>\n »The message was supposed to be private, but it was accidentally posted on Brockman’s website when he was featuring virtual reality expert Jason Lanier on his site. It was taken down by Brockman, but a visitor took a screenshot of the statement and posted it to Reddit before it went away.<\/em>»<\/p>\n<\/p>\n • L’id\u00e9e de cette \u00ab\u00a0r\u00e9volte des robots\u00a0\u00bb\/\u00a0\u00bbr\u00e9volte des esclaves\u00a0\u00bb est partout dans l’air dans les milieux sp\u00e9cialis\u00e9s. Elle avait \u00e9t\u00e9 abord\u00e9e en d\u00e9tails par Patrick Tucker, ancien r\u00e9dacteur en chef adjoint de The Futurist<\/em>, auteur de What Happens in a World That Anticipates Your Every Move?<\/em> et actuellement sp\u00e9cialiste des technologies pour le site DefenseOne.com<\/em> (le 17 avril 2014<\/a>). Tucker citait notamment Steven Omohundro, dans un rapport<\/a> pour Journal of Experimental & Theoretical Artificial Intelligence<\/em>. (A noter qu’ Omohundro ne voit de solution pour \u00e9viter la catastrophe que de recourir aux m\u00e9thodes anciennes de d\u00e9velopper de nouveaux syst\u00e8mes \u00e0 l’int\u00e9rieur d’un cadre de maîtrise permettant d’en garder constamment le contr\u00f4le, – le contraire des m\u00e9thodes actuelles de rejet de tout contr\u00f4le, de d\u00e9r\u00e9gulation, du libre-cours comme du libre-march\u00e9 laiss\u00e9s au d\u00e9veloppement de toutes choses dans ces domaines avanc\u00e9s. Il semble qu’il soit un peu tard pour changer, \u00e0 condition m\u00eame d’en \u00eatre convaincu contre tout l’\u00e9vangile imp\u00e9ratif du Syst\u00e8me…)<\/p>\n<\/p>\n «In the movie Transcendence, which opens in theaters on Friday, a sentient computer program embarks on a relentless quest for power, nearly destroying humanity in the process. The film is science fiction but a computer scientist and entrepreneur Steven Omohundro says that \u00ab\u00a0anti-social\u00a0\u00bb artificial intelligence in the future is not only possible, but probable, unless we start designing AI systems very differently today. Omohundro’s most recent recent paper<\/em> […] lays out the case. We think of artificial intelligence programs as somewhat humanlike. In fact, computer systems perceive the world through a narrow lens, the job they were designed to perform…<\/em> […]<\/p>\n<\/p>\n »[…T]he more logical the robot, the more likely it is to fight you to the death. The problem of an artificial intelligence relentlessly pursuing its own goals to the obvious exclusion of every human consideration is sometimes called ‘runaway AI’. The best solution, <\/em>[ Omohundro] says, is to slow down in our building and designing of AI systems, take a layered approach, similar to the way that ancient builders used wood scaffolds to support arches under construction and only remove the scaffold when the arch is complete.<\/em><\/p>\n<\/p>\n »That approach is not characteristic of the one we are taking today, putting more and more resources and responsibility under the control of increasingly autonomous systems. That’s especially true of the U.S. military, which is looking to deploy larger numbers of lethal autonomous systems, or L.A.Rs into more contested environments. Without better safeguards to prevent these sorts of systems from, one day, acting rationally, we are going to have an increasingly difficult time turning them off.<\/em>»<\/p>\n<\/p>\n Ce qui est remarquable dans toutes ces appr\u00e9ciations, \u00e0 commencer par celle de l’ic\u00f4ne du service de la science qu’est Hawking, c’est la progression d’un pessimisme, d’une part \u00e0 la fois catastrophique et eschatologique, d’autre part appuy\u00e9 sur des faits concrets et entrant dans des perspectives de plus en plus pr\u00e9cis\u00e9ment dat\u00e9es, et de plus en plus proches sans aucun doute. Sur le fond de cette question des \u00ab\u00a0robot vs sapiens<\/em>\u00ab\u00a0, beaucoup a \u00e9t\u00e9 dit (voir par exemple le 13 mai 2013<\/a> et le 7 juin 2014<\/a>), toujours dans le m\u00eame sens d’une sorte d’in\u00e9luctabilit\u00e9 de la mont\u00e9e de la machine (du \u00ab\u00a0robot\u00a0\u00bb) dans notre univers ; mais il est manifeste que la tendance exaltante de cette perspective (type-Google), qui y voit une sorte de triomphe du sapiens<\/em> trouvant dans l’IA son adjoint id\u00e9al comme un J\u00e9sus fermement install\u00e9 \u00e0 la droite de Dieu, le c\u00e8de de plus en plus aux tendances cr\u00e9pusculaires dont on a eu ci-dessus un aper\u00e7u.<\/p>\n<\/p>\n Ce pessimisme-catastrophique, s’il est un signe dans le cas qui nous occupe de la progression de plus en plus incertaine d’une science qui menace de plus en plus de se retourner contre son cr\u00e9ateur, est \u00e9galement un signe d’une tendance plus large rassemblant tout un faisceau de possibilit\u00e9s catastrophiques en voie de devenir des probabilit\u00e9s, dans nombre d’autres domaines. Que l’on se tourne vers l’environnement qui acc\u00e9l\u00e8re vertigineusement son travail de destruction du monde, vers une politique qui s’est transform\u00e9e en d\u00e9sordre accouchant d’un hyper-d\u00e9sordre et semant les crises sans le moindre sens sinon celui de la catastrophe, vers la catastrophe psychologique et sociale qui affecte des populations enti\u00e8res et les plonge dans la paup\u00e9risation, vers les d\u00e9rives soci\u00e9tales qui d\u00e9structurent les soci\u00e9t\u00e9s et pulv\u00e9risent les identit\u00e9s \u00e0 une rapidit\u00e9 vertigineuse, vers le syst\u00e8me du technologisme qui se heurte \u00e0 des impasses qu’il a lui-m\u00eame mises en place, vers la bureaucratisation et la militarisation des structures d’ordre se retournant contre le citoyen qu’elles sont cens\u00e9es prot\u00e9ger et servir, – tout paraît s’agglom\u00e9rer en une conjonction de perspectives effectivement catastrophiques qui ne peuvent se d\u00e9finir que par l’horizon eschatologique de la phase ultime de l’effondrement du Syst\u00e8me.<\/p>\n<\/p>\n Cette affaire de l’hypoth\u00e8se de \u00ab\u00a0la r\u00e9volte des robots\u00a0\u00bb n’a rien qui doive nous surprendre. Pourtant, qu’un Hawking, personnage peu commun, pr\u00e9sent\u00e9 avec bien des raisons comme h\u00e9ro\u00efque par sa lutte permanente contre la maladie pour continuer son œuvre de scientifique dans le sens d’une conviction optimiste de l’avenir de la science par rapport \u00e0 l’esp\u00e8ce humaine, en arrive au constat exactement inverse que la science est peut-\u00eatre, sinon sans doute sur le point d’accoucher le monstre qui nous d\u00e9vorera tous, – et bien plus vite encore qu’on pourrait croire, – voil\u00e0 qui a de quoi nous secouer et nous faire admettre qu’il s’agit d’un \u00e9v\u00e9nement important qui a tout son poids symbolique. On comprend que ce qui nous importe ici est moins la v\u00e9rit\u00e9 d’une situation \u00e0 venir que ce basculement de la perception par la psychologie, conduisant \u00e0 un jugement compl\u00e8tement inverse des perspectives, \u00e0 une vision brusquement pass\u00e9 au pessimisme catastrophique et eschatologique. Le constat que nous en tirons est celui de la diffusion grandissante d’une nouvelle psychologie, qui s’est d\u00e9velopp\u00e9e \u00e0 une tr\u00e8s grande vitesse depuis l’automne 2008 (la grande crise financi\u00e8re), qui s’impose en cette ann\u00e9e 2014 du centenaire de la Grande Guerre pour devenir une v\u00e9ritable nouvelle pens\u00e9e, en m\u00eame temps que l’ann\u00e9e 2014 s’impose de plus en plus comme la borne une nouvelle \u00e9poque. Nous sommes entr\u00e9s dans les temps de la Fin des Temps pour notre civilisation devenue contre-civilisation, et ainsi devenue autodestructrice d’elle-m\u00eame. Plus que jamais, il est temps de se tourner vers la m\u00e9tahistoire<\/a>, bien plus que vers les robots et leur r\u00e9volte, pour esp\u00e9rer se rapprocher du moment où l’on pourra percer l’\u00e9nigme qu’est devenu notre temps.<\/p>\n<\/p>\n Mis en ligne le 3 d\u00e9cembre 2014 \u00e0 12H51<\/p><\/p>\n","protected":false},"excerpt":{"rendered":" Stephen Hawking et la fin de l’esp\u00e8ce (la n\u00f4tre) Le britannique Stephen Hawking, professeur, physicien th\u00e9oricien et cosmologiste, est universellement connu, et aussi bien dans le champ de la science pure que dans celui de la communication, \u00e0 cause de ses travaux et des conditions extraordinaires de son \u00e9tat de sant\u00e9 où il effectue ses… <\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"","ping_status":"","sticky":false,"template":"","format":"standard","meta":{"neve_meta_sidebar":"","neve_meta_container":"","neve_meta_enable_content_width":"","neve_meta_content_width":0,"neve_meta_title_alignment":"","neve_meta_author_avatar":"","neve_post_elements_order":"","neve_meta_disable_header":"","neve_meta_disable_footer":"","neve_meta_disable_title":"","_jetpack_memberships_contains_paid_content":false,"footnotes":""},"categories":[2],"tags":[12153,7524,2604,13401,10831,4008,3679,9647,13196,3856,9235],"class_list":["post-75641","post","type-post","status-publish","format-standard","hentry","category-bloc-notes","tag-artificielle","tag-carpenter","tag-des","tag-elon","tag-existentielle","tag-intelligence","tag-menace","tag-mit","tag-musk","tag-revolte","tag-robots"],"jetpack_featured_media_url":"","jetpack_sharing_enabled":true,"_links":{"self":[{"href":"https:\/\/new.dedefensa.org\/index.php\/wp-json\/wp\/v2\/posts\/75641","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/new.dedefensa.org\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/new.dedefensa.org\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/new.dedefensa.org\/index.php\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/new.dedefensa.org\/index.php\/wp-json\/wp\/v2\/comments?post=75641"}],"version-history":[{"count":0,"href":"https:\/\/new.dedefensa.org\/index.php\/wp-json\/wp\/v2\/posts\/75641\/revisions"}],"wp:attachment":[{"href":"https:\/\/new.dedefensa.org\/index.php\/wp-json\/wp\/v2\/media?parent=75641"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/new.dedefensa.org\/index.php\/wp-json\/wp\/v2\/categories?post=75641"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/new.dedefensa.org\/index.php\/wp-json\/wp\/v2\/tags?post=75641"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}