Stephen Hawking : l'humanité pourrait être détruite par l'IA
Les développeurs et les législateurs doivent se concentrer sur la « maximisation » des avantages de la technologie pour la société
Ce contenu est soumis au droit d'auteur.
Stephen Hawking a averti que l'intelligence artificielle (IA) pourrait détruire l'humanité à moins que nous ne prenions des mesures pour éviter les risques qu'elle pose.
S'exprimant lors du Web Summit de cette année au Portugal, le physicien a déclaré qu'en plus des avantages, la technologie présente également des dangers tels que de puissantes armes autonomes ou de nouvelles façons pour quelques-uns d'opprimer le plus grand nombre.
Dans les citations rapportées par Forbes , a-t-il poursuivi : Réussir à créer une IA efficace pourrait être le plus grand événement de l'histoire de notre civilisation. Ou le pire. Nous ne savons tout simplement pas.
Hawking a proposé que l'humanité pourrait empêcher l'IA de menacer notre existence en régulant son développement.
Peut-être devrions-nous tous nous arrêter un instant et nous concentrer non seulement sur l'amélioration et le succès de notre IA, mais également sur le bénéfice de l'humanité, a-t-il ajouté.
Ses commentaires interviennent moins de trois mois après qu'Elon Musk, fondateur de Tesla et de SpaceX, a déclaré que l'IA était beaucoup plus risquée que la menace d'une attaque nucléaire de la Corée du Nord.
Musk a précédemment déclaré à un panel de politiciens d'États américains que tant que les gens ne voient pas des robots descendre dans la rue en train de tuer des gens, ils ne savent pas comment réagir, car cela semble si éthéré.
Hawking a salué les mesures prises en Europe pour réglementer les nouvelles technologies, rapporte CNBC , en particulier les propositions avancées par les législateurs plus tôt cette année pour établir de nouvelles règles autour de l'IA et de la robotique.
Elon Musk dit que l'intelligence artificielle est plus dangereuse que la guerre avec la Corée du Nord
15 août
Le fondateur de Tesla et de SpaceX, Elon Musk, a déclaré que l'intelligence artificielle (IA) est 'beaucoup plus risquée' que la menace d'une attaque de la Corée du Nord.
À la suite des tensions croissantes entre la Corée du Nord et les États-Unis, Musk a déclaré dans un tweet: 'Si vous n'êtes pas préoccupé par la sécurité de l'IA, vous devriez l'être.'
Si vous n'êtes pas préoccupé par la sécurité de l'IA, vous devriez l'être. Beaucoup plus de risques que la Corée du Nord. pic.twitter.com/2z0tiid0lc
– Elon Musk (@elonmusk) 12 août 2017
Ce n'est pas la première fois que l'inventeur né en Afrique du Sud exprime ses inquiétudes concernant la technologie de l'IA.
S'adressant à un public de politiciens de l'État américain à Rhode Island le mois dernier, Musk a déclaré: 'Jusqu'à ce que les gens voient des robots descendre dans la rue tuer des gens, ils ne savent pas comment réagir car cela semble si éthéré.'
Pour éviter que l'IA ne devienne une menace pour l'humanité, il a déclaré que le gouvernement américain devrait « apprendre autant que possible » et « avoir un aperçu » du fonctionnement de la technologie. Il devrait également introduire des réglementations pour garantir que les entreprises développent l'IA en toute sécurité.
Alors que l'inventeur concède que 'personne n'aime être réglementé', il dit que tout ce qui constitue un 'danger pour le public est réglementé' et que l'IA 'devrait l'être aussi'.
Personne n'aime être réglementé, mais tout (voitures, avions, nourriture, drogues, etc.) qui constitue un danger pour le public est réglementé. L'IA devrait l'être aussi.
– Elon Musk (@elonmusk) 12 août 2017
Les remarques de Musk arrivent en même temps que l'intelligence artificielle, développée par sa société OpenAI, a vaincu avec succès certains des meilleurs joueurs du monde sur le jeu informatique Dota 2, rapporte Le gardien .
Le système 'a réussi à gagner tous ses matchs 1-v-1 aux championnats internationaux Dota 2 contre plusieurs des meilleurs joueurs du monde en compétition pour un fonds de prix de 24,8 millions de dollars (19 millions de livres sterling)'.
Elon Musk appelle à une réglementation de l'IA avant 'qu'il ne soit trop tard'
18 juillet
Le fondateur de SpaceX et Tesla, Elon Musk, a appelé à réglementer le développement de l'intelligence artificielle (IA) avant qu''il ne soit trop tard'.
S'exprimant lors d'une réunion de politiciens d'États américains à Rhode Island le week-end dernier, l'inventeur d'origine sud-africaine a déclaré: ' L'IA est un cas rare où je pense que nous devons être proactifs dans la réglementation plutôt que réactifs.
'Jusqu'à ce que les gens voient des robots descendre la rue en train de tuer des gens, ils ne savent pas comment réagir parce que cela semble si éthéré.'
Il a ajouté: 'L'IA est un risque fondamental pour l'existence de la civilisation humaine.'
Il a également déclaré que l'IA aurait un impact substantiel sur l'emploi car 'les robots seront capables de tout faire mieux que nous', ajoutant que le secteur des transports, qui, selon lui, représentait 12% des emplois aux États-Unis, serait 'l'un des les premières choses pour devenir totalement autonome ».
Musk a également parlé de son 'désir d'établir des colonies interplanétaires sur Mars' pour servir de refuge si les robots devaient prendre le contrôle de la Terre, CleanTechnica rapports.
Pour éviter que cela ne se produise en premier lieu, il a appelé le gouvernement à 'apprendre autant que possible' et à 'avoir un aperçu' de la manière dont l'IA peut être développée en toute sécurité.
Cependant, les critiques disent que les remarques de Musk pourraient 'distraire de préoccupations plus urgentes', écrit Tim Simonite sur Filaire .
Ryan Calo, un expert en cyber-droit à l'Université de Washington, a déclaré au site Web : ' L'intelligence artificielle est une chose à laquelle les décideurs politiques devraient prêter attention.
'Mais se concentrer sur la menace existentielle détourne doublement l'attention de son potentiel de bien et des problèmes réels qu'elle crée aujourd'hui et à court terme.'
