Faut-il s'inquiéter de l'intelligence artificielle ?
En profondeur : l'essor des robots IA pourrait faire ou défaire l'avenir de l'humanité
Les robots intelligents remplissent un nombre croissant de rôles
Getty Images
Réussir à créer une IA efficace pourrait être le plus grand événement de l'histoire de notre civilisation. Ou le pire. Nous ne savons tout simplement pas, a déclaré le professeur Stephen Hawking lors du Web Summit de cette semaine à Lisbonne.
Outre de nombreux avantages, a déclaré Hawking, l'intelligence artificielle (IA) présente de nombreux dangers, comme de puissantes armes autonomes ou de nouvelles façons pour quelques-uns d'opprimer le plus grand nombre.
Le physicien a appelé à une nouvelle réglementation pour garantir que l'humanité puisse empêcher l'IA de menacer son existence.
Peut-être devrions-nous tous nous arrêter un instant et nous concentrer non seulement sur l'amélioration et le succès de notre IA, mais également sur le bénéfice de l'humanité, a-t-il ajouté.
Hawking n'est pas la seule sommité du monde scientifique et technologique à avoir mis en garde contre l'avenir de l'IA.
Nous devrions tous faire très attention à l'intelligence artificielle, Bill Gates dit plus tôt cette année. Si je devais deviner quelle est notre plus grande menace existentielle, c'est probablement ça. Avec l'intelligence artificielle, nous invoquons le démon.
Ces derniers mois, il y a eu des gros titres sur les robots tueurs et sur l'automatisation remplaçant les travailleurs humains, mais aussi sur les algorithmes qui aident à diagnostiquer le cancer et le développement réussi de voitures autonomes.
Certains chercheurs soutiennent qu'il s'agit du risque existentiel le plus pressant auquel l'humanité puisse être confrontée, tandis que d'autres rejettent la plupart du temps l'hypothèse de danger comme étant un message catastrophique infondé, selon Carte mère est Phil Torres.
Faut-il donc s'inquiéter de la propagation de l'IA ? Et qu'est-ce qu'on peut y faire ?
La réaction à l'IA
À YouGov Une enquête menée l'année dernière auprès de plus de 2 000 personnes a révélé que les attitudes du public envers l'IA varient considérablement en fonction de son application.
Quelque 70 % des personnes interrogées étaient satisfaites que les machines intelligentes effectuent des tâches apparemment insignifiantes telles que la surveillance des cultures - mais ce chiffre est tombé à 49 % en ce qui concerne les tâches ménagères, tandis que seulement 23 % seraient satisfaits que les robots effectuent des opérations médicales. Et à peine 17% étaient à l'aise avec l'idée de soi-disant robots sexuels.
L'une des principales inquiétudes concernant l'IA est sa nature impersonnelle.
En août, Elon Musk, PDG de Tesla et SpaceX, ainsi que 115 autres spécialistes de l'IA et de la robotique, signé une lettre ouverte exhortant l'ONU à reconnaître les dangers des armes autonomes létales et à interdire leur utilisation au niveau international.
Selon le Human Rights Watch organisation, les États-Unis, la Chine, Israël, la Corée du Sud, la Russie et le Royaume-Uni ont investi dans le développement de systèmes d'armes avec des niveaux décroissants de contrôle humain dans les fonctions critiques de sélection et d'engagement des cibles.
Steven Finlay , auteur de Artificial Intelligence and Machine Learning for Business, estime que des robots armés autonomes capables de suivre et de cibler des personnes, à l'aide d'un logiciel de reconnaissance faciale, sont à nos portes.
L'IA et la robotique progressent si rapidement que d'ici quelques années, des guerres pourraient être menées avec des armes et des véhicules autonomes, rapporte Le gardien .
Réguler ou exterminer ?
La réglementation de l'IA est une réponse au problème.
Une démocratie moderne et saine exige que les citoyens ordinaires participent aux discussions publiques sur les technologies en évolution rapide. Nous avons désespérément besoin de nouvelles politiques, réglementations et filets de sécurité pour les personnes déplacées par les machines, dit La nation de Katharine Dempsey.
Elon Musk est d'accord. En 2014, il a déclaré : Je suis de plus en plus enclin à penser qu'il devrait y avoir une certaine surveillance réglementaire, peut-être au niveau national et international, juste pour s'assurer que nous ne faisons pas quelque chose de très stupide.
On peut soutenir que la plus grande inquiétude est que les machines peuvent devenir meilleures pour prendre des décisions que les humains, asservissant l'humanité aux décideurs automatisés et à quiconque les contrôle.
Les systèmes basés sur l'IA remplacent déjà de nombreux emplois. Par exemple, certaines machines d'IA peuvent détecter le cancer de la peau aussi précisément qu'un médecin humain, Filaire rapports.
Beaucoup de nos choix sont déjà influencés par l'IA, via des sites comme Amazon et Facebook. Les algorithmes déterminent le contenu que nous voyons en ligne et font des recommandations sur tout, de ce que nous regardons à la télévision et où nous mangeons à qui nous sortons.
Ce qui rend ce scénario si dangereux, c'est qu'il n'est pas planifié par un maître de l'intelligence ou un suzerain de la machine, explique Steven Finlay. Nous créons la technologie même qui pourrait conduire à notre disparition.
Un changement pour le mieux?
Tout n'est pas pessimiste.
Je suis optimiste quant au fait que nous pouvons créer un avenir inspirant avec l'IA si nous gagnons la course entre la puissance croissante de l'IA et la sagesse croissante avec laquelle nous la gérons, mais cela demandera de la planification et du travail, physicien Max Tegmark, auteur de Life 3.0 : Être humain à l'ère de l'intelligence artificielle, dit Carte mère .
Alors que Tegmark préconise la réglementation, il soutient qu'il faut également se concentrer sur les avantages de l'utilisation de l'IA. Si les gens se concentrent uniquement sur les inconvénients, ils sont paralysés par la peur et la société se polarise et se fracture, conclut-il.
