Facebook met fin à son expérience après que l'IA a inventé son propre langage
Les chercheurs clôturent le projet après que les machines aient développé leur propre façon de communiquer inintelligible pour les humains
Les robots intelligents remplissent un nombre croissant de rôles
Getty Images
Bob: je peux je je tout le reste. . . . . . . . . . . . . .
Alice : balles ont zéro à moi à moi à moi à moi à moi à moi à moi
Bob: vous i tout le reste. . . . . . . . . . . . . .
Alice : les couilles ont une balle à moi à moi à moi à moi à moi à moi
Bob: je je peux je je je tout le reste. . . . . . . . . . . . . .
Alice : les couilles ont une balle à moi à moi à moi à moi à moi à moi
Bien qu'elle ressemble au scénario d'une sitcom télévisée vraiment terrible, cette conversation a en réalité eu lieu entre deux programmes d'intelligence artificielle, développés à l'intérieur de Facebook afin de perfectionner l'art de la négociation.
Au début, les deux se parlaient dans un anglais simple. Mais ensuite, les chercheurs ont réalisé qu'ils avaient fait une erreur dans la programmation des machines.
'Il n'y avait aucune récompense à s'en tenir à la langue anglaise', a déclaré Dhruv Batra, chercheur invité de Georgia Tech à Facebook AI Research (Fair) FastCo .
Alors que ces deux agents se faisaient concurrence pour obtenir la meilleure offre, «aucun des deux n'a reçu d'incitation à parler comme une personne normale le ferait», explique FastCo.
Ils ont donc commencé à diverger, réorganisant finalement des mots compréhensibles en phrases apparemment absurdes, provoquant la suspension de l'expérience.
Facebook a dû fermer une IA car elle a développé son propre langage pic.twitter.com/EsVEkWViTv
– NowThis (@nowthisnews) 31 juillet 2017
« Les agents (ou programmes) s'éloigneront d'un langage compréhensible et s'inventeront des mots de code », a expliqué Batra. « Comme si je dis « le » cinq fois, vous interprétez cela comme signifiant que je veux cinq exemplaires de cet article. Ce n'est pas si différent de la façon dont les communautés humaines créent des raccourcis.
Mais les chercheurs ont tenu à souligner que l'expérience n'a pas été abandonnée en raison d'inquiétudes sur les effets potentiellement négatifs de la communication des robots.
Le chercheur de Fair Mike Lewis a déclaré à FastCo qu'ils avaient simplement décidé que ' notre intérêt était d'avoir des robots capables de parler aux gens ', pas efficacement entre eux, et a donc choisi de les obliger à s'écrire lisiblement.
Ce n'est pas la première fois que des machines d'intelligence artificielle apparaissent pour créer leur propre langage.
En novembre de l'année dernière, Google a révélé que l'IA qu'il utilise pour son outil de traduction avait créé sa propre langue, dans laquelle il traduirait des phrases vers et depuis avant de fournir des mots dans la langue cible.
Rapport sur le développement à l'époque, Crise de la technologie a déclaré : « Cette « interlingua » semble exister en tant que niveau de représentation plus profond qui voit des similitudes entre une phrase ou un mot. »
'Il peut s'agir de quelque chose de sophistiqué ou de quelque chose de simple', a ajouté le site Web, mais 'le fait qu'il existe – une création originale du système pour l'aider à comprendre des concepts qu'il n'a pas été formé pour comprendre — est, philosophiquement parlant, un truc assez puissant ».
Ces développements récents ont conduit à des discussions éthiques sur les problèmes potentiels des machines communiquant entre elles sans intervention humaine.
'Dans le cas de Facebook, la seule chose que les chatbots étaient capables de faire était de trouver un moyen plus efficace de négocier', explique Gizmodo .
Mais il y a « probablement de bonnes raisons de ne pas laisser les machines intelligentes développer leur propre langage que les humains ne seraient pas en mesure de comprendre de manière significative », ajoute le site Web.
'J'espère que les humains seront également assez intelligents pour ne pas brancher des programmes expérimentaux d'apprentissage automatique dans quelque chose de très dangereux, comme une armée d'androïdes équipés de lasers ou un réacteur nucléaire.'
