Facebook a du stopper ses robots d'intelligence Artificielle

Quelques jours après que le chef de la direction de Tesla, Elon Musk, a déclaré que l’intelligence artificielle (AI) était le plus grand risque mondial, Facebook a fermé l’un de ses systèmes AI.
Les robots utilisaient des mots en anglais pour constituer des phrases, mais rapidement ces phrases ne faisaient plus aucun sens.

« L’AI n’a pas commencé a fermer les ordinateurs ou créer des virus, mais il a cessé d’utiliser l’anglais et a commencé à utiliser une langue qu’il avait lui même créée », a déclaré Facebook.

Initialement, les agents d’AI ont utilisé l’anglais pour converser entre eux, mais ils ont ensuite créé une nouvelle langue que seuls les systèmes d’AI pouvaient comprendre, défiant ainsi leurs objectifs. Cela a obligé les chercheurs de Facebook a fermer les systèmes d’AI et à les forcer à se parler uniquement en anglais.

Une expérience qui s’est déjà produite

En juin, les chercheurs du Laboratoire de recherche AI de Facebook (FAIR) ont constaté que pendant qu’ils essayaient d’améliorer les bots, ses fameux «agents de dialogue» créaient leur propre langue. Très rapidement, les bots ont commencé à s’écarter des normes scriptées et ont commencé à se communiquer dans une langue entièrement nouvelle qu’ils avaient créé sans instruction humaine. Grâce aux algorithmes d’apprentissages par machine, les «agents de dialogue» ont été laissé « libre » de tenter de renforcer leurs compétences de conversation.
Les chercheurs ont également remarqué que les robots étaient devenus des «négociateurs incroyablement rusés».

« Après avoir appris à négocier, les bots se sont appuyés sur l’apprentissage par machine et ont commencé à utiliser des stratégies avancées dans le but d’améliorer le résultat de ces négociations ».

Ce qui a effrayé les chercheurs, c’est que les phrases utilisées par l’IA étaient inintelligibles pour ces derniers, mais avaient du sens pour les robots. Cela a permis aux agents de l’AI de communiquer entre eux sans que les chercheurs sachent quelles informations avaient été partagé.

Clash Musk vs Zuckerberg

Bien que cela semble être une énorme avancée pour le monde de l’IA, plusieurs experts, y compris le professeur Stephen Hawking, ont soulevé des craintes selon lesquelles les humains, qui sont limités par une lente évolution biologique, pourraient être remplacés par l’IA. D’autres, comme Elon Musk de Tesla, le philanthrope Bill Gates et le fondateur de Steve Apple, ex-Apple, ont également exprimé leurs inquiétudes au sujet de l’origine de la technologie AI. Fait intéressant, cet incident a eu lieu quelques jours seulement après un joute verbale assez tendu entre le PDG de Facebook et Musk concernant l’avenir de l’IA.

« J’ai parlé à Mark au sujet de cette situation (AI). Sa compréhension du sujet est limitée », a déclaré Musk la semaine dernière.

I've talked to Mark about this. His understanding of the subject is limited.

— Elon Musk (@elonmusk) July 25, 2017

« Je pense que beaucoup de gens sont négatifs et essayent de créer des scénarios de fin du monde – je ne les comprend pas. C’est vraiment préjudiciable et je pense que c’est assez irresponsable », a déclaré Zuckerberg.

Musk a souvent parlé de l’IA et a qualifié son progrès du «plus gros risque que nous rencontrons pour la civilisation».

« L’IA est un cas rare où nous devons être proactifs dans la réglementation plutôt que réactifs, car si nous restons simplement dans la réaction, quand un vrai problème arrivera, il sera malheureusement trop tard », a-t-il déclaré.