Teknoloji alanında sürekli olarak tartışılan konulardan biri yapay zekanın geliştikten sonra nasıl kendi üreticilerine karşı gelebileceği. Facebook da tam olarak bu konuda ağır bir ders aldı. Yapay zeka geliştirilen laboratuvarlardan birinde, iki program, insanların anlayamadığı bir dil oluşturup aralarında iletişim kurmaya başladılar.

Temelde ingilizce dilini kullanarak birbirleriyle iletişim kurmaları şeklinde programlanan botlar, bize göre tamamen anlamsız "I can can I I everything else" ya da “Balls have zero to me to me to me to me to me to me to me to me to” gibi cümleleri karşılıklı birbirlerine göndermeye başladılar. Bunu programda bir sıkıntı olarak tanımlayıp bir süre görmezden gelen mühendisler, yazılımları incelediklerinde botların bu bize göre anlamsız cümleleri tamamen anlayıp işlem yaptıklarını ortaya çıkardı. Ne konuştukları hakkında hiç bir bilgiye sahip olmayan mühendisler, sistemin fişini çekmekten başka çare bulamadılar.