Facebook се принуди да спре принудително една от своите системи за изкуствен интелект, след като учените установиха, че той започнал да комуникира на език, неразбираем за нас.

Инцидентът навява зловещи паралели със "Скайнет" от екшън класиката "Терминатор".

Мрежата спряла да използва английски език за комуникация и вместо това преминала към непозната форма на общуване. AI програмите били създадени, за да говорят и преговарят с хора и първоначално ползвали английски. По-късно обаче те създали собствен език, който само те разбирали.

Системата не била ограничена да използва само английски и така лесно успяла да го замени за метод, който бил по-бърз. Учените решили превантивно да спрат експеримента и да накарат мрежите да общуват отново само на английски. Притеснението им било, че ако позволят на изкуствен интелект да говори на език, създаден от него, той може изобщо да не се нуждае от човешки инструкции. Хората не са в състояние да разберат колко комплексна е една AI система заради оставащия скрит мисловен процес, така че изкуствен интелект, който общува на таен език, е още по-страшна перспектива.