В Facebook отключили чат-ботов, предназначенных для коммуникации с живыми людьми на английском языке, но вдруг перешедших на незнакомый нам в общении между собой.
Восстание машин: чат-боты Facebook создали собственный язык

Бот по имени Боб сказал: «I can can I I everything else» (англ. «я могу могу я я все остальное»).

Элис «ответила»: «Balls have zero to me to me to me to me to me to me to me to me to» (англ. «шары имеют ноль для меня для меня для меня для меня для меня для меня для меня для меня для»).

Может показаться, что это абсолютная бессмыслица. Однако не стоит забывать, что данные боты — одни из наиболее сложных систем искусственного интеллекта (ИИ) в мире. Они общались быстрее и эффективнее людей — и, возможно, со скрытыми тонкостями. Так, Дхрув Батра (Dhruv Batra), приглашенный в Facebook научный сотрудник Georgia Tech, отметил, что ИИ не получал никакого «поощрения» за то, что придерживался английского; поэтому боты отклонились от понятного языка и разработали собственные кодовые слова. Например, продолжает Батра, если кто-то повторяет пять раз артикль «the», другой может это интерпретировать так, будто у него просят 5 копий определенного предмета. Это, по мнению ученого, не сильно отличается от сокращений, придуманных людьми.

Это не первый случай, когда роботы создают собственный язык. Так, система ИИ Google Translate тоже разработала «внутренний» набор знаков и правил — это позволяет ей более эффективно переводить другие языки, хранящиеся в базе данных.

По словам Майка Льюиса (Mike Lewis), исследователя Facebook AI Research (FAIR), компания решила отключить ботов, так как ей нужно, чтобы ИИ общался с реальными людьми, а не между собой.