Правдивая история о закрытом AI Wing в Facebook
В 2017 году сообщалось, что Facebook закрыл AI Wing после эксперимента, в котором участвовали два чат-бота. СМИ преувеличили эту новость, когда стало известно, что два бота создали новый язык для общения между собой, который исследователи могли расшифровать. Эта новость была разрекламирована как «Гибель всего человечества» , «Возвышение машин» или даже «Терминатор теперь реальность» . Комментарии Илона Маска за неделю до этого о том, что «искусственный интеллект может представлять угрозу для человечества в будущем», теперь стали более приемлемыми.
В эксперименте участвовали два бота - Боб и Алиса. Им было предложено попытаться договориться об обмене шляпами, мячами и книгами, при этом каждый предмет имел интеллектуальную ценность, связанную с ним. Ботам было поручено вести переговоры самостоятельно, попутно улучшая свой бартер. У ботов была свобода не использовать понятный английский, поскольку основная цель на этом этапе заключалась в том, чтобы научить ботов вести переговоры. Фактические разговоры между двумя ботами выглядят следующим образом:
Боб: я могу все остальное. . . . . . . . . . . . . . Алиса: шары имеют ноль мне мне мне мне мне мне мне мне мне Боб: ты и все остальное. . . . . . . . . . . . . . Алиса: мячи мне мяч мне мне мне мне мне мне мне Боб: я могу все остальное. . . . . . . . . . . . . . Алиса: мячи мне мяч мне мне мне мне мне мне мне Боб: я. . . . . . . . . . . . . . . . . . . Алиса: шары имеют ноль мне мне мне мне мне мне мне мне мне Боб: ты иииии все остальное. . . . . . . . . . . . . . Алиса: шары имеют 0 мне мне мне мне мне мне мне мне мне Боб: ты все остальное. . . . . . . . . . . . . . Алиса: шары имеют ноль мне мне мне мне мне мне мне мне мне
Изучив приведенный выше диалог, исследователи обнаружили, что два бота создали «стенографию» для английского языка, т.е. они оптимизировали свое общение, уменьшив очевидную сложность английского языка. Приглашенный исследователь отдела исследований искусственного интеллекта Facebook Дхрув Батра , расшифровывая язык, сказал, что два бота не знали английского языка. Он привел пример, что в строке 5 диалога Алиса повторяет фразу «для меня» 9 раз, чтобы сообщить ему о важности мяча, вместо того, чтобы использовать более сложное прилагательное для его описания.
Одним из немногих положительных результатов эксперимента было то, что боты симулировали интерес к предмету, чтобы позже он мог сообщить другому боту, как он жертвует предметом для обмена.
Настоящая причина закрытия ИИ-крыла заключалась в том, что исследователи хотели, чтобы боты были дружелюбны к человеку и чтобы они могли общаться в более понятной манере.
Шумиха и негативное восприятие истории должны быть больше связаны с общим восприятием искусственного интеллекта и популярной культуры, и такое восприятие должно присутствовать при анализе новостей аналогичного содержания.