Неправильные чат-боты могут разрушить ваш бизнес

Трудно быть лицом, принимающим решения в ИТ-отделе, особенно тем, кто должен подписывать заказы на покупку новых технологий. Итак, что вы будете делать, когда у вас появится идея инвестировать в новейший технологический стартап, который обещает развернуть чат-ботов на базе ИИ? Или, если вы занимаетесь цифровым маркетингом, как вы оцениваете, стоит ли вкладывать деньги в чат-бота? Мы знаем, это сложно. Продавцы скажут вам все правильно о чат-ботах. Это руководство расскажет вам то, чего не скажут поставщики: что произойдет с вашим бизнесом, если чат-боты пойдут не так.

Преодолеть маркетинговую шумиху само по себе сложно. Для чат-ботов принятие решений становится более сложным из-за слишком большого количества неизвестных факторов, слишком мало ясности в отношении устойчивых вариантов использования в бизнесе и почти полного отсутствия собственных ИТ-возможностей для разработки чат-ботов, которые приносят пользу всему предприятию. Не лишним будет добавить, что на данном этапе чат-боты — это больше эксперимент, чем проверенный драйвер бизнес-преимуществ.

Помимо всего этого, давайте также согласимся с тем, что в ближайшие времена, безусловно, будет больше ясности, и принятие решений не будет таким трудным. До тех пор мы советуем вам использовать любую возможность, чтобы понять возможные риски и проблемы, связанные с этой технологией.

Мошеннические боты

Они остроумны. Они умны. Они выглядят так же аутентично, как самый настоящий чат-бот, которого вы когда-либо видели. Они еще и секси! Но это мошеннические боты. Точно так же, как предприимчивая и конструктивная мысль привела к созданию чат-ботов, злонамеренная и деструктивная мысль (читай, киберпреступники) привела к созданию чат-ботов с негативными намерениями.

Эти ошибочные чат-боты запрограммированы на инициирование и поддержание разговоров с пользователями с целью ввести их в заблуждение по вредоносным ссылкам. Кроме того, мошеннические боты могут убедить пользователей поделиться информацией для входа в свою учетную запись, информацией о кредитной карте и личной информацией. Эти мошеннические боты могут запускать любые фишинговые атаки.

Для тех, у кого ограниченный опыт взаимодействия с чат-ботами, может быть очень сложно отличить хороших ботов от плохих чат-ботов, которые пошли не так. Маркетологи и поставщики программного обеспечения должны будут вложить значительные средства в установление норм в отношении информации, которую бот может и должен запрашивать. Пока просто знайте, что вы еще не слышали о мошеннических ботах.

Риск открытых интернет-протоколов

Одно дело, что чат-боты рекламируются как следующая большая технологическая революция, которая невообразимым образом коснется бизнеса. Другое дело, что чат-боты, по крайней мере на сегодняшний день, используют для обмена данными базовые открытые интернет-протоколы. Эти платформы могут быть относительно легко атакованы хакерами, и это, по сути, делает чат-боты важной целью для киберпреступников. В частности, в финансовом секторе существует значительный риск взлома разговоров чат-ботов. Одним из способов обеспечения безопасности является проверка того, что все передачи данных осуществляются через надежные протоколы HTTPS. Для высокочувствительных приложений еще одним надежным методом, обеспечивающим безопасность передачи данных чат-бота, является аутентификация на транспортном уровне (TLA). Итак, убедитесь, что надежная безопасность станет первой линией запроса, которую вы принимаете при обсуждении чат-ботов с любым потенциальным поставщиком.

Возможность путаницы

Ожидается, что чат-боты упростят общение между людьми и машинами. Однако человеческое поведение нельзя назвать предсказуемым и упрощенным. Добавьте к этому тот факт, что программы чат-ботов закодированы так, чтобы давать четкие и целенаправленные ответы, и вы поймете, как разговор, предназначенный для того, чтобы привести пользователя к точке А, вместо этого приведет его к точке Х. В результате в некоторых приложениях конечным результатом может стать истощение пользователей! Например, чат-бот, предназначенный для того, чтобы помочь пользователю найти идеальную рубашку, вполне может в конечном итоге предложить рубашки с завышенной ценой или большие размеры, что может оттолкнуть пользователей к другим интернет-магазинам. Ручная проверка запасов с большей вероятностью поможет пользователю найти хорошую рубашку. Это потенциальная обратная сторона технологий, в которых человеческий контроль существенно скомпрометирован.

Чат-боты убьют черную работу

По правде говоря, весьма вероятно, что чат-боты займут большую часть рабочих мест на предприятии, которые носят повторяющийся характер и где диапазон конверсий может быть ограничен узкими рамками. Служба поддержки находится прямо в реестре рисков. С точки зрения бизнеса это означает сокращение расходов. Тем не менее, с точки зрения рынка труда и, следовательно, с точки зрения правил HR-индустрии, за этим пространством стоит следить. Вполне вероятно, что правительственные постановления и общественный резонанс будут влиять на скорость чат-ботов, которые угрожают рабочим местам. Это создаст уникальные отраслевые и правительственные проблемы управления отношениями для многонационального бизнеса.

Вызов Тьюринга

Если вы никогда не слышали о тесте Тьюринга, знайте, что это один из самых надежных тестов для оценки интеллекта машин. Очевидный вопрос, который вы собираетесь выпалить, — как поживают чат-боты? Что ж, специально для чат-ботов было проведено не так много тестов, но машины с искусственным интеллектом в целом подвергались этому тесту. К сожалению, большинство тестов показали, что эти технологии не так умны, как люди. Последствия этого уже видны в том, как чат-боты создаются с учетом шлюзов, позволяющих людям-руководителям взять на себя управление. Это может значительно увеличить сроки окупаемости технологии чат-ботов для нескольких малых и средних предприятий.

Неудачные чат-боты могут означать, что бизнес ненавидят

Даже такая технологически продвинутая и мощная компания, как Microsoft, может пострадать от последствий неправильной работы чат-ботов. В марте 2016 года чат-бот Microsoft Tay произвел фурор, но по причинам, далеким от того, на что Microsoft рассчитывала или на что надеялась. Тай сделал несколько неприятных твитов на тему «Гитлер был прав». Хотя судить об эффективности чат-ботов по таким примерам неправильно, это, безусловно, требует осторожности со стороны бизнеса, рассматривающего идею использования чат-ботов для вещательных СМИ. Это потому, что репутации требуется на удивление мало времени, чтобы растоптать, если проступок связан с расизмом или сексизмом.

Чат-боты обещают многое, и некоторые из них даже начали приносить результаты. Однако маркетинговый механизм работает сверхурочно и размывает понимание чат-ботов для людей, для которых они важны. В этом руководстве описаны некоторые потенциальные недостатки, о которых вы никогда не услышите от поставщиков программного обеспечения.