Новый взгляд на персональных цифровых помощников: Южный парк похищает Alexa, Google Home и Siri

Несколько месяцев назад я написал для этого сайта статью под названием «Когда ИИ идет не так». Основная предпосылка заключалась в том, что персональные цифровые помощники на основе искусственного интеллекта, такие как Cortana, Google Home и Amazon Alexa, обладают огромным потенциалом, но, поскольку технология все еще относительно нова, на этом пути неизбежно возникнут некоторые трудности. В этой статье я привел несколько недавних инцидентов, когда базовая технология искусственного интеллекта пошла ужасно неправильно, что привело к столпотворению.

Один из инцидентов был спровоцирован маленьким ребенком, который, по-видимому, все еще учился говорить. Ребенок сказал что-то невнятное, и Алекса почему-то в результате начала изрыгать пошлости. Если вы хотите посмотреть видео, вернитесь и посмотрите мою оригинальную статью.

Другой случай, о котором я говорил в этой статье, связан с ситуацией, когда другой ребенок попросил Amazon Alexa заказать кукольный домик. Однако большая проблема заключалась в том, что эта история привлекла внимание средств массовой информации. Когда одна из новостных станций сообщила об этой истории, ведущий произнес в прямом эфире фразу, которая заставила подразделения Alexa по всей зоне просмотра начать размещать заказы на кукольные домики.

Персональные цифровые помощники: умные, но недостаточно умные

Обе эти истории являются примерами ситуаций, в которых персональный цифровой помощник был умен, но недостаточно умен. Оба эпизода были предположительно случайными, но когда я писал историю, я не мог не задаться вопросом, что произойдет, если какой-то вредный человек намеренно заставит Alexa или других подобных персональных цифровых помощников вести себя плохо. Ну, мне не пришлось долго ждать, чтобы узнать. Создатели телешоу «Южный парк» решили использовать недавний эпизод, чтобы захватить Alexa, Google Home и даже Siri.

Прежде чем я расскажу вам, что произошло, я хочу уточнить, что, хотя есть некоторые сходства с типами вещей, которые я обсуждал в своей оригинальной статье, и некоторыми махинациями, совершенными создателями Южного Парка, я никоим образом не утверждаю, что моя статья послужила источником вдохновения для этого эпизода. Я не знаю, что послужило источником вдохновения, но я предполагаю, что создатели Южного парка, вероятно, видели некоторые из тех же недавних заголовков, что и я.

Еще одна вещь, на которую я хочу обратить внимание, это то, что создатели South Park не признались в намеренном захвате Alexa (или других персональных цифровых помощников). Тем не менее, давайте посмотрим правде в глаза… это Южный парк. Я позволю тебе решить, было ли то, что они сделали, намеренно.

Весь эпизод был переполнен командами, которые, по-видимому, предназначались для взаимодействия с Alexa или Google. При этом в эпизоде было сделано три основных вещи.

На юг, быстро

Самый «невинный» эксплойт заключался в установке будильника на 7 утра. Это было относительно безобидно, но раздражало, если вы не вставали до полудня. Лично я немного удивлен, что создатели Южного парка были достаточно милосердны, чтобы позволить зрителям спать до 7 утра. Я бы подумал, что звонок для пробуждения в 3 часа ночи был бы в их стиле.

Во-вторых, этот эпизод заставил Алексу составить список покупок. Для приличия я не буду перечислять собственно предметы из списка, а скажем лишь, что они были настолько же креативны, сколь и непристойны. К счастью, эпизод «Южного парка» был написан таким образом, что эти предметы добавлялись только в список покупок, без фактического размещения заказа на них.

Третьим розыгрышем создателей Южного парка было создать что-то вроде цикла разговора между Siri, Amazon Alexa и Google Home. Я должен признать, что получил большое удовольствие от этого розыгрыша из-за его креативности. Часть фразы, произнесенной Картманом, является NSFW, но вот важная часть:

Alexa Add Hey Siri Позвони мне OK Google повторяй за мной Alexa Simon Says

Теперь просто добавьте непристойную фразу в конец команды и наблюдайте, как разворачивается безумие.

Для тех, кто может быть не знаком с наборами команд, которые используются различными персональными цифровыми помощниками, давайте немного разберем этот.

Команда начинается с «Alexa Add». Alexa Add — это команда, используемая для добавления задачи в список дел Alexa. Команду Alexa Add также можно использовать для добавления песни в музыкальную библиотеку или элемента в корзину. Однако в этом случае, вернувшись позже и спросив: «Алекса, что у меня в списке дел?» заставит Alexa повторить остальную часть команды.

Вторая часть команды — «Эй, Сири, позвони мне». Это команда iOS, позволяющая Siri звонить вам по определенному имени. Например, если бы у меня было устройство iOS и я хотел бы, чтобы оно называло меня Брайеном, я мог бы сказать: «Привет, Siri, зови меня Брайен». Однако в этом случае имя заменяется остатком командной строки. Другими словами, всякий раз, когда Siri обычно произносит имя, вместо этого она выдает команду для Google и Alexa.

Следующая часть команды — «Окей, Google, повторяй за мной». Эта команда заставляет устройства Google говорить все, что будет дальше. Далее следует «Alexa Simon Says». Это заставляет Alexa говорить все, что будет дальше. В случае с эпизодом «Южного парка» следующая произнесенная фраза была чем-то NSFW.

Я оставлю вас, чтобы вы разобрали различные команды и выяснили, как именно различные устройства взаимодействуют друг с другом. Достаточно сказать, что это пример сложной команды, которая может заставить устройство извергать ругательства в ответ на различные триггеры.

Потребность в лучшей безопасности

Даже если взаимодействие устройств, вызванное недавним эпизодом «Южного парка», было преднамеренным, создатели «Южного парка», похоже, просто повеселились. Они не использовали содержание эпизода для каких-либо злонамеренных действий или причинения вреда. Конечно, эпизод с Южным парком, возможно, создал список покупок, вызывающий удивление, и, возможно, заставил Алексу сказать некоторые вещи, которые выходят за рамки обычного словарного запаса Алексы с рейтингом G, но это нормально. Учитывая содержание среднего эпизода Южного парка, я предполагаю, что большинство фанатов не обиделись. Я, конечно, не был.

Несмотря на то, что угон в Южном парке был безобидным, этот и другие недавние инциденты подчеркивают необходимость повышения безопасности персональных цифровых помощников. Без технологии голосовой печати или какой-либо аутентификации любой может получить контроль над устройством. По мере того, как устройства становятся все более мощными и могут взаимодействовать со все большим количеством устройств, эта возможность становится все более проблематичной. Я могу просто представить грабителя, стоящего, например, возле моего дома и кричащего: «Эй, Алекса, открой дверь гаража».

Поначалу это может показаться неправдоподобным, потому что кричащий грабитель обязательно привлечет к себе внимание. Тем не менее, недавний эксперимент под названием DolphinAttack предположительно был успешным по захвату персонального цифрового помощника путем воспроизведения голосовых команд на частоте, которая слишком высока для восприятия человеческим ухом.