Облачные вычисления на GPU: что нужно знать ИТ-директорам

Графический процессор (GPU) всегда был важнейшим компонентом процессоров или центрального процессора, как мы их знаем. Это как Оптимус Прайм для «Трансформеров», F150 для линейки автомобилей Ford или карамель для батончика «Сникерс».

Это компонент, который обеспечивает сложную графику и видео в таких приложениях, как видеоигры. Он начинался как периферийный компонент ЦП, но сегодня графические процессоры перепозиционировали себя как критический компонент вычислительной техники в настоящее время, и похоже, что это не изменится в ближайшее время. Что-то вроде вилки, чтобы вы могли подключить машину для питания! Да, это довольно важно!

Теоретически GPU может обеспечить эффективность вычислений более чем в 100 раз выше, чем у CPU. Наилучшая аналогия — при задании задачи чтения книг на тысячу страниц процессор начнет с первой страницы и прочитает до конца. Вместо этого GPU разделит книгу на тысячу страниц и проглотит их все сразу (вероятно, даже быстрее, если эта книга была написана Тейлором Колдуэллом или Джеймсом А. Миченером, но это для другого дня).

Графические процессоры, обеспечивающие будущее вычислений

Графические процессоры являются основой высокопроизводительных вычислений в области искусственного интеллекта, беспилотных автомобилей и многих футуристических вычислительных приложений. При использовании в сочетании с ЦП графические процессоры могут ускорить аналитику, глубокое и машинное обучение, позволяя реализовывать приложения для поисковых систем, робототехники и автономных транспортных средств, видеосвязи и многого другого.

А пока давайте сосредоточимся на том, какой огромный потенциал у вычислений на базе графических процессоров для предприятия, особенно когда они так хорошо интегрируются с существующей облачной инфраструктурой.

GPU и облачные вычисления — слияние двух супертехнологий

GPU — это вычислительная платформа, которая может преобразовывать большие данные в беспрецедентный интеллект (почти сверхчеловеческий). Графические процессоры находятся в центре вычислительных механизмов, которые определяют эпоху искусственного интеллекта.

Самое главное, мощь GPU, которая ускоряет вычисления, теперь интегрируется с данными в облаке, трансформируя настоящее и будущее анализа данных, машинного обучения, глубокого обучения и больших данных с беспрецедентной скоростью. Вычисления с ускорением на GPU доступны на всех облачных платформах, таких как Amazon Web Services, Microsoft Azure, IBM Cloud и Google Cloud Platform.

Мощь вычислений на GPU для данных, размещенных в облаке

В любой организации еженедельно генерируется несколько гигабайт данных. Журналы датчиков, изображения, текстовые сообщения, видео, записи транзакций, файлы, связанные с интерфейсом, сгенерированные отчеты и многое другое — существует так много источников, генерирующих невероятные объемы данных каждый день.

Это приводит к серьезным препятствиям для включения глубокого обучения из-за времени, которое требуется для передачи ваших данных с облачной платформы в центр обработки данных, где графические процессоры могут обрабатывать данные. Благодаря преодолению этого разрыва, то есть переносу вычислений на GPU в облако, наборы данных и вычислительная мощность становятся намного ближе во всей экосистеме, помогая вашей организации получать проницательные результаты от футуристического анализа данных.

Стратегические инвестиции для достижения долгосрочной экономии затрат

Традиционные рабочие нагрузки глубокого обучения требуют значительных инвестиций в безотказную работу сотен экземпляров ЦП на базе обычных продуктов. Однако эти инстансы могут быть заменены мощными вычислительными узлами с ускорением на графическом процессоре, содержащим до 8 графических процессоров на каждый инстанс.

Это может привести к долгосрочному снижению стоимости облачных вычислений на базе графического процессора на 70%. Кроме того, благодаря гибким вариантам ценообразования с оплатой по факту использования, почти 100% гарантиям безотказной работы и масштабируемости, вычисления на GPU для облака становятся эффективным выбором для предприятий с большим количеством облачных хранилищ данных. Усовершенствованные графические процессоры обеспечивают предсказуемую производительность, а также такие преимущества, как целостность данных, высокая пропускная способность, обеспечиваемая прямым RDMA графического процессора, и P2P-связь с низкой задержкой между графическими процессорами.

Автоматическая подготовка для устранения очередей заданий

Кластеры высокопроизводительных вычислений с GPU-ускорением можно активировать в течение нескольких минут, а не ждать несколько дней и недель, как обычно наблюдается при традиционной подготовке. Это достигается с помощью виртуальных образов с использованием предварительно настроенных драйверов. Независимо от того, хотите ли вы удовлетворить свои растущие вычислительные потребности или вам нужно ускорить вычисления, чтобы справиться с короткими пиковыми периодами, вычисления с ускорением на GPU достаточно масштабируемы, чтобы удовлетворить все требования. Вроде как вкусный чизбургер с луком и помидорами может наесться любому! Ну, если вы не Шак, ему может понадобиться два!

Прозрачная интеграция графических процессоров в существующую ИТ-инфраструктуру

В идеальном сценарии пользователи не должны даже знать, что используемые ими приложения и данные, к которым они обращаются, получают питание из облака. Это означает, что первая задача, с которой сталкиваются организации, — беспрепятственно интегрировать облачные графические процессоры в существующую ИТ-экосистему. Эта интеграция должна быть ненавязчивой, то есть локальные кластеры должны использовать облачные вычисления на GPU через логическое расширение.

Понимание ограничений высокопроизводительных вычислительных приложений, не терпящих задержки

Задержка может быть ограничивающим фактором, хотя она и не связана напрямую с графическими процессорами в облаке. В некоторой степени этому можно противодействовать путем интеллектуального промежуточного хранения данных для высокопроизводительных вычислений. Чтобы свести к минимуму последствия задержки, можно использовать такие варианты, как постоянное хранилище (Amazon Web Service S3) и архивирование/резервное копирование (например, в AWS Glacier).

Всегда будут приложения HPC, которые нетерпимы к задержке; для них графические процессоры и облако пока не являются идеальными решениями для ускорения. Приложения, в которых связь и вычисления не нужно чередовать, идеально подходят для ускорения с помощью облачных графических процессоров.

Путь вперед для разработчиков, чтобы помочь организациям извлечь выгоду из вычислений на GPU в облаке

Писать код для GPU-обработки непросто (написать алфавит намного проще!). Кроме того, перенос существующего кода для использования возможностей графических процессоров для приложений — непростая задача для бизнеса. Разработчикам необходима надежная поддержка в виде наборов инструментов для управления программированием, ориентированным на GPU, для таких языков, как CUDA и OpenCL (собственные языки программирования) и OpenACC (на основе директив).

Компиляторы, профилировщики, ассемблеры, отладчики и т. д. для включения API и библиотек должны быть усовершенствованы для внутренних разработчиков, чтобы оптимизировать существующие облачные приложения для использования возможностей графических процессоров в Интернете. В настоящее время разработчикам необходимо реализовать модификации базовой системы на основе изменений в ядрах Linux, чтобы они позволяли использовать графические процессоры для ускорения вычислений.

Основные выводы

Вычисления с ускорением на GPU уже добились значительных успехов в таких областях, как вычислительная химия, наука о данных, изображения и компьютерное зрение, биоинформатика, оборона, вычислительные финансы (можем ли мы снизить налоги!?) и машинное обучение.

По мере роста числа и расширения приложений, которые могут извлечь выгоду из ускорения GPU, и снижения затрат на приобретение вычислений на GPU, предприятиям необходимо будет принять стратегическое решение, чтобы присоединиться к волне вычислений на GPU. На данный момент предприятия с большим объемом данных и приложениями с огромными бюджетами на цифровую трансформацию одобряют вычисления с ускорением на GPU и начинают пожинать плоды.

Точно так же, как рейдеры пожинают плоды, покидая неудавшийся город Окленд! Вегас, мы идем!

AWS