NVIDIA Tesla T4 Tensor Core GPU — новинка от NVIDIA

//NVIDIA Tesla T4 Tensor Core GPU — новинка от NVIDIA

.NVIDIA Tesla T4 Tensor Core GPU — новинка от NVIDIA

NVIDIA Tesla T4 Tensor Core GPU — новинка от NVIDIA. Подпитывая рост услуг AI во всем мире, NVIDIA сегодня запустила платформу центра обработки данных AI, которая обеспечивает самое современное ускорение вывода в отрасли для голосовых, видео, изображений и тд. Гипермасштабируемая Платформа вывода NVIDIA TensorRT оснащена графическими процессорами NVIDIA Tesla T4 на основе прорывной архитектуры NVIDIA Turing. И полным набором нового программного обеспечения вывода.

Преимущество Nvidia перед AMD аппаратное или программное?

Обеспечивая самую высокую производительность и меньшую задержку для сквозных приложений, Платформа позволяет гипермасштабируемым центрам обработки данных предлагать новые услуги. например такие как улучшенные взаимодействия на естественном языке и прямые ответы на поисковые запросы, а не список возможных результатов.

«Наши клиенты устремляются в будущее, где каждый продукт и услуга будут затронуты и улучшены AI», — сказал Ян бак, вице-президент и генеральный менеджер ускоренного бизнеса NVIDIA. «Гипермасштабируемая Платформа NVIDIA TensorRT была построена, чтобы воплотить это в реальность — быстрее и эффективнее, чем ранее считалось возможным.»

Ежедневно огромные центры обработки данных обрабатывают миллиарды голосовых запросов, переводов, изображений, видео. А так же рекомендаций и взаимодействий в социальных сетях. Каждое из этих приложений требует другой тип нейронной сети, находящейся на сервере, где и происходит обработка.

Для оптимизации центра обработки данных для максимальной пропускной способности и использования сервера Платформа Nvidia Tensorrt Hyperscale включает в себя программное обеспечение для вывода в реальном времени. и так-же графические процессоры Tesla T4, которые обрабатывают запросы до 40 раз быстрее, чем обычные процессоры.

По оценкам NVIDIA, индустрия вывода ИИ готова вырасти в ближайшие пять лет на рынок размером в 20 миллиардов долларов.

Гипермасштабируемая Платформа NVIDIA TensorRT включает в себя полный набор аппаратных и программных продуктов. Они оптимизированы для мощного и высокоэффективного вывода. Ключевые элементы включают:

NVIDIA Tesla T4 GPU:

Благодаря 320 Ядрам Тензора Тьюринга и 2560 ядрам CUDA, этот новый Графический процессор обеспечивает прорывную производительность с гибкими, многоточными возможностями. От FP32 до FP16 до INT8, а также INT4. Он расположен в компактном, 75-ваттном, небольшой Форм-фактор PCIe. Который легко вписывается в большинство серверов. Он выдает 65 терафлопс пиковой производительности для FP16. 130 терафлопс для INT8 и 260 терафлопс для INT4.

NVIDIA TensorRT 5-оптимизатор вывода и движок времени выполнения. TensorRT 5 от NVIDIA поддерживает ядра Turing Tensor. И расширяет набор нейросетевых оптимизаций для многоточных рабочих нагрузок.

NVIDIA TensorRT inference server-это контейнерное программное обеспечение микрослужб. Оно позволяет приложениям использовать модели ИИ в производстве центров обработки данных. В свободном доступе GPU от NVIDIA облако реестра контейнер. Он увеличивает пропускную способность центра обработки данных и использовании GPU. А так же поддерживает все популярные модели AI и фреймворки, и интегрируется с Kubernetes и Докер.

Отзывы партнеров

Поддержка новой платформы вывода NVIDIA исходит от ведущих компаний в области потребительских и бизнес-технологий по всему миру:

«Мы прилагаем все усилия в Microsoft, чтобы предоставить нашим клиентам самые инновационные услуги на базе искусственного интеллекта». Сказал Хорди Рибас, корпоративный вице-президент по продуктам Bing и AI в Microsoft. «Использование графических процессоров NVIDIA в рабочих нагрузках вывода в реальном времени улучшило возможности расширенного поиска Bing. Что позволило сократить задержку обнаружения объектов для изображений. Мы с нетерпением ждем возможности работать с оборудованием и программным обеспечением следующего поколения  для вывода от NVIDIA. Чтобы расширить возможности использования продуктов и услуг искусственного интеллекта.»

Крис Клебан, менеджер по продукту Google Cloud, сказал: «AI становится все более распространенным, и вывод является критически важной возможностью. Необходимой клиентам для успешного развертывания своих моделей AI. Поэтому мы рады поддержать графические процессоры Turing Tesla T4 от NVIDIA. На облачной платформе Google в ближайшеи будущем.»

Дополнительная информация, в том числе о том, как запросить ранний доступ к графическим процессорам T4 на облачной платформе Google, доступна здесь.

Многие компании, включая всех основных производителей серверов, озвучивающих поддержку Гипермасштабируемой платформы NVIDIA tensorrt, включают:

«Портфель UCS Cisco обеспечивает управляемые политикой, ускоренные GPU системы. И решения для питания каждой фазы жизненного цикла ИИ. С графическим процессором NVIDIA Tesla T4, основанным на архитектуре Nvidia Turing, клиенты Cisco будут иметь доступ к наиболее эффективному ускорителю. Для улучшения рабочих нагрузок и ускорения вывода с помощью ИИ. И смогут быстрее получать информацию и сокращать время ответа.»
— Kaustubh Das, вице-президент по управлению продуктами, Data Center Group, Cisco

«Dell EMC ориентирована на то, чтобы помочь клиентам трансформировать ИТ-технологии. Используя такие достижения, как искусственный интеллект. Являясь ведущим мировым поставщиком серверных систем, Dell EMC продолжает расширять портфель серверов PowerEdge. Чтобы помочь нашим клиентам в конечном итоге достичь своих целей. Наше тесное сотрудничество с NVIDIA и историческое внедрение новейших графических ускорителей, доступных из портфолио Tesla. Они играют жизненно важную роль в оказании помощи нашим клиентам оставаться впереди в обучении и выводе ИИ.»
— Рави Пендеканти, старший вице-президент по маркетингу и управлению продуктами. А так же серверам и Инфраструктурным системам, Dell EMC

«Fujitsu планирует включить графические процессоры NVIDIA Tesla T4 в глобальную линейку серверных систем Fujitsu PRIMERGY. Используя этот новейший высокопроизводительный GPU-ускоритель от NVIDIA, мы предоставим нашим клиентам по всему миру серверы. Оптимизированные для их растущих потребностей в ИИ.»
— Хидеаки Маэда, вице-президент отдела продуктов подразделения платформы ЦОД Fujitsu Ltd.

«В ВПО, мы развиваем свой интеллект на краю для более быстрого понимания и улучшенния опвта. Мы продолжаем модернизировать и ускорять центр обработки данных. Все благодаря графическому процессору NVIDIA Tesla T4, основанным на архитектуре NVIDIA Turing. Чтобы все было на высшем уровне.»
— Билл Маннель, вице-президент и генеральный директор, HPC and AI Group, Hewlett Packard Enterprise

«Мы рады, что NVIDIA привнесла в Kubernetes вывод GPU с помощью сервера вывода NVIDIA TensorRT. И мы надеемся интегрировать его с Kubeflow. Чтобы затем предоставить пользователям простой, портативный и масштабируемый способ развертывания вывода AI в различных инфраструктурах.»
— Дэвид Aronchick, соучредитель и продукт-менеджер Kubeflow

«Кросс-фреймворк с открытым исходным кодом имеет жизненно важное значение для развертывания моделей машинного обучения. Мы рады видеть, как сервер вывода NVIDIA TensorRT, который приносит мощное решение для GPU. И CPU вывода выступающей в масштабе, обеспечивает более быстрое развертывание приложений ИИ. И так же улучшает использование инфраструктуры.»
— Кэш Ифтихар, вице-президент по разработке продуктов, Oracle Cloud Infrastructure

«Supermicro внедряет инновации для решения быстро развивающегося рынка высокопроизводительных решений. Основанного на таких технологиях, как 5G, умные города и устройства IOT. Которые генерируют огромные объемы данных и требуют принятия решений в режиме реального времени. Мы рассматриваем сочетание NVIDIA TensorRT и новой архитектуры Turing T4 GPU accelerator. Как идеальное сочетание для этих новых, требовательных и чувствительных к задержкам рабочих нагрузок. И мы планируем активно использовать их в нашей линейке продуктов GPU system.»
— Чарльз Лян, президент и генеральный директор Supermicro

2018-09-13T17:00:49+00:00 13 Сентябрь 2018|Новости|Нет комментариев

Оставить комментарий