[Amazon Web Services, Искусственный интеллект, Процессоры] Amazon отказалась от чипов NVIDIA в пользу собственных

Ответить на тему

Автор

Сообщение

news_bot ^®

Стаж: 6 лет 9 месяцев
Сообщений: 27286

news_bot ^® написал(а)
16-Ноя-2020 16:31

Цитировать

Amazon перенесла часть операций, которые обеспечивают функционирование голосового помощника Alexa, на чипы собственной разработки Inferentia. Компания отказалась от решений NVIDIA.
Чип Inferentia производит до 128 триллионов операций в секунду и поддерживает типы данных FP16, BF16 и INT8. Он состоит из четырех ядер NeuronCore. Каждое ядро включает большое количество блоков DPU, которые обрабатывают данные линейным образом. Чип обладает солидным кэшем, что позволяет уменьшить задержки.
Около 80% обработки данных Alexa уже перевели на инстансы Elastic Compute Cloud (EC2) Inf1, которые используют новые чипы. По сравнению с G4, в которых использовались традиционные графические процессоры, инстансы Inf1 увеличивают пропускную способность на 30% и снижают затраты на 45%. Amazon считает, что это лучший экземпляр на рынке для анализа рабочих нагрузок естественного языка и обработки голоса.
Извините, данный ресурс не поддреживается. :( Пользователи устройств с голосовым помощником, в том числе и Amazon Echo, задают ему вопрос, и он отправляется в один из ЦОД Amazon для обработки и формирования ответа в формате текста. Затем он переводится в формат аудио и озвучивается Alexa.
Если раньше в этих операциях задействовали микросхемы NVIDIA, то теперь большую часть процесса будут выполнять с использованием вычислительного чипа Inferentia.
Чипы начали внедрять и в работу облачной службы распознавания лиц Rekognition.

См. также:

===========
Источник:
habr.com
===========
Похожие новости:

Теги для поиска: #_amazon_web_services, #_iskusstvennyj_intellekt (Искусственный интеллект), #_protsessory (Процессоры), #_amazon_web_services, #_alexa, #_nvidia, #_chipy (чипы), #_amazon_web_services, #_iskusstvennyj_intellekt (
Искусственный интеллект
), #_protsessory (
Процессоры
)

Профиль ЛС

Ответить на тему

Вы не можете начинать темы
Вы не можете отвечать на сообщения
Вы не можете редактировать свои сообщения
Вы не можете удалять свои сообщения
Вы не можете голосовать в опросах
Вы не можете прикреплять файлы к сообщениям
Вы не можете скачивать файлы

Текущее время: 22-Ноя 19:10
Часовой пояс: UTC + 5