Нейропроцессоры

2024. Nvidia выпустила самый мощный чип для ИИ - Blackwell



Nvidia выпустила «самый мощный ИИ-чип в мире»на базе новой архитектуры Blackwell. Новый GPU B200, наследник крайне востребованных на рынке H100/H200 (на базе архитектуры Hopper), выполнен по 4-нанометровому технологическому процессу TSMC и несет 208 млрд транзисторов (H100, к примеру, имеет лишь 80 млрд), которые обеспечивают ему производительность на уровне 20 Пфлопс (FP4). Как утверждают в компании, системы на основе архитектуры Blackwell способны решать те же задачи, что и базирующиеся на Hopper (H100), но вплоть до 25 раз с более высокой энергоэффективностью и помогают сократить затраты на приобретение оборудования и электроэнергии.


2024. Представлен первый в мире языковой процессор - Groq LPU



Стартап Groq представил специализированный процессор LPU (Language Processing Unit), предназначенный специально для ускорения работы больших языковых моделей (LLM). Ожидается, что изделие произведет революцию на рынке искусственного интеллекта. Groq LPU базируется на архитектуре тензорного потокового процессора (TSP). При работе с моделью Mixtral 8x7B ускоритель Groq LPU обеспечивает скорость инференса до 480 токенов в секунду, что является одним из лучших показателей в отрасли по состоянию на данный момент. А в таких моделях, как Llama 2 70B с длиной контекста 4096 токенов, новый чип демонстрирует быстродействие на уровне 300 токенов в секунду. В отличие от графических процессоров, в LPU используется упрощенный подход, устраняющий необходимость в сложном аппаратном обеспечении планирования и обеспечивающий постоянную задержку и большую пропускную способность. Кроме того, новое изделие обладает высокой энергетической эффективностью, благодаря чему сокращаются общие расходы на поддержание систем ИИ.


2023. Intel анонсировал новый чип для систем искусственного интеллекта



Компания Intel анонсировала новый нейрочип Gaudi3 для систем искусственного интеллекта. Он появится в продаже в следующем году и будет конкурировать с аналогами Nvidia и AMD, которые используют мощные AI-модели. Самые известные модели искусственного интеллекта, такие как ChatGPT от OpenAI, работают на графических процессорах от Nvidia в облаке. Это одна из причин, почему акции Nvidia выросли почти на 230% в этом году, тогда как акции Intel – всего лишь на 68%. Также это привело к тому, что компании, такие как AMD, а теперь и Intel -представили свои чипы, надеясь потеснить Nvidia на рынке. Intel также делает ставку на персональные компьютеры с искусственным интеллектом. Для них предназначен новый процессор Core Ultra, представленный одновременно с Gaudi3. Акции Intel после презентации поднялись на 1%.

2023. Google представил 5 поколение своих TPU-процессоров



Google представил 5 поколение своих тензорных нейропроцессоров для машинного обучения TPU. Они доступны только в облаке Google Cloud. Компания отмечает, что при создании этой версии чипа особое внимание уделялось эффективности. По сравнению с предыдущим поколением, эта версия обещает обеспечить двукратное улучшение производительности обучения на доллар и 2,5-кратное улучшение производительности обученной модели на доллар. В дополнение к следующему поколению TPU компания также объявила, что в следующем месяце она сделает графические процессоры Nvidia H100 доступными для разработчиков.


2022. Создан нейроморфный чип, который запускает ИИ прямо в памяти устройства



Группа исследователей из Университета Калифорнии объявила о создании нейроморфного чипа NeuRRAM, который проводит вычисления в памяти. Его энергоэффективность в два раза выше, чем у существующих чипов, поэтому его можно использовать для автономной работы приложений ИИ. Работа нейросетей требует большого количества энергии и вычислительных ресурсов. Большинство приложений, установленных в смартфонах или на других периферийных устройствах, передают данные в облако, где их анализирует и обрабатывает ИИ. Полученный результат возвращается на устройство. Это связано с тем, что большинство периферийных устройств питаются от батареи и, как следствие, имеют ограниченную мощность, которую можно выделить для вычислений объясняют разработчики. Чтобы решить проблему с передачей данных, ученые использовали резистивную память с произвольным доступом (RRAM). Это энергонезависимое устройство для хранения информации, в котором вычисления могут проводиться непосредственно в памяти, а не в отдельных вычислительных блоках.


2021. Intel представила второе поколение нейроморфного чипа Loihi



Компания Intel представила новую итерацию нейроморфной программы, в том числе, второе поколение чипа Loihi, а также открытый фреймворк для разработки нейроморфных приложений Lava. Loihi 2 содержит до 1 млн «нейронов» на чипе и в десять раз быстрее предыдущей версии. Плотность ресурса в 15 раз больше, а энергоэффективность - лучше. Что касается Lava, то эта система отвечает потребностям программного фреймворка для сообщества исследователей нейроморфных вычислений. Она позволяет ученым и разработчикам приложений работать с принятым набором инструментов, методов и библиотек на обычных и нейроморфных процессорах, а также создавать программы, не имея доступа к специализированному железу.


2020. Intel представила самый мощный нейроморфный процессор



Компания Intel представила нейроморфный процессор Pohoiki Springs, вычислительная мощность которого составляет 100 млн нейронов. Его архитектура напоминает структуру мозга животного: обработка и хранение информации производится в одном месте — это позволяет экономить время, необходимое на выполнение операции, и энергию, затрачиваемую на нее. Новая система, согласно сообщению компании, будет работать через облако и станет доступна участникам исследовательского сообщества Intel Neuromorphic Research Community (INRC). Она позволит исследователям в рамках их проектов нейроморфных вычислений решать более масштабные и сложные задачи.