Компьютерные новости
Все разделы
Samsung построила вычислительную систему из 96 графических процессоров AMD MI100 с новой вычислительной памятью
Компания Samsung создала первую в мире крупномасштабную вычислительную систему, используя графические процессоры со встроенными микросхемами обработки в памяти (PIM). Согласно отчету Business Korea, эти модули памяти, загруженные на 96 графических процессорах AMD Instinct MI100, увеличили производительность обучения искусственному интеллекту в 2,5 раза.
PIM – это новое поколение компьютерной памяти, которое может ускорить вычислительно-сложные рабочие процессы, обрабатываемые такими процессорами, как CPU и GPU. Как следует из названия каждый модуль памяти способен самостоятельно обрабатывать данные, уменьшая количество данных, необходимых для перемещения между памятью и процессором.
Samsung сначала продемонстрировала PIM-модифицированные графические процессоры в октябре, но только недавно объединила 96 PIM-модифицированных графических процессоров в кластер. По сравнению с обычной видеопамятью эти модифицированные микросхемы MI100 не только работают в 2,5 раза лучше, но и уменьшают энергопотребление в 2,67 раза, резко повышая эффективность графических процессоров при выполнении алгоритмов ИИ.
Samsung уже некоторое время разрабатывает PIM. В 2021 году компания продемонстрировала несколько реализаций, включающих несколько разных типов памяти, включая DDR4, LPDDR5X, GDDR6 и HBM2. В формате LPDDR5 Samsung отметила повышение производительности в 1,8 раза с понижением энергопотребления на 42,6% и сокращением задержки на 70% во время тестовой программы, включающей рабочую нагрузку Meta AI. Еще более впечатляюще то, что эти результаты были получены из стандартной серверной системы без модификаций материнской платы или ЦП (все, что изменилось, это замена на модули LPDDR5 DIMM с поддержкой PIM).
Samsung не единственная компания, разрабатывающая микросхемы PIM – SK Hynix выпустила собственные модули PIM в начале этого года. Согласно предварительному тестированию SK Hynix, их приложение GDDR6-AiM (акселератор памяти) ускорило обработку искусственного интеллекта в 16 раз и снизило энергопотребление на 80%. Это гораздо быстрее, чем модифицированный MI100 от Samsung, но мы не знаем, что SK Hynix использовала для тестирования, поэтому это не прямое сравнение.
Несмотря на это, PIM выглядит мощным решением для ускорения рабочих процессов, ускоренных искусственным интеллектом. "Как руководитель исследовательского центра искусственного интеллекта, я хочу сделать Samsung полупроводниковой компанией, использующей искусственный интеллект лучше, чем любая другая компания", - сказал Чой Чанг-кю, вице-президент и глава исследовательского центра ИИ Института передовых технологий Samsung Electronics. рассказала Business Korea.
