Intel Xeon 6 осигурява до 17 пъти по-добра производителност на AI за 4 години MLPerf резултати
Наскоро MLCommons публикува резултати от своя пакет за сравнение на производителността на AI – MLPerf Inference v4.1. Intel представи резултати в шест MLPerf бенчмарка за процесори Intel® Xeon® Scalable от 5-то поколение и, за първи път, процесори Intel® Xeon® 6 с Performance-ядра (P-ядра). Процесорите Intel Xeon 6 с P-ядра постигнаха около 1,9 пъти средно подобрение на производителността на AI в сравнение с процесорите Xeon от 5-то поколение.
Intel Xeon предоставя чудесно решение за AI, включително класическо машинно обучение и вграждане на векторно търсене.
С MLPerf Inference v4.1, Intel представи процесори Intel Xeon от 5-то поколение и процесори Xeon 6 с P-Cores на ResNet50, RetinaNet, 3DUNet, BERT, DLRM v2 и GPT-J. В сравнение с 5-то поколение Intel Xeon, Xeon 6 осигурява средно около 1,9 пъти по-добро представяне на изкуствен интелект в тези шест бенчмарка. Intel продължава да бъде единственият доставчик на сървърни процесори, който предоставя резултати за CPU на MLPerf.
През последните четири години Intel постигна значителни подобрения в производителността на AI с процесорите, откакто за първи път представи резултати от MLPerf. В сравнение с 3-то поколение процесори Intel® Xeon® Scalable през 2021 г., Xeon 6 се представя до 17 пъти по-добре при обработка на естествен език (BERT) и до 15 пъти по-добре при работни натоварвания на компютърно зрение (ResNet50). Intel продължава да инвестира в AI за бъдещите процесори, както и в последните иновации с Intel® Advanced Matrix Extensions (AMX) чрез нови типове данни и повишена ефективност.
Най-новите бенчмаркове на MLCommons показват как процесорите Xeon захранват мощни CPU AI сървърни решения на производителите на оригинално оборудване (OEM). Тъй като нуждата от AI изчисления нараства и много клиенти изпълняват AI работни натоварвания едновременно със своите корпоративни работни процеси, OEM производителите дават приоритет на информацията от MLPerf, за да гарантират доставката на високопроизводителни Xeon системи, оптимизирани за AI работни натоварвания на клиентите.
Intel подкрепи пет OEM партньори – Cisco, Dell Technologies, HPE, Quanta и Supermicro – участващи със свои системи в MLPerf. Всеки от тях представи MLPerf резултати с 5-то поколение Xeon Scalable процесори, показващи поддръжката на техните системи за различни работни натоварвания и внедрявания на AI.