My understanding is that the BIOS/UEFI modifies CPUID instruction behavior. It is known that OS kernel, SDE or hypervisors can do it to limit userland/guest processes from using certain instructions. For the userland/guest processes, it appears as if the CPU does not support a given instruction set extension and they have to fall back to scalar code path or use a smaller vector size (e.g. by using SSE instead of AVX). Note that it doesn’t allow AVX/AVX-512 code to be executed, even at a reduced performance. It is the process’ responsibility to execute a different, non-AVX code path when AVX is not enabled or available, and the performance will depend on how efficient that code path is.
As to exactly how CPUID behavior can be modified, I don’t know. I’m guessing, BIOS/UEFI can configure the CPU so that whenever CPUID is executed, a trap is triggered and a handler function in the BIOS/UEFI is called. That handler implements the required CPUID behavior and returns to the code that originally executed CPUID.
Thanks for your insight, Andy.
I am not very familiar with CPUID instruction besides I used it to serialize instructions.
I looked up CPUID instruction here:
https://c9x.me/x86/html/file_module_x86_id_45.html
It seems like CPUID instruction is used to query CPU to get more info about the CPU.
You mentioned, «Note that it doesn’t allow AVX/AVX-512 code to be executed, even at a reduced performance». Who is «it»? You referring to CPU? Kernel? BIOS? Or?
You mentioned, «It is the process’ responsibility to execute a different, non-AVX code path when AVX is not enabled or available, and the performance will depend on how efficient that code path is». Are you suggesting that the application should detect whether AVX instruction set is supported and then select the code path accordingly?
Thanks!
You mentioned, «Note that it doesn’t allow AVX/AVX-512 code to be executed, even at a reduced performance». Who is «it»? You referring to CPU? Kernel? BIOS? Or?
By «it» I mean the whole approach, and in particular the component that alters CPUID behavior.
Are you suggesting that the application should detect whether AVX instruction set is supported and then select the code path accordingly?
Yes. Any piece of software wishing to use any instructions beyond the basic instruction set should first verify that the CPU (and, in some cases like AVX/AVX-512, OS) supports them. On x86 this is done with the CPUID instruction (and, to check for OS support, a system call or XGETBV instruction). If the software doesn’t do that, it will fail to execute (most likely crash) on a CPU or OS that doesn’t support that instruction set extension.
Thanks for your links John! A lot more info about how AVX2/AVX512 instructions affect the frequency.
But it seems like not all AVX2/AVX512 instructions will lower the frequency.
Now, it makes me curious whether disabling AVX2/AVX512 support in BIOS would make the CPU (supporting AVX2/AVX512 instructions) convert *only* those instructions in AVX2/AVX512 instruction sets causing lower frequency to other instructions? Or CPU won’t be that smart?
But it seems like not all AVX2/AVX512 instructions will lower the frequency.
That is correct…. The Intel Xeon processor «specification update» documents include tables of maximum Turbo boost frequencies that are labelled as «non-AVX», «AVX-2.0», and «AVX-512», but these are not precisely correct. The SKX core performance monitors include an event called «CORE_POWER» (EventSelect=0x28) with Umask fields to select «LVL[012]_TURBO_LICENSE». The descriptions at https://download.01.org/perfmon/SKX/skylakex_core_v1.12.json says that the levels correspond to:
- Level 0: «This includes non-AVX codes, SSE, AVX 128-bit, and low-current AVX 256-bit codes.»
- Level 1: «This includes high current AVX 256-bit instructions as well as low current AVX 512-bit instructions.»
- Level 2: «This includes high current AVX 512-bit instructions.»
I don’t know of any «official» listing of which instructions are in each category — and would not expect to see one, since Intel may change the categorization at any time. From limited testing, I found that 256-bit and 512-bit packed SIMD bit instructions (AND, OR, XOR, etc) are «low-current», while 256-bit and 512-bit packed SIMD floating-point arithmetic operations are all «high-current».
I don’t know what happens if you disable an instruction set extension in the BIOS — the mechanisms to do that are not visible to me….
From what I read in system programmer’s guide it seems possible to disable individual SIMD instruction set extensions using XCR0 register. BIOS being a component which initializes the CPU should able to do so and in that case CPUID (and accompanying cpu information gathering mechanisms) would report them as supported but disabled.
Manual says what happens if state management if disabled — «Otherwise, an attempt to execute an instruction in AVX extensions (including an
enhanced 128-bit SIMD instructions using VEX encoding) will cause a #UD exception.» where #UD means an illegal instruction.
I highly doubt that your BIOS vendor has added an SDE emulator in their BIOS to allow for execution of AVX512 using AVX2 and lower, that wouldn’t make much sense and it would incur larger performance penalty than just allowing the instructions to run at reduced clock speed.
If you are curious by how much your clock multiplier is reduced by running AVX512 use HWInfo to read this information from the CPU.
As an example, Core i7-9800X has the following multipliers:
IA/SSE -> 45x (1-2c), 42x (3-4c), 40x (5-8c)
AVX2 -> 39x (1-2c), 38x (3-8c)
AVX512 -> 37x (1-2c), 36x (3-8c)
Those are the fused (default) values for my CPU, but my mainboard’s BIOS (ASUS PRIME X299-A) allows me to override them and set different multipliers for each of those states (IA/SSE, AVX2, and AVX512). I can even set them all to the same frequency (for example 40x which is 4 GHz) if I can provide adequate power and cooling to the CPU so it doesn’t throttle.
Hi,
Is there any option in BIOS to disable the AVX2?. I didn’t find any option to disable the AVX on the bios menu.
Can someone help me with this?
Server model — IBM x3550 M4
Thanks in Advance.
Thanks,
Anand G
Quick question — How to disable the AVX2 in the bios because I don’t see any option to disable the AVX in the bios menu.
Could you please help me on this.
Thanks in Advance.
| Автор | Сообщение | ||
|---|---|---|---|
|
|||
Member Статус: Не в сети |
у меня процессор 7700к, материнка ASUS Maximus VIII Ranger z170, частота 5гц, напряжение 1.35. Я читал что лучше ставить avx offset 3. |
Добавлено: 18.01.2021 23:39 | Реклама | |
|
Партнер |
|
G’Kar |
|
|
Member Статус: Не в сети |
trofey писал(а): avx offset 3 trofey писал(а): сбрасывается частота до 4.7 Как думаешь что будет при avx offset 0? |
|
Vadim++ |
|
|
Member Статус: Не в сети |
trofey писал(а): Можно ли так сделать? Кто ж тебе запретит? Убедись только, что охлаждение справляется. |
|
trofey |
|
|
Member Статус: Не в сети |
Vadim++ писал(а): Как думаешь что будет при avx offset 0? ну думаю наконец будет 5) Vadim++ писал(а): Кто ж тебе запретит? Убедись только, что охлаждение справляется. Я просто не знал из каких соображений писали что лучше 3 делать… Это просто чтоли чтоб не перегревался делается? Я проц только что отскальпировал, так что температура мне не помеха) |
|
SubL0ck |
|
|
Member Статус: Не в сети |
trofey писал(а): Я проц только что отскальпировал, так что температура мне не помеха) Хоть один стресс-тест пройдешь на 5Ггц без AVX Offset если, я тебе памятник поставлю |
|
trofey |
|
|
Member Статус: Не в сети |
trofey писал(а): Хоть один стресс-тест пройдешь на 5Ггц без AVX Offset если, я тебе памятник поставлю а на какой частоте с avx может работать? а этот AVX он в каком проценте игр используется? |
|
SubL0ck |
|
|
Member Статус: Не в сети |
trofey 4.7-4.9 в зависимости от удачности экземпляра/наличия снятого скальпа. |
|
trofey |
|
|
Member Статус: Не в сети |
я заморочился, потестировал и выставил следующие значения — обычная частота 5гц, напряжение 1,375, LoadLine Calibration 5 (в тестах напряжение пишет 1.39), AVX Offset 1, CPU Cache Ratio 46 (47 зависает). OCCT Linpack с AVX проходит. так норм все оставить? |
|
Vadim++ |
|
|
Member Статус: Не в сети |
trofey писал(а): AVX Offset 1 Мелкими перебежками к AVX 0? Ну и всё. Занимаешься своими делами. Первое время в журнал заглядываешь на предмет предупреждений whea-logger. Если вдруг проскочит, увеличить vcore на 0.01. |
|
trofey |
|
|
Member Статус: Не в сети |
Vadim++ писал(а): берём свежий, например из шапки кофейников почему он на китайском, как его сделать английским? |
|
trofey |
|
|
Member Статус: Не в сети |
скачал русскую версию, прогнал 4 раза на всю память, он мне выдал такие невязки это нормально? Size LDA Align. Time(s) GFlops Residual Residual(norm) Check |
—
Кто сейчас на конференции |
|
Сейчас этот форум просматривают: нет зарегистрированных пользователей и гости: 2 |
| Вы не можете начинать темы Вы не можете отвечать на сообщения Вы не можете редактировать свои сообщения Вы не можете удалять свои сообщения Вы не можете добавлять вложения |
Лаборатория
Новости
Приветствую ребята))
Коротко ответ: запуск игры на процессоре без поддержки AVX-инструкций. Обычно это старые процессоры, в итоге игра может работать, но возможно с меньшей производительностью.
Все современные процессоры поддерживают AVX. Вот например старый i7 2600K (1155 сокет) уже поддерживает AVX, но первую версию, а i7 860 (1156 сокет) — вообще не поддерживает, но правда он еще старее чем i7 2600K. Кстати легендарный процессор Q9650 (775 сокет) разумеется и близко не знает про AVX.
AVX — что это такое? Еще есть AVX2. Это улучшенные версии старых инструкций SSE. Простыми словами — это специальные инструкции, которые помогают процессору работать быстрее с некоторыми вычислениями. Они созданы как для процов Интел, так и для АМД. AVX расшифровывается как Advanced Vector Extensions.
Ну а что делают инструкции AVX? Все просто — процессор без поддержки AVX за один такт сможет сложить 1 пару чисел, а с поддержкой — уже 10. Однако это все нужно не так часто, как нам кажется, по большей части эффект заметен в профессиональных программах, а в играх не так заметно. Возможно современные игры уже больше могут использовать AVX.
Как узнать — поддерживает ли процессор AVX? Очень просто — скачайте бесплатную утилиту CPU-Z, она маленькая, неприхотливая, запустите ее и посмотрите какие инструкции поддерживает ваш проц:
Вот выше на картинке — проц i5 7400, вполне современный, как видим он поддерживает и просто AVX и более новую версию AVX2. Впрочем ничего удивительного — i5 7400 это седьмое поколение, а это 2017 год.
Надеюсь данная информация оказалась полезной. Удачи и добра, до новых встреч друзья!
На главную!
01.04.2021
Недавно мы опубликовали новость о том, что Intel отключила поддержку набора инструкций AVX-512 на процессорах Alder Lake с новыми версиями BIOS. Ранее мы не могли проверить функцию в лаборатории, но теперь мы подтвердили ее на практике.
Официально настольные процессоры Alder Lake набор инструкций AVX-512 не поддерживают, что объясняется отсутствием валидации Intel. Но функциональные блоки в производительных ядрах есть, и отключение в BIOS эффективных ядер приводило к активации AVX-512. Мы проверили эту возможность в наших тестах новых процессоров. Ходит много слухов по поводу того, почему набор команд AVX-512 официально не поддерживается. Но, по крайней мере, его можно было активировать указанным способом.
Факт заключается в том, что до сегодняшнего дня набор инструкций AVX-512 можно было активировать. Мы использовали в тестах процессоров Alder Lake материнскую плату ASUS ROG Maximus Z690 Hero с версией BIOS 0702. После отключения в BIOS эффективных ядер, производительные ядра начинали поддерживать AVX-512. И в некоторых тестах Core i9-12900K показывал преимущества от поддержки AVX-512. Мы также проверили материнскую плату MSI Z690 Unify, на которой с версией BIOS 1.13 тоже получилось включить AVX-512. Для этого в пункте «Advanced CPU Configuration» следовало выключить через «Per E-Core Control» все эффективные ядра. Затем в опциях разгона нужно было включить опцию «AVX-512 Support».
CPU-Z показывает наличие поддержки набора инструкций AVX-512:
Мы подготавливали платформу к тесту Core i5-12400, который получили сегодня, поэтому установили самую свежую версию BIOS 1.21, которая содержит те же самые функции. Мы отключили эффективные ядра и включили опцию AVX-512, но после загрузки поддержка набора инструкций AVX-512 исчезла:
Обновление BIOS содержит новую версию микрокода 18 вместо старой 15. Похоже, через микрокод Intel заблокировала активацию AVX-512. На материнской плате ASUS ROG Maximus Z690 способ активации AVX-512 оставался даже с последней версией BIOS 0811. Причем, как указывает ASUS, версия BIOS 0811 совместима со свей линейкой процессоров Alder Lake.
Мы поинтересовались у Intel, почему поддержка AVX-512 была отключена «задним числом». Однако пока не получили никакой официальной информации. На практике набор инструкций AVX-512 обычным пользователям вряд ли требуется, поскольку его поддерживают только профессиональные приложения. Но все равно несколько странно, зачем Intel потребовалось вносить подобную блокировку, тем более процессоры Alder Lake работали с AVX-512 вполне успешно.
Новый BIOS также заблокировал множитель на планке x51 при использовании AVX2. Процессор просто не выставляет более высокие тактовые частоты. И обойти блокировку через BIOS невозможно.
Подписывайтесь на группы Hardwareluxx ВКонтакте и Facebook, а также на наш канал в Telegram (@hardwareluxxrussia).
Включить AVX-512 на B660 невозможно вообще
В ходе тестирования материнской платы MSI MAG B660M MORTAR WIFI DDR4 мы попытались активировать AVX-512. Однако опций в BIOS для отключения эффективных ядер и активации AVX-512 просто не было. Можно было отключать одиночные ядра, но одно всегда оставалось активным. То есть включить поддержку AVX-512 не представляется возможным, по крайней мере, для ранее вышедших процессоров Alder Lake с эффективными ядрами. Будет интересно посмотреть, как все изменится ситуация в случае процессоров без ядер E.
Обновление: ASUS со следующим обновлением тоже уберет поддержку
Мы получили ответ от ASUS, на чьих материнских платах мы как раз успешно активировали AVX-512. Соответственно, версия BIOS 0811 все еще поддерживает AVX-512. Но следующие версии BIOS лишатся поддержки AVX-512 из-за нового микрокода процессоров Core 12-го поколения. Материнские платы на чипсетах H670, B660 и H610 изначально поставляются без поддержки AVX-512.
Обновление: ASUS отключает, MSI возвращает AVX-512
Через несколько недель мы вновь возвращаемся к теме AVX-512. Как мы и опасались, ASUS с версии BIOS 1003 установила новый микрокод Intel, поэтому активация функции AVX-512 в BIOS и отключение эффективных ядер не помогает. Набор инструкций AVX-512 больше на нашей материнской плате ASUS ROG Maximus Z690 Hero не работает.
Но MSI схитрила и добавила в версию BIOS A22 новый переключатель, который был протестирован на MEG Z690 Unify-X. Переключатель «AVX-512 Trial» активирует старый микрокод, инструкции AVX-512 вновь работают.
Производители материнских плат, а именно MSI в данном случае, продолжают искать способы обойти блокировку AVX-512. Пока неизвестно, будет ли похожая реализация от ASUS. По поводу материнских плат других производителей информации у нас нет.
Еще одна «фича», которую Intel вряд ли хотела получить в таком виде, касается разгона процессоров не-К поколения Alder Lake через базовую частоту. Мы успешно разогнали Core i5-12400 на материнской плате Z690, а также на модели B660 (тоже от ASUS), затем мы разогнали Core i3-12100F.
Блоки векторных инструкций AVX-512 на процессоре Core i9-12900K
Всем производителям материнских плат Z690 на процессорах Alder Lake пришло обновление микрокода от Intel, которое полностью запрещает использование инструкций AVX-512.
Физически модуль AVX-512 остался на ядрах P. Его можно было активировать через BIOS и повысить производительность в 14–32 раза в некоторых специфических задачах, отключив при этом малополезные ядра E. Теперь лазейку закрыли.
Таким образом Intel окончательно убрала официальную поддержку AVX-512 из новых процессоров 12-го поколения Alder Lake. Изначально предполагалось, что этот модуль физически убрали с микросхемы, потому что он занимает много места. Но потом выяснилось, что блоки остались на месте, но только в производительных ядрах P.
Обновление микрокода пришло производителям буквально за несколько дней до начала выставки CES 2022, где Intel собирается представить ряд младших процессоров в семействе Alder Lake. Естественно, все они работают на материнских платах с чипсетом Z690. И вот теперь компания решила окончательно закрыть вопрос с поддержкой AVX-512.
Набор инструкций AVX-512 расширяет систему команд AVX до векторов длиной 512 бит при помощи кодировки с префиксом EVEX. Расширение AVX-512 вводит 32 векторных регистра (ZMM), каждый по 512 бит, 8 регистров масок, 512-разрядные упакованные форматы для целых и дробных чисел и операции над ними, тонкое управление режимами округления (позволяет переопределить глобальные настройки), операции broadcast (рассылка информации из одного элемента регистра в другие), подавление ошибок в операциях с дробными числами, операции gather/scatter (сборка и рассылка элементов векторного регистра в/из нескольких адресов памяти), быстрые математические операции, компактное кодирование больших смещений. Блок AVX-512 реализован в следующих процессорах: Intel Xeon Phi x200 и x205 (в сопроцессорах Knights Landing и Knights Mill), а также в семействах Skylake-SP, Skylake-X, Cannon Lake, Cascade Lake, Cooper Lake, Ice Lake, Rocket Lake, Tiger Lake, Sapphire Rapids.
Причины отключения AVX-512
Официально причины не разглашаются. Мы можем только предполагать. Дело в том, что единственным условием для активации AVX-512 является отключение ядер E. При этом во многих задачах такая замена (AVX-512 вместо ядер E) практически не отражается на производительности или даже улучшает её.
Отключение ядер E практически не отражается на производительности после активации AVX-512
Другая причина: усложнение настроек с отключением/включением ядер создаёт дополнительную нагрузку на службу технической поддержки Intel.
Наконец, самое главное. Программное отключение AVX-512 в десктопных процессорах создаёт дополнительный спрос на процессоры для рабочих станций и серверов, где набор инструкций будет работать как положено. В данном случае компании совершенно не нужно, чтобы коммерческие клиенты использовали более дешёвые настольные процессоры.
В проигрыше остаются пользователи, которые хотели воспользоваться преимуществами AVX-512 именно на последнем поколении настольных процессоров Intel. Теперь им остаётся использовать другие процессоры с поддержкой AVX-512, то есть все предыдущие поколения Intel или будущее поколение AMD Ryzen, которое выйдет очень скоро.
Искусственная рыночная сегментация и распределение пользователей по секторам рынка с разной рентабельностью — известный приём, который позволяет максимизировать прибыль. Им пользуются очень многие компании, которые выпускают примерно одинаковые товары, но для разных рыночных сегментов и по разным ценам.
Intel многократно использовала этот приём. Говорят, в первых семи поколениях Core специально не выпускались настольные процессоры более чем с четырьмя ядрами, чтобы не повредить более прибыльному серверному сегменту.
Выпуск одинаковых процессоров в «залоченной» и «разлоченной» версиях, с отключенными/включенными ядрами и т. д. — это стандартный арсенал грязных приёмов у производителей компьютерных комплектующих.
Ограничения на AVX2
Проблема с блокировкой AVX-512 усугубляется тем, что в оставшемся наборе инструкций AVX2 стоит ограничение на максимальный множитель тактовой частоты х51, пишет Igor’s Lab.
То есть при выполнении инструкций AVX2 тактовая частота процессора принудительно понижается до 5,1 ГГц не может быть поднята даже до 5,2 ГГц ни при каких настройках BIOS, независимо от охлаждения, энергопотребления, реальной температуры CPU или запущенного приложения. Например, в программе HWInfo режим принудительного ограничения частоты можно распознать по строке IA: Max Turbo Limit – Yes.
Активирован режим IA: Max Turbo Limit – Yes
Неофициальные хаки
К счастью, уже разработаны методы обхода программных ограничений, установленных Intel, как в отношении блокировки AVX-512, так и по троттлингу AVX2.
Например, компания Asus в материнских платах серии Maximus реализовала патч BIOS, который отключает троттлинг AVX2 при условии принудительного выставления тактовой частоты в BIOS.
Активировать AVX-512 сложнее, но тоже возможно. Сообщество уже нашло способ внедрить в новую прошивку старую версию микрокода от Intel, что эффективно включает обратно AVX-512.
Конечно, в этом случае мы получаем неофициальную версию BIOS с лишением гарантии и всеми вытекающими последствиями. Но это хотя бы доказывает, то отключение AVX-512 является обратимым.