Понятно, это вот
эта, я бы все таки попробовал вместо XMP профиля перейти в JEDEC, там та же частота но другие тайминги, и второе, что бросилось в глаза из ссылки "о напряжении" то что обозначено низкое напряжение на GPU +12V, поэтому как будто не хватает мощности/напряжения по линии +12В от БП. Можно временно изъять видеокарту физически и проверить будут ли подобные глюки при работе на встроенной видеокарте.