[kvik_b]

Сделал все, как советовал freeze. Действительно, сообщение больше не выскакивает, но комп всеровно переходит на упрощенный стиль. Будем искать дальше.

[Lite]

Причина тут донельзя простая. В Windows 7 DWM выполнен достаточно криво и на любом конфиге будет вызывать падение производительности в играх. Поэтому Microsoft позаботились об автоотключении DWM во время игры. Собственно в этот момент он совершенно не нужен, а циклы процессора процесс DWM продолжает крутить и отжирает на себя память как системы, так и видеокарты.
Таких проблем нет в Windows 8 и выше. DWM там работает намного эффективнее.

Есть и второй вариант - это происходит когда начинает не хватать памяти видеокарты. Например когда бегаешь по сети в Battlefield 3 на видеокарте с видеопамятью в 1GB.