Вот я и думаю - либо мощности БП не хватает уже (3 года - почтенный возраст. Пора бы ему на пенсию

). Либо перегрев видеокарты (скорее всего памяти), либо что-то другое на видео накрылось.
Есть возможность попробовать с другой видеокартой? Послабее. Скажем, GF5200. Если нехватка мощности БП, то с этой должно быть всё нормально.