Была похожая ситуация, перезагружалась операционка, виной была видеокарта, если есть возможность попробуй заменить на другую (очень часто дрова к видеокарте тоже такой эффект дают, посмотри на сайте производителя последние драйвера). А по поводу перегрева, у меня видяха тоже грелась до 85-90 градусов (GeForce 9600 GT с пассивным охлаждением), пока не повключал на корпусе все кулеры (будет хорошо если поставиш кулер спереди на вдув, и на задней панели на выдув если есть возможность
ну и сказанул же), так же у меня есть кулер еще на боковой стенке тоже на выдув. Температура снизилась до 50-60 градусов. Успехов !!!