[oszip]

1) На приведенной картинке написано: 2.13 Ghz (2 процессора)

Собственно вопрос - почему 2 процессора ?
Может Vista не использует больше двух процессоров ?

2) Указанный процессор Intel Xeon E5506 вообще говоря имеет 4 ядра.
8 ядер могут получить только при использовании HyperThreading.
Попробуй выключить HyperThreading.

3) Собственно уже спрашивали: какие характеристики компа на котором все работает ?
Включая версию Service Pack.

4) Может поставить Vista SP2 ?

5)

RAM 16Gb хаваются в течении 1 минуты

Требуется наглядное подтверждение - где четко видно, что память закончилась.

Вообще использовать для рендеринга Vista - очень странный выбор.
Я бы поставил Windows Server 2003 x64

И кстати еще вопрос - что написано про указанные программы (ПO 3dsmax 2009 x64 и рендер V-ray x64) - под какими OS они работают ?