А какая версия V-RAY у Вас стоит?

Vray 3.2 3d max 16 

Дело не в вирей...
В первую очередь правильная привязка освещения солнце+небо+порталы, далее материалы, каждый объект должен иметь свой мат тогда только картинка будет более менее реалистичная. Ну и под конец уже и рендер настройки нужно вам тоже изучить так как вижу пятна у вас обильные правда как я уже выше писал это может быть и из за не правильного освещения может даже где то источник света с какой то геометрией пересекается.
Вам в помощь  http://ru.renderstuff.com/besplatnye-rendering-cg-uroki/