Весьма странно.. У тебя случаем Final render не установлен? Хотя VRay у меня нормально редрерил одновременно с FR... Т.е. как рендерер выбран Vray, но также был активизирован FR (поскольку он не ставится как рендерер, а включается отдельно)...
У меня такая же ботва под 3 и 4 максами, на Win98 SE, имхо, вариант попробовать на NT, да лень. А может просто более ранюю версию VRay качнуть. Насчет конфликтов с другими плугами - это вряд ли, у меня вообще максы были чистые...
Мужики.. ну несерьёзно сидеть в Win98 и потом спрашивать - а чего это глючит тут у меня.. Ставьте Win2000.. а потом забудьте про 98 как страшный сон...)
)