Возможно у тебя не хватает depth чтобы все отрендрит. Там есть параметр цвета, он по умолчанию черный. Этот цвет макс подставляет в те места которые он не смог просчитать. Измени его на ядерный и проверь - если этот цвет появился, увеличивай depth. Это хорошо проходит на рейгане, а на обычном raytrace не пробывал...