В двух словах, как для новичка
ФР нужен, новичку, для двух вещей - global illumination и caustik. Первое - система реального освещения в плане переноса излучения на невидимые по прямой участки сцены даже без рейтрейсовских приморочек (в жизни - солнце под стол не светит, но там - не темно), второе - эффект коцентрации светового излучения вследствие прохождения (отражения) через прозрачные (непрозрачные) материалы, с последующим получением рисунка этой концентрации в виде неоднородной картинки преломленного (отраженого) света (во как загнул, надеюсь понятно
) ) по-простому: ванна с водой возле стены, вот те блики на стене от воды и есть каустика.
В той менюхе , которую ты упоминал нужно отметить чекбоксы с соответствующими надписями для активации необходимых эффектов (в параметры лучше сначала не лезть - результат твоих лазаний увидят только внуки).
Для того чтобы включенные эффекты применились к определенным предметам сцены необходимо в свойствах предметов (по правой кнопке мыши) отметить чекбоксы в разделе mental ray... отвечающие за прием каустики или глобала и за генерацию сего же, или наоборот - снять их для отключения.
В материал едиторе появляется новый материал с одноименным названием и новыми опциями, желательно для рендера файналом применять именно сей материал (в котором тоже есть упомянутые чекбоксы).
Сам ФР интегрируется в максовский рендер, поэтому кнопки с надписью "Тут рендерит ФР" ты не найдешь, если в сцене присутствуют файналовские материалы или включены глобал или каустик макс автоматически рендерит файналом.
Есть еще куча всего занимательного в сем продукте Цебаса, но этому посвящено великое множество уроков в сети, так что ищите сами... Да, настоятельно рекомендую прочесть и разобраться в переводе меньюала к ФР на упоминаемом уже darc.ru. Лежит он, правда, не сверху, но поищи, а лучше вообще - скачай и распечатай - неплохое подспорье для начинающего.
Удачи