Mental Ray - это самостоятельны рендер.. В некоторые программы он уже интегрирован: XSI 3.0, Maya5.. Для МАХ-же тебе понадобится коннектор, который бы конвертировал сцену в менталовский формат и запускал его для рендеринга через Mental Ray..
Соответственно нужен и mental и connector...