ставишь mental
ставишь коннектор к нему (плаг для макса), при установки указываешь, где mentalа поставил.
запускаешь Макс, жмешь Shift+R (Render Scene), в диалоговом окне сверток - Curent Renderers, жмешь Assign возле Production допустим, и в окне выбираешь - mental ray, появляются его настройки, рендеринг осуществляется им.