Дело в том, что Mental Ray не работает пока с плагинами от сторонних фирм. Мех типа Hair FX он вроде рендерил.
Что до света, то попробую сделать такое, но скорее всего дело в том, что мех в МАХ - не геометрия, а так скажем - атмосферный эффект, поэтому могут такие проблемы и возникнуть.
Попользуй Maya 6. Там все устроенно так, как надо и Mental редерит волосы без особых проблем.