1) Используйте bsp2 вместо просто bsp, если в сцене больше миллиона полигонов.
2) В окне imf_disp не будет ни чего, так как он новый. А новая версия под винду просто не поддерживает пайпы (фиг знает, почему). Либо искать старую версию (от ментала 3.4), либо натравливать его на файл, куда пишет ментал (я так делаю), либо пользоваться менталом под линукс.
3) Ментал стандалон не поддерживает вывод в exr - его поддержка реализуется исключительно с помощью макса/маи (если не стандалон). Вернее, стандалон его пишет, но очень криво, иногда не пишет вообще. И в хелпе к нему написано, что exr он не поддерживает.
4) На третьем скриншоте последняя ошибка - это обрушение ментала из-за исключения. Если говорить просто - он тупо вылетел. Тут ни чего сделать нельзя, только править сцену.
Да, он глючное говно, даже стандалон. Но, в любом случае, альтернатив нет - только рендерман под маю. Остальные можно рендерерами и не считать - ими только унитазики рендерить.
5) Синтаксис команды используете старый. Аргументы после слова "on" теперь отрезаются, его уже сто лет в обед не пишут. Во всех имеющихся в интернете статьях про стандалон приведенная строчка устарела (там для древних версий везде написано, так как статьям лет 7-8 уже).
Запускайте просто "ray.exe -v 5 scene.mi" (без кавычек, очевидно), или "ray.exe -v 5 -file_type exr -file_dir D:\renderoutput -file_name blablabla.exr scene.mi".
Это будет без фреймбуфера. Если он нужен, то из ОТДЕЛЬНОЙ консоли сделать "imf_disp D:\renderoutput\blablabla.exr".
Напишите "ray.exe -h" и оно подробно выдаст все параметры, которые можно подставлять, как и формат команды.
А вообще, я отказался от стандалона - 3.9 крякнутого не найти, а 3.8 дает много проблем. Совершенно нормально пользуюсь обычным net render в backburner, или 3dsmaxcmd, и нормально рендерится все - даже сцены под 50м полигонов, да еще и с волосами.
PS.
-v принимает параметр. Чем больше - тем подробнее. Для примера написал 5.