А вобще можно еще batch не из под майки пустить попробовать... Сохранить сцену, закрыть майку, и из какого-нить Фара или еще чего (что умеет командные строки удобно использовать) набрать командную строку mayabatch -render имя-вашей-сцены.mb - если и так сорвется - то помоему что-то с железками... У меня когда разгонные возможности проца изучал бывало такое если частоту непомерно задирал...