насчет RealSoft3D не знаю - а Менталом конкретно пользовался и в этих целях тоже.
делается так - на одной тачке должен стоять - 3D Max, коннектор и сам Ментал.
на счет настройки машины с Максом - см. уроки на darc.ru, единственное, что там не описано - это как настроить Ментал на других машинах. Делается это так - в директории bin Ментала, есть программка - rayserver, это ментал-сервер, который и будет принимать заказы от клиентов на рендеринг. Запускается он автоматом, но на всякий случай:
rayserver /remove - удалить
rayserver /install - запустить
именно в такой последовательности, а то были глюки в этом отношении...
К тому же - были проблемы с невозможностью найти библиотеки шейдеров и динамические библиотеки оных же... В частности, если рендерить с Макса - это 3dmax.lib и 3dmax.dll, они находятся в директориях lib и shaders - соответсвтвенно, но для уверенности скопируй лучше все файлы из этих директорий в каталог ..\Windows\System например на распределенной тачке. Чтобы опереционка их чувствовала...
)
Ну и все - считает за милую душу... Аж приятно...
)
Если что не получится - пиши и кстати учти, что не все, что рендерит Max - считает Мнтал, но зато Ментал еще даст Max'у фору в просчете различных Raytrayce'ов... Как тени считает - любо дорого смотреть... %)