Начать, скорее всего, стоит с оптимизации данных в сцене, затем с послойного рендера и аккуратном сведении. Сильно упрощает жизнь даже на "стандартных" системах. Иной раз с 3d вовсе не стоит заморачиваться...
Потом, можно построить машину на нескольких процах, если речь идет о PC, то минимум dual Athlon или Xeon.
Еще вариант - распределенный рендер на нескольких машинах или собрать фарм.
Наконец, если средства позволяют, но места мало, то можно прикупить что-то от ART, например, PCI-ную карту PURE с рендер-процессором (~$3K). А можно и стоечку собрать из нормальных ART-ов (еще дороже, еще быстрее)
Наверняка есть еще варианты...