А сколько у тебя оперативы? я вот только что попробовал, у меня при физических 2Гб рендерит 15000х15000 без ошибок, при этом съело 2.22ГБ памяти, правда сцена состоит из примитивов, то есть если сцена стандартная то нужно дать поправку на текстуры, геометрию и пр., но 10000х10000 должно рендерить без проблем. Попробуй поставить service pack 3 под восьмерку если не стоит и загрузиться под х64 системой, потому что 2400х1800 - ну уж очень мало, я при 512Мб оперативы в текстуру рендерил с разрешением 3000х3000...а еще для этого плагин есть, не помню какой....