я тоже пробывал там получается около 6000 полигонов - это слишком много
Используйте mr prim, а не geometry - его ни что не прожует, там слишком тяжело. Да и шейдера под мр прим заточены.
К примеру - я
использовал ровно 250к волос (в хайрезе видно лучше), 64 сегмента каждый волос, мр прим, p_hairTK.
Я, правда, считал по пассам (т.е. волосы одельно и не как рендер-элемент) и сводил на стадии композа в нюке, вытянуло пасс с волосами на core i7-920 с 12 гигами оперативки часа за три. Оперативка была под завязку - еле влезло.
Ах, да. И очень важный пункт. При пассе с волосами обязательно ставить алгоритм теней mr shadow map в источниках освещения и настроить как надо - при ray traced можно прождать неделю и не дождаться (проверено лично), особенно если используется Transparency в шейдере (это эквивалентно опции tip fade в родном hair and fur).
И, да, p_hairTK реально на порядок быстрее (по моим тестам (кстати, от fast rasterizer не зависит)), чем родной шейдер из hair and fur. Да и настроек у него раз в 20 больше точно - хрен разберешься без документации (а ее просто в принципе нет). Но оно того стоит - гибкость бешеная, ни где такого нет.