А он и такое умеет делать (я насчет 2&5 edged polygons)? никогда не замечал...
подобного.
А вот насчет nonplanar это наверное никак (или если ты напишешь свой renderer)... видимо к самому renderer`у должна быть прикрутка/директива... Потому как при тесселяции он сочитает planer/nonplanar полигоны.