По материалам форума журнала Игромания:
Тесселяция (tessellation) или адаптивная тесселяция полигонов.
На сегодняшний день для разработчиков игр и игрового железа очень остро встала проблема низкого уровня детализации геометрии (квадратные пальцы, квадратные колеса, квадратные бочки и т.п., вобщем квадратные округлости), которую компания ATI решила преодолеть при помощи аппаратного тесселятора. На современных видеокартах начиная Radeon HD 2xxx применяется программируемый блок для аппаратной тесселяции в дополнение к шейдерным блокам. Сея фишка позволяет динамически разбивать объект на большее число полигонов, когда это необходимо, не вызывая при этом дополнительной нагрузки на системную шину и CPU, т.к. все это выполняется в GPU используя при этом только ресурсы видеокарты.
Если к примеру взять ту-же бочку: предположим вы находитесь за километр от нее - в этом случае её можно сделать и квадратной, заметно не будет. А по мере приближения это становится все более и более заметно, в этом случае и применяется тесселяция - чем ближе вы к ней подходите, тем на большее число полигонов она разбивается как бы скругляя её, таким образом, чтобы она всегда выглядела круглой. Если вы, скажем отвернулись от бочки и ушли от нее - она опять превращается в квадрат, освобождая ресурсы видеокарты для обработки других более значимых объектов. Причем для центрального процессора бочка всегда остается квадратной, что разгружает CPU и системную шину.
Тесселятор можно задействовать как в Direct 3D, так и в OpenGL.
Полная поддержка тесселяции ожидается в DirectX 11.
Т.е., в общем, добавляя от себя, tesselation - разбиение геометрических моделей на примитивы. В частности на треугольники.