Да все так делаешь, только у тебя внутренние ребра при виде справа(первый прилепленный рисунок) относятся к боковым полигонам, и получается что на них смотришь не "сзади", еще один ключевой момент: если полигон заканчивается дырой - ребро будет выделятся в любом случае. Сделай эксперимент создай плейн по дифолту, экспортни в эдит поли, в пропертях поставь галку бакфейс кулл, нажми Ф4, и покрути поверти, увидишь что опоясывающие грани видны в любом случае