Документацию не видел, но в принципе задачп не такая уж и сложная.
Я тут думал на досуге не сильно отличается от була 2-х мерных полигонов.
Находишь рёбра где грани пересикаются, строишь новые грани (так чтоб в месте пересечения было ребро). Выбираешь любую грань про которую известно внутри она или снаружи и переходишь с неё на соседнию в том-же объекте. Если при переходе пересёк ребро где фигури пересекаются (то которое ты сделал в начале) - значит ты перешел со "внутренней" части на "наружнюю" или наоборот. А там в зависимости от операции удаляешь грани те которые "снаружи" или "внутри"...