Есть два варианта. Сложный/серьезный: учить язык программирования, лучше С++ (если есть мозги и терпение то изучишь), когда уже разберешься с синтаксисом, не будешь делать круглые глаза при словах класс, указатели, объекты, вот тогда можно начать изучать графическую библиотеку, проще и удобнее директХ, когда сможешь грузить модели, вообще рисовать, тогда можно начинать проектировать движок.
вариант второй, для тех кто ленивый, сделать все что было описанно выше, но движок не проектировать а взять готовый.