Во-первых, книга Александра Птушко "Комбинированные и трюковые киносъемки". 1941 год, но в области дорисовок (того, что у буржуев называется matte painting) принципиально ничего не поменялось.
Во-вторых, две большие книги про ILM "The Art of Special Effects" и "Into the Digital Realm". В первой все о "докомпьютерной" эпохе, во второй, соответственно о нашем времени. В обеих очень много про matte painting.
Ну и http://www.matteworld.com/
Всех благ!
Аркадий