Может я и не совсем точно выскажусь... Но overlay в применении к данной теме, это когда для каждого окна (в смысле viewport в MAX-е, или ещё где)образуется свой "видеослой" (собственно само окно + маска к нему). В результате, действия проводимые в одном слое, никак не влияют на другие слои. И нет лишней перерисовки как 2-D интерфейса, как это зачастую бывает на видеокартах низкого и среднего уровней, так и других окон..