Marquee Tool инструмент выделения на Adjustment layer этим инструментом Вы работаете на маске слоя - т.е. если надо исключить данную, выделенную область надо залить её чёрным (Alt+Backspace), а если применить воздействие только для выделенной области то после заливки и снятия выделения маску надо инвертировать (Ctrl+I ).