поиграй с контрастом и попробуй снова, не важно какое будет изображение при "играх" - сначала надо сделать маску выделения, где хорошо видимы детали кота и фона,а потом уже по маске выделить оригинал.
Плагин Corel KnockOut 2 служит для таких целей. Особенно, если как ты пишешь, фон не сложный. Имеет множество настроек. Плагин прекрано устанавливается и работает и в PhotoShop и в CorelPHOTO-PAINT.