Расторовая картинка всегда прямоугольная, но некоторые участки могут быть прозрачными (невидимыми). Прозрачность или невидимость этих участков достигается либо использованием Alfa-канала, либо использованием Clipping Path, который можно создать в Photoshop-е и сохранить в файл, либо создать его в той программе, в которую ты собираешься эту картинку помещать.
Во многих программах может быть предложено на выбор — использовать маску, имеющуюся в файле, или не использовать. Некоторые программы могут такие маски создавать автоматически, как например, InDesign.
Если не понятно, спрашивай.