Не хватает памяти, и это не только с патиклами, так же если слой дольшого размера и т.п..
Простое решение - поставить оперативки побольше.
Если нет, то
- тяжелые прекомпозы назначить прокси.
- упрощать настройки частиц, уменьшать размер слоев, чистить проект, крутить настройки мемори в преференс.