Никаких секретов здесь нет. Просто выделение и использование фильтра AV.Bros Page Curl Pro. Урок по работе с этим фильтром уже мною размещен в разделе уроков. Посмотрите его, пожалуйста:
урок работы с фильтром

Давайте, теперь сделаем сами такой «прорыв». Нужно два фото: фон, который и будем прорывать и объект, прорывающий фон.

1. Создаем изображение. Добавляем в него фоновую фотографию. Размер ее чуть меньше, чем размер нашего изображения /см. Рис.1/
http://s.foto.radikal.ru/0703/e6/4b2fec3aed67t.jpg
2. Теперь необходимо немного «помять» прорываемый фон, ведь когда рвется, н-р, бумага, она ведь содержит замятия. Для этого создадим новый слой. Выберем инструмент градиент (ч/белый), тип градиента – линейный. Обязательно установите режим Разница и просто несколько раз рисуем в разных направлениях /см. Рис.2/. Постарайтесь добиться подходящего варианта «излома».
http://s.foto.radikal.ru/0703/c4/300a893fd013t.jpg
3. Далее немного изменим контрастность и яркость, чтобы фоновое изображение не выглядело потом слишком неестественным. /см.Рис.3/
http://s.foto.radikal.ru/0703/8a/e0ca53bc82f3t.jpg
4. Измените теперь режим наложения предыдущего слоя на фон (попробуйте Перекрытие, Жесткий свет, Мягкий свет). Режим зависит от того, какое изображение вы выбрали в качестве фона. У меня это – жесткий свет. (см.Рис.4)
http://s.foto.radikal.ru/0703/e8/932abea699e1t.jpg
5. Удалите лишнее со слоя заломов (можно сделать прямоугольное выделения по форме фона, затем инвертировать его Выделение – Инвертировать выделение и просто удалить. Склейте именно эти два слоя.
6. Теперь можно подготовить изображение, которое будет я обратной стороны рваных лепестков. Если вы хотите использовать сплошной цвет или само изображение, то ничего делать не надо. Если же в ваших планах использовать другое изображение, то подготовьте его и просто сохраните в другом файле. Итак, подготовительные работы сделаны.
7. Создаем слой, который нам будет нужен как черновик. Потом мы просто удалим его.
8. На созданном слое создаем выделение, которое определит границы прорыва. Сделайте его немного больше, чем будет прорыв, ведь «лепестки» прорыва должны куда-то загнутся. Обведите область выделения любым заметным цветом (редактирование – выполнить обводку). Это ориентир для нас /см. Рис.5/
http://s.foto.radikal.ru/0703/1a/c21ebf6c488bt.jpg
9. Теперь последовательность: выделяем первый «лепесток», сохраняем его (Выделение– сохранить выделение) – это обязательно, выполняем обводку. И так все «лепестки». У нас должно быть столько сохраненных выделений, сколько «лепестков» (см.Рис.6) Не существенно, чтобы края области четко совпадали с границами предыдущего выделения.
http://s.foto.radikal.ru/0703/8c/a8bbaa188077t.jpg
10. Теперь активизируем слой с фоновым изображением. Загружаем первую выделенную область (Выделение – Загрузить выделение – имя области в раскрывающемся списке Канал). Копируем изображение, которое попало в выделение на новый слой (CTRL+J). Теперь какой-нибудь рваной кистью немного порвите края (я это сделала с помощью ластика).
11.  Применяем фильтр AV.Bros Page Curl Pro. Я покажу настройки для первого лепестка (см.Рис.7). С помощью кнопки Define определите фоновый рисунок. Я задала просто Пользовательский цвет.
http://s.foto.radikal.ru/0703/21/58aeb4a1c7c6t.jpg
12. После скручивания можно еще усилить результат, выполнив команду Редактирование – Трансформирование – Warp (См.Рис.8). Я умышленно спрятала фоновый слой, чтобы удобнее было работать с лепестками. Только не забудьте, при выполнении выделения на нем, он обязательно должен быть активным.
http://s.foto.radikal.ru/0703/63/7687068e42dft.jpg
13. Повторяем действия пп.10-12 для каждого лепестка. В итоге, у нас получилось что-то типа того, как на Рис.9
http://s.foto.radikal.ru/0703/10/c1d6d0ad9784t.jpg
14. Следующее действие – на слой с фоновым рисунком добавляем маску и прячем то, что не должно быть видно. Когда вас удовлетворит результат по созданию маски, вы просто выполните команду в контекстном меню «Применить маску», получится заготовка с прорывом в фоне (см. Рис.10).
http://s.foto.radikal.ru/0703/b9/bd15ec2dc380t.jpg
15. Слейте теперь все слои с «лепестками», удалите слой-черновик. В результате должны остаться фоновый слой, слой с фоновым изображением и слой с лепестками.
16. Теперь добавляем объект, который и будет прорывать фон (Рис.11). Просто разместите его позади слоя с фоном и «лепестками». Удалите лишнее.
http://s.foto.radikal.ru/0703/ba/0d5609f7cb9bt.jpg
17. Оформите изображение.

И просто на «закуску»: размещу работы известного художника Джимми  на эту тему:
http://s.foto.radikal.ru/0703/e2/21c1cfc07cb8t.jpg    http://s.foto.radikal.ru/0703/da/966ac72f91cdt.jpg
   http://s.foto.radikal.ru/0703/8c/38178643bf03t.jpg