karpik, вот смотрите
psd-файл (rar архив 2.8 Мб), в котором ваша рамка наложена на два изображения.
В этом файле есть три слоя.
В первом слое Layer 1 помещается фотография, которая размещена внутри рамки.
Во втором слое Layer 2 помещается фотография фона.
На третьем слое Layer 3 помещается изображение вашей рамки.
Обратите внимание на то, что у слоёв Layer 2 и Layer 3 есть маски. Суть в том, что вам нужно сделать правильные маски для этих слоёв. И на самом деле это наиболее сложная часть всей работы.

Методикам работы с масками в Photoshop посвящены целые книги. Существует масса способов их создания и доведения до совершенства.
В вашем случае я ограничился самыми простыми средствами. Использовался инструмент Magic Wand Tool (W) и заливка чёрным цветом Paint Bucket Tool (G). Посмотрите, что это за инструменты на панели слева (иконки "волшебная палочка" и "ведёрко с краской"). Попробуйте с помощью них создать точно такие же маски, как в том psd файле, который сделал я.