Vou tentar explicar de forma rapida:
Abra a foto.
Duplique a layer (apenas para manter a foto original). Na layer background, clique no "olho" para que ela nao fique visivel.
Crie uma nova layer e pinte de branco. Esta layer tem que ficar embaixo da layer da foto.
Com a layer da foto selecionada, faca uma selecao nela usando o Retangular MArquee Tool, com feather 10 (só um exemplo, vc escolhe). Faca a selecao deixando +/- 01 cm de borda em todos os lados da foto.
Va no menu de selecao e inverta esta selecao.
Depois, basta apertar a tecla delete.
Assim, vc deleta a borda da foto e aparece o fundo brando da Layer que vc pintou.
O feather arredondará as bordas. Vc tambem pode aplicar o filtro Gaussian Blur.
Esta é uma das maneiras que vc pode fazer ...
Espero ter ajudado.
QQ coisa, estou no msn (sandro_rahn@hotmail.com)