O feather vai dar uma difusão na seleção, acho que não é isso o que você precisa.
Pressione o atalho 'U' e vá até a ferramenta 'Rounded Rectangle Tool'. Nas propriedades em cima procure para deixar como 'Path' e em 'Radius' vá aumentando os pixels até ficar da maneira como gostaria. Clique segure e arraste criando a sua seleção onde desejar, pressionte CTRL + Enter para transformar em seleção, e preencha como desejar.
Qualquer dúvida retorne.
Abraço.