Plug...
Este assunto já foi discutido inumeras vezes.
=====================================
A maioria dos sistemas, estes que são utilizados em sites, vc vai fazer com ambas as linguagens, quase com o mesmo nível de complexidade etc e talz e vai obter resultados bem parecidos.
Limitações de cada linguagem? Isto é muito relativo, vai depender muito mais de quem esta por tras da linguagem do que propriamente da linguagem. Vamos supor que o cara é um desenvolvedor Visual Basic, então este poderá criar uma série de ferramentas para auxilia-lo no que o ASP não for capaz de fazer. A mesma idéia vai servir para o PHP.
Vantagens? Bem, uns 4 anos atras eu diria que ASP era mais aceito, mas, hoje em dia, nem a Microsoft quer mais o ASP (ela parou de desenvolve-lo, além de diversas outras ferramentas, dando lugar a plataforma .NET). O PHP como uma linguagem de código fonte aberta tem vantagens neste aspecto, atualmente a aceitação em hosts é comum e funciona em multiplataforma, ou seja, vc pode escolher um host linux ou windows, é de simples instalação e configuração em qualquer sistema operacional, o que facilita bastante o aprendizado, há farta bibliografia, tanto on-line como em livros.
Qual é melhor? Sei lá... vai de cada um.
Eu prefiro Java. *rs*