Edwards marcou um golo de ressalto no terceiro minuto dos descontos para infligir a primeira derrota da época aos Black Cats.
O Sunderland parecia pronto para dar continuidade ao seu arranque a 100% sob o comando de Regis Le Bris quando Patrick Roberts abriu o marcador de grande penalidade. Com um autogolo de Daniel Ballard e um penálti de Ryan Hardie, o Plymouth recuperou a desvantagem após o intervalo, mas parecia ter perdido os três pontos quando Romaine Mundle empatou aos 86 minutos.
No entanto, o golo de Edwards aliviou a pressão sobre Rooney, antigo capitão da seleção inglesa e do Manchester United, que foi despedido na época passada pelo Birmingham ao fim de apenas 83 dias.
"Quando eles empataram, pensámos 'oh não, outra vez não', mas depois o Joe conseguiu o golo da vitória", disse Rooney: "É sempre bom ganhar em qualquer jogo e começar a ganhar no campeonato. Agora, resta saber quando é que vem a segunda vitória."
O início invicto do Leeds chegou ao fim com uma derrota em casa por 1-0 frente ao Burnley, rival na promoção.
O ator de Hollywood Will Ferrell, que é um dos investidores famosos do Leeds, esteve presente em Elland Road.
Mas não houve um final de conto de fadas para a equipa da casa, uma vez que o fantástico golo de Luca Koleosho na primeira parte valeu os três pontos aos Clarets, que subiram ao terceiro lugar.
"São três pontos importantes para nós, especialmente em um lugar tão difícil e onde estamos em fase de desenvolvimento", disse o técnico do Burnley, Scott Parker.
O Blackburn subiu ao segundo lugar da tabela com dois golos de Yuki Ohashi na segunda parte da vitória em casa por 3-0 sobre o Bristol City.
O Watford perdeu a oportunidade de se aproximar do Sunderland em termos de pontos, depois de ter empatado 1-1 em casa com o Coventry.
O Cardiff continua na parte de baixo da tabela, depois de Kenzo Goudmijn ter marcado um golo que valeu ao Derby uma vitória por 1-0 em Pride Park.
Dois golos nos descontos garantiram um final de jogo emocionante, com o Sheffield Wednesday a empatar 1-1 com o QPR em Hillsborough.
O capitão dos Owls, Barry Bannan, pensou que tinha dado a vitória à sua equipa com uma excelente finalização, mas o suplente Alfie Lloyd empatou no último remate do jogo.
A excelente finalização de Teden Mengi garantiu a primeira vitória do Luton desde abril, que venceu o Millwall por 1 a 0 no The Den.