Joe Perry, Aerosmith'ten 1979 yılında, Cleveland Municipal Stadyumu'nda düzenlenen World Series of Rock festivalinin backstage alanında yaşanan bir tartışma nedeniyle ayrılmıştır. Tartışma, Perry'nin eşi Elyssa'nın, basçı Tom Hamilton'ın eşi Terry'ye bir bardak süt fırlatmasıyla başlamıştır. Perry, daha sonra yaptığı bir röportajda, Aerosmith'te olmaktan bıktığını ve grup arkadaşlarının da onu artık grupta istemediklerini hissettiğini belirtmiştir. Perry, 1984 yılında gruba geri dönmüş ve o tarihten itibaren Aerosmith ile çalışmaya devam etmiştir.