Rüştü Erdelhun, 27 Mayıs 1960 darbesi nedeniyle istifa etmedi; bu darbe sonrasında emekliye sevk edildi .
23 Ağustos 1958 tarihinde Genelkurmay Başkanı olarak göreve başlayan Erdelhun, 27 Mayıs 1960 tarihinde bu görevinden alındı . Yassıada Mahkemeleri'nde yargılandı ve idam cezasına çarptırıldı, ancak cezası ömür boyu hapse çevrildi .
Erdelhun, askerin siyasete karışmasına karşı çıkması ve hükûmete bağlılığıyla tanınıyordu . 27 Mayıs darbesi sırasında, cuntacıların başını çekmemesi için kendisine yapılan teklifi reddetmişti .