K-On!, Sakuragaoka Kız Lisesi'nde dört lise öğrencisinin hafif müzik kulübünü dağılmaktan kurtarmak için kulübe katılmalarını konu alır. Baş karakter Yui Hirasawa, daha önce hiç müzik deneyimi olmamasına rağmen gitar öğrenmeye başlar ve basçı Mio Akiyama, davulcu Ritsu Tainaka ve klavyeci Tsumugi Kotobuki ile birlikte okul günlerini çalışarak, konser vererek ve birlikte dolaşarak geçirirler. Kulübün gözetmeni, aynı zamanda müzik öğretmeni olan Sawako Yamanaka'dır ve lise son sınıfta sınıf öğretmeni olur.