Mafia II, Sicilyalı göçmenlerin çocuklarından olan Vito Scaletta'nın, en iyi arkadaşı Joe Barbaro ile beraber mafya içinde yükselişini konu alır 15.

Oyun, askerlik görevini yapan Vito'nun II. Dünya Savaşı'ndan geri evine, Empire Bay'e dönmesiyle başlar 45. Vito, daha önce Joe ile yapmaya çalıştıkları ancak başarısız olan bir soygunda yakalanmıştı ve hapse girmemek için ABD ordusuna hizmet etmeyi kabul etmişti 5.

Eve geri döner dönmez Vito, Joe ile tekrardan bir araya gelir ve yeni maceralara atılırlar 5. Joe, Vito'yu çalıntı arabalar satın alan bir oto tamircisi Mike Bruski ile tanıştırır ve Vito, uzun zaman sonra ilk suçunu araba çalarak işlemiş olur 5.

Çok geçmeden Henry Tomasino ile Falcone, Vinci ve Clemente ailelerine karşı savaşmaya başlarlar 5.

Oyun ilerledikçe Vito ve Joe, Falcone Suç Ailesi'ne katılır ve beraber bir "made man" olurlar 5.

Vito, babasının ölüm emrini verenin Derek olduğunu öğrenir ve onu ve adamlarını öldürüp intikamını aldıktan sonra emekliye ayrılmaya karar verir 2.

Bu sırada Joe’nun Vinci ailesi tarafından kaçırılarak işkenceye maruz kaldığını öğrenen Vito, onu kurtararak farkında olmadan Mafya ve Triadlar arasındaki büyük savaşı tetiklemiş olur 2.

Şehirdeki mafya ve triadlar arasındaki büyük savaşta Vito, önemli bir rol üstlenmektedir 2. Dolayısıyla oyuncuların yaptıkları seçimler şehri kimin yöneteceğini belirler 2.