Mafia II, Sicilyalı göçmenlerin çocuklarından olan Vito Scaletta'nın, en iyi arkadaşı Joe Barbaro ile beraber mafya içinde yükselişini konu alır. Oyun, askerlik görevini yapan Vito'nun II. Dünya Savaşı'ndan geri evine, Empire Bay'e dönmesiyle başlar. Eve geri döner dönmez Vito, Joe ile tekrardan bir araya gelir ve yeni maceralara atılırlar. Çok geçmeden Henry Tomasino ile Falcone, Vinci ve Clemente ailelerine karşı savaşmaya başlarlar. Oyun ilerledikçe Vito ve Joe, Falcone Suç Ailesi'ne katılır ve beraber bir "made man" olurlar. Vito, babasının ölüm emrini verenin Derek olduğunu öğrenir ve onu ve adamlarını öldürüp intikamını aldıktan sonra emekliye ayrılmaya karar verir. Bu sırada Joe’nun Vinci ailesi tarafından kaçırılarak işkenceye maruz kaldığını öğrenen Vito, onu kurtararak farkında olmadan Mafya ve Triadlar arasındaki büyük savaşı tetiklemiş olur. Şehirdeki mafya ve triadlar arasındaki büyük savaşta Vito, önemli bir rol üstlenmektedir.