Koca Yusuf, 4 Temmuz 1898'de, Türkiye'ye dönerken bindiği geminin bir şileple çarpışması sonucu yaşanan kazada hayatını kaybetti. Ölümüyle ilgili iki iddia bulunmaktadır: 1. Arbede iddiası: Kaza sırasında filikalara binen diğer yolcularla birlikte kurtulmaya çalışan Koca Yusuf’un, tutunduğu filikadaki diğer yolcuların onun koca gövdesinin sandalı devireceği korkusuna kapılıp kürek ve baltalarla ellerine vurduğu ve ellerini çekmeyeceğini anlayınca da filikadakiler tarafından baltayla bileklerinin kesildiği ve bu nedenle öldüğü iddia edilmektedir. 2. Altınların ağırlığı iddiası: Koca Yusuf'un, Amerika'da kazandığı güreşlerin ardından kazandığı paraları kâğıt paralara güvenmediği için altına çevirdiği ve bu altınların ağırlığı nedeniyle okyanusta boğulduğu öne sürülmektedir. Koca Yusuf'un naaşının Atlas Okyanusu’nda kaybolduğu sanılmaktadır.