Koca Yusuf, Bulgaristan sınırlarında yer alan Şumnu kasabasının Karalar köyünde doğdu. Babasının adı İsmail'dir. Babası ve dedesi Yusuf'un ilk güreş ustaları oldu.
Koca Yusuf, Kırkpınar tarihinde 26 yıl boyunca üst üste başpehlivanlığı elinde bulunduran Kel Aliço ile 1885 yılında güreşti ve berabere kaldı. Bu karşılaşma sonucunda ülkenin başpehlivanlığı unvanını alan Koca Yusuf, Kel Aliço'nun çırağı Adalı Halil'i iki kez galip geldi.
Rıza Tevfik, 1900 yılında "Güreşte Avrupa ile Türk usulü arasındaki fark ve müşahebet" başlıklı yazısında kendisinden "Koca Yusuf" diye bahsedince de lakabı 'Koca Yusuf' oldu. Fransa'da 3 sene hiç yenilmeyen ve rakipsiz kalan Koca Yusuf, aldığı teklifle ABD'ye gitti.
Türkiye'ye dönmek üzere 21 Mayıs 1898'de Fransız bandıralı La Bourgogne transatlantiği ile yola çıkan Koca Yusuf, bindiği geminin 4 Temmuz sabahı New York'un kuzeydoğusundaki Sable Adası'nın 60 mil açıklarında İngiltere bandıralı Cromartyshire şilebiyle çarpışıp batması sonucu tüm yolcular ve mürettebatla birlikte boğularak vefat etti.
