VIII. yüzyılda Arapların İstanbul’u kuşatması sırasında şehit düşen Hz. Muhammed’in (sav) Sancaktarı Ebu Eyyüb el-Ensari’nin mezarının yeri, Fatih Sultan Mehmed’in İstanbul kuşatması sırasında Akşemseddin tarafından bulunmuştur. Hz. Halid bin Zeyd Ebu Eyyüb el‑Ensari’nin mezarının yeri Akşemsettin tarafından tayin edilince Fatih Sultan Mehmed, mezarı üzerine bir türbe yapılmasını emretti. Türbenin inşaatına 1453 yılında ve İstanbul Kuşatmasının ilk günlerinde başlandı. Fatih Sultan Mehmed’in yaptırdığı türbe daha sonraki dönemlerde çeşitli ilavelerle değişime uğramış ancak esas türbe mekânı orijinaldir. Türbenin kapsamlı restorasyon çalışmalarına başlanmıştır. Hz. Halid’in türbesinin yanındaki Cuzhanede Semiz Ali Paşa (Ölm. 1621) ve Sadrazam Gürcü Mehmed Paşa (1575–1623) medfundur. Fatih’ten sonra Hz. Halid’in kabri etrafında ilk şehidler gömüldüler. Daha sonra birçok devletadamı bilim adamı sanatkâr ve Eyüp Sultan’a yakın olmak isteyen birçok kişi buraya gömüldüler. Eyüp sultan türbesinin haziresinde yatan bazı meşhur şahıslar: Gazi Ethem Paşa, Küçük Said Paşa, Fatih’in Sakası, Mustafa Ağa, Yusuf Baba, Hoca Sinan Paşa, Muhsinzade Mehmed Paşa, Esma Sultan, Şeyh Sadreddin-i acemi, Hasan-ı Samsuni, Ali bin Mehmed el-Kuşçu, Muhyiddin bin Muhammed bin Abdülevvel-i Tebrizi Mahmud Zihni Efendi, İzzet Paşa, Mehmed İbrahim Paşa, Yusuf Sinan Paşa, Mehmed Şevki, Mustafa Asım, Müeyyedzade Abdurrahman, Zübeyde Fıtnat Hanım.