Merkez Efendi, Sümbülîlik'in piri "Sümbül Efendi" lâkaplı Şeyh Yusuf Sinaeddin Efendi'nin halifesi, döneminin ileri gelen sûfîlerinden ve hekimlerindendir. Merkez Efendi'nin 1514 yılında, mensubu olduğu tarikatın (Halvetilik) halvet geleneğine uygun bir tekke tesis ederek sur dışındaki bu tenha yere yerleşmiştir.
Merkez Efendi'nin kendi buluşu olan mesir macununu; Yavuz Sultan Selim'in eşi Ayşe Hafsa Sultan'ın inşa ettirdiği külliyenin zâviyesinde şeyhlik ve dârüşşifâsında tabiplik yapmak üzere Manisa'da bulunduğu süre zarfında icat ettiği bilinmektedir.
Kuruluşunu izleyen yüzyıllar boyunca, âsitâne (Bir tarikatın veya tarikat kolunun merkezi) veya pîr makamı (Tarikat veya tarikat kolunun kurucusu olan pîr türbesini barındıran tekke) olmamasına rağmen Merkez Efendi Tekkesi, halkın Merkez Efendi'ye gerek hayattayken gerekse vefatından sonra büyük sevgi ve saygı göstermesi nedeniyle İstanbul'un en önemli tasavvuf merkezlerinden biri haline gelmiştir. Bu durumundan dolayı da tekkenin binaları çeşitli tarihlerde onarılmış, yenilenmiş, bir takım ek binalar inşa edilmiş, tekkenin gelirleri ek vakıflarla genişletilmiş, sonuçta söz konusu tekkenin etrafında bir tür tarikat külliyesi oluşmuştur.
Merkez Efendi'nin ölümünden sonra, tekkesinin yanına Kanuni Sultan Süleyman'ın kız kardeşi Şah Sultan tarafından 1552-1572 yılları arasında Merkez Efendi'nin adının verildiği bir cami ve tevhidhane yaptırılmıştır. II. Mahmud'un camiyi 1837-38 yıllarında aslına uygun olarak yenilediği bilinmektedir.
Tekkelerin kapatılmasını (1925) izleyen dönemde cami-tevhidhane yalnızca cami olarak kullanılmaya başlanan tekke, 1965'te bir onarım geçirdikten sonra günümüze kadar gelmiştir. Ancak son dönemlerde iyice yıpranan cami ve türbe, Zeytinburnu Belediyesi’nce yürütülen Kültür Vadisi Projesi kapsamında yeniden restorasyona alınmıştır.