Današnji Madrid niz je historijskih i kulturnih slojeva. Različite civilizacije bile su nastanjene u njegovoj blizini, unutar te bogate prošlosti, muslimansko naslijeđe u današnjem Madridu imalo je posebnu važnost. Magerit ili Mayrit jedini je glavni evropski grad koji su osnovali Arapi. Njegovo ime ima korijen u arapskoj riječi  koja bi mogla značiti nešto poput "obilje vode", zbog velikog broja podzemnih tokova u tom području.

Emir Muhamed I. od Cordobe, oko 9. stoljeća, naredio je izgradnju tvrđave i malog grada opasanog zidom na mjestu gdje se trenutno nalazi Kraljevska palača. Danas možete posjetiti ostatke arapskog zida na mjestu zvanom Cuesta de La Vega.  Tamo je u 10. stoljeću izgrađena džamija, zna se tačno gdje se nalazila ali se malo zna o tome kako je građena i kako je tačno izgledala.

Pretpostavlja se da je džamija bila slilna drugima koje su gradili muslimanski osvajači u malim naseljenim središtima. Kao i u drugim slučajevima, nakon kršćanskog osvajanja u 11. stoljeću, glavnu džamiju muslimanskog Madrida pretvorili su kastiljski osvajači u hram kršćanskog bogoslužja. Tako je nastala crkva pod  nadimkom "de la Almudena".  Ta crkva Santa María de la Almudena srušena je 1869. godine. Madrid je rastao pa su zbog izgradnje avenije i akvadukta građevinari uništili i ono malo tragova što je ostalo od te prve madridske džamije.

Islam se, vratio u grad, institucionalno, tek stoljećima kasnije i ruku pod ruku sa zakonom o vjerskim slobodama. Danas madrid ima islamski centar svečano otvoren 1.aprila 1988. godine, a izgradio ga je Juan Mora zahvaljujući donacijama vjernika. Ipak, ključni trenutak za islam u Madridu bila je 1976. godina, kada je osamnaest muslimanskih zemalja potpisalo sporazum o podizanju džamije u glavnom gradu.

Međutim, projekt je bio odgađan jedanaest godina, sve dok saudijski kralj Fahd nije osigurao potrebna sredstva, tadašnjih dvije milijarde pezeta, za n jenu izgradnju. Nakon pet godina radova, 21. septembra 1992. tadašnji princ Salmán bin Abdulaziz od Saudijske Arabije i španski kralj Juan Carlos svečano su otvorili džamiju koja danas podsjeća na onu prvu madridsku džamiju, podignutu u 10. stoljeću.