Al no conocerce su nombre original, se le ha llamado Bab al-Mardum, nombre de la puerta de entrada a Toledo próxima a ella. Es la mejor conservada de las 10 que existieron en época musulmana. Es de la época de califato de Cordoba y según las inscripciones descubiertas en la fachada suroeste, fue construida en el año 999 a petición de Ahmad ibn Hadidi, solicitando a Ala conseguir su salvación ultraterrena.

Consta de 2 parte bien diferenciadas:

- Una de planta cuadrada con 4 soportes centrales y 9 compartimentos abovedados. Su mihrab estaría situado inicialmente a la derecha de la entrada, orientada el este. Sus columnas separan las naves que forman el primer tramo, enlazando estas con los arcos de herradura mediante capiteles de origen visigodo. La bóveda central se eleva por encima del resto creando una sensación centralizada de la planta.

- En el siglo XII se lleva a cabo una ampliación en la que se añade un tramo recto con bóvera rebajada de ladrillo y un tramo absidial cubierto por bóveda de medio cañón. Imprescindible destacar sus frecos datados del s. XIII en los que se observan un pantocrator, tetramorfos y clérigos con maza.

La mezquita tiene un patio al que se accede a través de la fachada noreste. Es de planta de crucero con alberca o char-bagh, de procedencia persa y muy utilizado en los jardines de Al-andalus. También consta de un pozo.