Este jardín histórico, cuya creación se debe a Felipe II, es uno de los rincones escondidos más especiales de Madrid. Situados en un eje verde, con más de 20 hectáreas, junto a Madrid Río, fueron declarados Monumento Histórico Artístico en 1931. Su nombre hace referencia a un episodio histórico sucedido en 1109, cuando el caudillo musulmán Alí Ben Yusuf intentó reconquistar Madrid tras la muerte del rey Alfonso VI, atacando el alcázar desde la ladera próxima al río. Sus tropas y él parece ser que acamparon en el lugar que hoy ocupan los jardines.
En el siglo XVI, el Rey Felipe II compró los terrenos colindantes al Alcázar, convirtiéndose en la zona de ocio de la Corte en Madrid. Tras el incendio del Alcázar de Madrid en 1734, este terreno pierde protagonismo en favor de otras zonas cercanas a Palacio.
En el reinado de Isabel II fue cuando se acometió la construcción de los Jardines por parte de Narciso Pascual y Colomer (1844), del que permanece el trazado de las principales avenidas rectilíneas, y las dos fuentes que se alinean en el eje central: la de las Conchas, obra de Felipe de Castro y Manuel Álvarez (1775), procedente del Palacio del Infante don Luis en Boadilla del Monte, y la de los Tritones, obra italiana del siglo XVI procedente del jardín de la Isleta en Aranjuez, y colocada ante la Gruta Grande o invernadero. Durante la Regencia de María Cristina de Habsburgo se reformó completamente el parque según el diseño seudopaisajista de Ramón Oliva (1890).
Los terrenos del Campo del Moro no fueron ajardinados antes ante la imposibilidad de conectarlos con el Palacio Real, situado a mucha mayor altura. Esta posición elevada se aprovechó para crear una de las mejores perspectivas madrileñas, la del Palacio Real detrás de un gran tapiz verde jalonado por fuentes monumentales dentro de un amplio y sombrío jardín romántico.
Los jardines cuentan con servicio de restauración y aseos públicos.