Con la caída del Imperio Romano, muchas ciudades de la Península Ibérica cambiaron su funcionalidad, y Granada no fue la excepción, ganando importancia los espacios rurales o periurbanos. Un núcleo de población situado en Atarfe, en Sierra Elvira, comenzó a destacar en la época tardoantigua y visigoda.

Los musulmanes llegaron a la Península Ibérica en el 711, instalándose en este lugar junto a la población existente y fundando más tarde la ciudad de Madinat Ilbira (Medina Elvira), convirtiéndola en la capital de la nueva “cora” (provincia) islámica. Con la fitna o guerra civil que puso fin al Califato de Córdoba en el año 1031, el territorio de al-Ándalus se fragmentó en más de treinta pequeños reinos llamados taifas.

En este contexto, un nuevo grupo de beréberes, los ziríes, llegó a la península. Inicialmente se establecieron en Medina Elvira, pero finalmente se trasladaron a Granada, fundando una nueva medina en el año 1013: Madinat Garnata. Por primera vez en su historia, Granada se convirtió en una ciudad islámica, siendo la capital de la taifa granadina. Este primer período de la Granada zirí, que duró hasta 1038, se caracterizó por la fundación de la dinastía con Zawi ben Zirí, primer sultán de la misma, y por la organización del Estado zirí a nivel burocrático y militar, dando lugar a una sociedad muy diversa y jerarquizada. En este momento se construyó la Alcazaba Cadima en la colina del Albaicín.