La médina de Fés a été érigée sur un terrain où abondent les eaux de plusieurs sources et des branches d’une rivière régulière (oued Fés), dans une situation de carrefour entre différentes destinations nord-sud et est-ouest. Cette position stratégique permet au site de contrôler le débouché du couloir de Taza, passage obligé entre les plaines atlantiques à l'ouest et le reste du Maghreb, voire l'Orient à l'est.
Le premier noyau de la ville connue sous le nom de Fès al Bali, fut fondé par Idris 1er, en 172H/ 789 J-C sur la rive droite de l'oued Fès à l'emplacement du quartier dit des Andalous. Cette appellation provient du premier peuplement de la ville qui, en plus des autochtones, reçoit des familles de réfugiés andalous après la célèbre émeute du faubourg de Cordoue survenue en 8 1 7-1 8.


En 908-9, le fils d’Idris I fonde une nouvelle ville sur la rive gauche de l'oued Fès, exactement en face du quartier des andalous, à l'emplacement du quartier des Kairouanais. Cette appellation provient, pour sa part, de la venue de familles originaires de cette ville située en lfriqya (Tunisie actuelle). La ville fut entourée d'une enceinte percée de six portes et dotée d'une mosquée. Dans la ville d'en face, Idriss Il fit également construire une enceinte, une mosquée, un palais et un marché.

En 857, une femme dénommée Fatima al Fihriya fit construire dans le quartier de la rive gauche la mosquée Karaouyine devenue le plus grand sanctuaire de la ville. Elle sera agrandie par l'almoravide Youssef ben Tachefin (1060-1106) qui prend la ville en 1069, de même qu'il unifie la cité à l'origine divisée en deux quartiers, détruit les murailles qui la séparaient en deux et suscite un renouveau de la vie économique en construisant foundouqs (hôtelleries), bains et moulins.

En 1143, au terme d'un siège de neuf mois, Fès est occupée par les Almohades (1130-1269). Derrière ses murailles, la ville s'organise: comme Marrakech, elle possède ses lieux de culte, de commerce, son système d'approvisionnement en eau, ses corporations, son aristocratie, etc.

Avec les Mérinides qui la conquièrent au milieu du Xlllème siècle, Fès devient capitale du Maroc et connait son âge d'or. Leur premier grand souverain, Abou Youssef Yacoub (1258-1286) fonde Fès Jdid (la Neuve) en 1276, immédiatement à l'ouest de la ville, la fortifie d'une enceinte puissante, la dote d'une grande mosquée, de quartiers résidentiels, de palais (disparus), de jardins. Au XlVème siècle, un quartier juif, le premier Mellah du Maroc, vint s'adjoindre à la nouvelle fondation. Mais les Mérinides s'annoncent surtout comme bâtisseurs de medersas, ces collèges caractéristiques différents de taille et de décor, rivalisant de beauté et de symétrie, organisés autour d'un patio à portique plus ou moins vaste dont le centre est occupé par une vasque ou un bassin.