تبدأ قصة هذا الشارع عندما أنشأ القائد جوهر الصقلى القاهرة المعزية فجعل فى السور الشمالى بابين متباعدين هما باب النصر والفتوح وفى السور الجنوبى بابين متجاورين هما بابا زويلة – أحدهما اندثر والآخر مازال موجودا – وجعل شارعا رئيسياً من باب الفتوح إلى باب زويلة القائم حالياً عرف بالشارع الأعظم أوشارع المعز لدين الله الفاطمى.
ويعتبر هذا الشارع أكثر شوارع القاهرة ازدحاما بالآثار الإسلامية وبذلك يعتبر أكبر متحف مفتوح للآثار الإسلامية فى العالم كله حيث يوجد به 29 أثراً إسلامياً تجمع الآثار الإسلامية فى مختلف العصور.
ويمتد شارع المعز من باب الفتوح شمالا إلى باب زويلة جنوبا بطول 1500 متر ثم امتد بعد ذلك جنوباً من باب زويلة إلى مقام السيدة نفيسة ثم إلى الفسطاط ليصل طول الشارع الأعظم إلى حوالى 4800 متر.
عرف شارع المعز لدين الله الفاطمى بالإضافة إلى الشارع الأعظم بشارع القاهرة وبشارع القصبة وأنشأ جوهر على الجانب الشرقى منه قصراً للخليفة المعز عرف باسم القصر الشرقى الكبير لأن ابنه العزيز بالله أنشأ قصراً صغيراً أمام قصر أبيه عرف باسم القصر الغربى الصغير والقصر الشرقى كانت مساحته 70 فدانا تقريبا وكان له تسعة أبواب ويعتبر هذا القصر عدة قصور متداخلة ولهذا عرف باسم القصور الزاهرة التى لم يعد لها أثر الآن.
وكان شارع المعز عامرا بالمتاجر والأسواق حتى بلغ عدد المحلات فيه من الحسينية خارج باب الفتوح حتى السيدة نفيسة 1200 محل.
وظل الشارع الأعظم ما بين باب الفتوح شمالا وباب زويلة جنوباً له مكانته الفريدة أيام الفاطمييمن والمماليك وكانت به تقاليد تراعى منها ألا يمر به حمل تبن أو حمل حطب ولا يسوق به أحد فرسا ولا يمر به سقاء إلا وراويته مغطاة وكان مقرراً على أصحاب المحلات أن يعلقوا قناديل موقدة طول الليل وأن يعد كل منهم زيراً مملوءاً بالماء لمكافحة الحريق فى أى مكان .
وكان من التقاليد فى زمن الفاطميين إذا قدم مبعوث من ملوك الفرنجة أن ينزل عند باب الفتوح ويقبل الأرض قبل أن يصل إلى قصر الخليفة وكان كل من يغضب الخليفة يُؤمر بالخروج إلى باب الفتوح حاسرا الرأس ويستغيث نحو الخليفة .
وكان الحاكم بأمر الله يتجول فى الشارع ليلاً بدون حراسة ليطلع بنفسه على نظافة الشارع ومدى التزام أصحاب المحلات وسكان الشارع بالأوامر فكان الناس يتبارون فى إضاءة الشارع وتنظيفه وتزيينه بأحواض الخضرة.
ولاحظ الحاكم فى أحد جولاته خروج النساء ليلا للفرجة على موكب الخليفة فأمر بمنع النساء من الخروج ليلاً بعد العشاء ولما لفت نظره ازدحام طرقات ومحلات الشارع بالناس أصدر أمرا بمنع الناس رجالاً ونساء من الخروج بعد العشاء.