كان اول عمل قام به سيدنا عمر بن الخطاب رضى الله عنه بعد فتح القدس سنة ١٦ هجرية هو السعى لمعرفة مكان 
المسجد الأقصى ، والصخرة الشريفة التى عرج منها سيدنا محمد صل الله عليه وسلم ، فسار مع ٤٠٠٠ من رجاله إلى أن وصل إلى مكان الحرم الشريف فوجد أن الرومان حولوه إلى موقع للزبالة ، فنظر عمر يمينا وشمالا ثم قال الله أكبر ، هذا والذى نفسى بيده ، مسجد داوود عليه السلام وقد أخبرنا رسول الله صلى الله عليه وسلم أنه أسرى به ، ثم بسط عمر رداءه وبدأ يكنس الزبل المتراكم على أرض الحرم .
كان دخول المسلمين إلى القدس يمثل عودتهم إلى مدينة آبائهم فى العقيدة وعودة الصلة بقبلتهم الأولى ، وتذكير لهم بالأنبياء الذين ترسخ ذكرهم فى المدينة ، وبدأوا ذلك ببناء مسجد على أرض الحرم الشريف ، وكان المبنى نسبيا متواضعا يتماشى مع التقشف الذى طبع أخلاق المسلمين الأوائل .
لم يتوقف الإهتمام بالقدس مع إنتهاء حقبة الخلافة الراشدة فى عام ٤٠ هجرية ، بل إتصلت مظاهر تبجيلها طوال التاريخ الإسلامى ، فقد حرص معاوية بن أبى سفيان على أن يستقبل مبايعيه من الناس فى القدس ، وقام بالصلاة أثناءها عند جبل الجلجلة .
لقد حرص الأمويون على أن يولوا القدس أميز القادة وأن يكون لها وال وقاض خاصان بها ، ولكن أهم ما قدمه الأمويون هو تشييدهم للمسجد الأقصى ومسجد قبة الصخرة والحرم ، بطريقة لا مثيل لها فى التاريخ الإسلامى ، فقد بدأ عبد الملك بن مروان ( ٦٥ – ٨٦ هجرية ) فى بناء أدوارها وبواباتها ودار الإمارة بجوار الحرم ، وتوج ذلك ببناء مسجد قبة الصخرة ، وأشرف بنفسه على بنائه ، وخصص لبنائه خراج ” مصر ” على مدى سبع سنين . وكان لعظمة البناء ومشهديته الباهرة أن إعترف العباسيون بمأثرته .
أما الوليد بن عبد الملك فقد إستأنف نشاط والده فى تكريس إسلامية القدس فأنجز بناء المسجد الأقصى على الهضبة القدسية نفسها التى أقيم عليها مسجد الصخرة ، وإلى الجنوب من هذا الأخير على الطريق الجنوبى من الحرم ، وهذا الحرم بناه أيضا الوليد ليحضن داخله المسجد وقبة الصخرة .ولقد أطلق المسلمون إسم المسجد الأقصى على الحرم وما بداخله من المسجد الأقصى ومسجد الصخرة والمصلى المروانى .
وبجوار الحرم شيدت فى عهد الوليد الكثير من الأبنية العامة تبركا بالجوار ، كان أكثرها فخامة قصر الإمارة ، ومبان لنزول الحجاج وحمامات عامة وهو ما دفع أرمسترونج إلى التساؤل عما إذا كان الوليد قد إعتزم جعل بيت المقدس عاصمة للدولة الإسلامية .
أيضا حرص العباسيون على أن يولوا على فلسطين أمراء من البيت العباسى ، وألحقوا غالبا فلسطين بمصر أو بدمشق . وحرص الخليفة المنصور على زيارة القدس مرتين وأعاد بناء الحرم الشريف بعد أن هدم الجانب الغربى والشرقى زلزال عام ١٦١ هجرية ، كما زار الخليفة المهدى بن المنصور القدس وأمر بتعمير ما ضربه الزلزال فبنى المسجد بعناية فائقة بأموال طائلة .
وقد عبرت السياسة الإسلامية المتسامحة مع الأديان الأخرى عن نفسها خير تعبير فى العهد العباسى حينما كرست الرؤية الإسلامية العميقة القدس مدينة مفتوحة للجميع لممارسة طقوسهم الدينية والإقامة بها والحج إليها فخص هارون الرشيد نصارى القدس بالتسامح والرعاية حتى إنه سمح لشارلمان بترميم كنائسها ، ومنحه عهدا بحماية الحجاج المسيحيين للقدس ، وواصل الخليفة المأمون سيرة والده وتوج إهتمامه بها بزيارتها مرتين .
وإستمر الإهتمام بالمدينة طوال تلك الفترة حتى إستقرت على هيئتها فى العهد العثمانى داخل السور الحالى الذى أقامه السلطان سليمان القانونى ( ١٥٣٦ – ١٥٤٢ م ) ويبلغ طوله ٤٢٠٠ متر . يشغل الجدار الشرقى والجنوبى للحرم الشريف ٦٠٠ متر من ذلك السور ، الذى تتباين مستويات إرتفاعه ويصل أعلاه إلى ثلاثين مترا ولا يزيد سمكه على المترين وتتداخل فيه تلال القدس مع أسوارها وأبوابها التاريخية .
ولم تقف مكانة القدس فى العقيدة الإسلامية عند حد الرسوخ فى القلوب والأفئدة، بل باتت تمثل أمانة فى أعناق المسلمين ، عليهم بذل أقصى الجهد والطاقات حتى يتم إستردادها