سكن البشر مدينة القدس منذ القدم، ويؤيد ذلك ما ورد في الصحيحين من حديث أبي ذر رضي الله عنه، قال: {{قلت، يا رسول الله أي مسجد وضع في الأرض أولاً؟ قال: المسجد الحرام، قلت: ثم أي ؟ قال: المسجد الأقصى، قلت: كم بينهما؟ قال: أربعون سنة}}، وهذا يقتضي أن هذه المنطقة قد سكنت بعد بناء المسجد فيها.
وسمي المسجد الأقصى بهذا الإسم لبُعده عن المسجد الحرام في المسافة، وقيل لبعده عن الأقذار والأدناس، وقيل لأنه لم يكن حينئذ وراءه مسجد، وقيل هو أقصى بالنسبة إلى مسجد المدينة؛ لأنه بعيد عن مكة، وبيت المقدس أبعد منه.
وفي أواخر العصر الحجري النحاسي, أي نحو عام (3000) ق.م بدأت الهجرات السامية تتحرك من الجزيرة العربية باتجاه فلسطين ومختلف بلاد الشام ,ومن هذه الهجرات هجرات الأموريين والكنعانيين الذين سكنوا فلسطين، ومن قبائلهم اليبوسيون الذين سكنوا القدس وما حولها.
ويبدو أن اختيار القدس للسكنى من قبلهم رغم قلة مائها ووعورة أرضها؛ كان بسبب مجاورتها المنطقة التي يقع عليها المسجد الأقصى. ليجاوروا مسجدها المبارك وأرضه الطهور، وكان أحد ملوكهم وهو ملكي صادق قد اعتقد هو وجماعته بالله العلي العظيم، واتخذ من بقعة الحرم الشريف معبدًا له، وخاصة موقع الصخرة المشرفة، وهي المغارة التي بُنيت عليها قبة الصخرة فيما بعد.
وفي أثناء حكم اليبوسيين للقدس، وصل إليها سيدنا إبراهيم ـ عليه السلام ـ، وذلك في القرن التاسع عشر قبل الميلاد، وحل إبراهيم ضيفًا على ملكي صادق ملك اليبوسيين، وقد ولد لإبراهيم إسحاق الذي أنجب ولدين هما: عيسو ويعقوب المسمى (إسرائيل)، ثم ولد ليعقوب يوسف عليه السلام الذي بيع في مصر، ثم ارتحل والده وإخوته إليه، ومكثوا في مصر قرابة (400 ) سنة صارت لهم فيها ذرية، وأخذوا يدعون إلى دين الله عزّ وجل، فضاق بهم فرعون ذرعًا، فسامهم سوء العذاب، فاتجهت أفكار زعمائهم للنزوح إلى فلسطين، وكان ذلك بقيادة موسى عليه السلام، لكنه توفي قبل دخوله فلسطين، فخلفه فتاه يوشع عليه السلام، واستطاع أن يفتتح قسمًا من فلسطين، وذلك من الكنعانيين والفلسطينيين سنة (1230) ق.م، إلاّ أنه لم يستطع احتلال القدس من حكامها اليبوسيين؛ بسبب متانة أسوارها وبسالة أهلها .
وجاء بعده داود عليه السلام، وفتح القدس بعد حصارها حصارًا طويلاً، وقد حكم مدة 34 سنة، وبعد وفاته جاء ابنه سليمان عليه السلام، وفي عهده اتسعت رقعة الدولة كثيرًا، وحكم بشرع الله تعالى وبني المسجد (الهيكل), ودام حكمه 40 عامًا, وتوفي سنة (923) ق.م، وبعد وفاته انقسمت الدولة إلى دولتين:
*مملكة إسرائيل: وعاصمتها نابلس، وكانت فترة حكمها من 923 إلى 721ق.م.
*مملكة يهـوذا: وعاصمتها القدس، وكانت فترة حكمها من 923 إلى 581 ق.م.
وقد أنهى هذه الدولة نبوخذ نصر القائد البابلي، وأحرق مسجدها سنة 586 ق.م. إلا أن اليهود بعد تدمير دولتيهما استطاعوا العودة إلى القدس في عهد كورش الفارسي، وبنوا معبدهم، وظلوا في القدس حتى سنة 70م. عندما أثاروا الفتن والقلاقل؛ ما اضطر القائد الروماني تيطس إلى احتلال القدس وتدميرها وتدمير الهيكل, ورفع أمام المدينة لوحة كتب عليها باللغات اللاتينية واليونانية والآرامية: حرام على الجنس اليهودي السكن في هذه المدينة (أي مدينة القدس أو أورشليم ) 4 سبتمبر عام 70 م .
وهكذا انتهى دور اليهودية في التاريخ، ومُسحت آثارها في أورشليم، وأصبح بنو إسرائيل ويهوذا شعبًا منبوذًا. ويقول المؤرخون اليهود القدامى: "إن ما أصاب الشعب اليهودي سببه الأعمال الرديئة وعصيانهم لأوامر دينهم، فعاقبهم الرب، وكان العقاب شديدًا".
وانتهت صلة اليهود بفلسطين، ولم يعد لهم وجود على مدى ألف وثمانمائة سنة، ولم يعد الوجود السياسي المستقل لليهود في القدس وفلسطين إلاّ سنة 1948م, عندما احتل اليهود جزءًا من القدس وفلسطين، وفي سنة 1967م تم احتلال الجزء الباقي منها.