Le mont Nébo est surtout connu pour être le site où Moïse a contemplé la Terre sainte sans y entrer et où une église et un monastère ont été construits pour l'honorer. Le livre des Nombres (33:47) mentionne que lorsque les enfants d'Israël quittèrent Almon Diblathaim, ils campèrent dans les montagnes d'Abarim, devant Nébo, et que les enfants de Ruben reconstruisirent la ville (Nombres 32:38).

La ville est restée aux mains des Moabites, selon Isaïe : « Moab se lamentera sur Nébo et sur Medeba ; toutes leurs têtes seront chauves, et toute barbe sera coupée » (Isaïe 15:2-3). Le prophète Jérémie (48:1) a dit de Nébo : « Ainsi parle l'Éternel des armées, le Dieu d'Israël : Malheur à Nébo ! Car il est pillé. »

Le prophète Moïse « monta des plaines de Moab au sommet du Pisga, qui est en face de Jéricho. L'Éternel lui montra tout le pays... », mais il lui dit : « Tu ne passeras pas par là. » (Deutéronome 34:1-4). « Moïse, serviteur de l'Éternel, mourut là, au pays de Moab, selon la parole de l'Éternel, et il l'enterra dans la vallée, au pays de Moab, vis-à-vis de Beth-Péor ; mais personne n'a connu le lieu de son enterrement jusqu'à ce jour. » (Deutéronome 34:5-6).

Au IVe siècle, trois bâtiments à coupole ont été construits à la place de l'autel actuel. L'endroit comportait un passage caché où se trouvaient des tombes décorées de mosaïques. De part et d'autre de la place, deux petites églises permettaient d'accomplir les prières d'enterrement. Le baptistère, qui se trouve dans la partie nord du site, est décoré de mosaïques, tandis que le sol de la partie sud est orné d'une grande croix