大卫反复勘察地形，制定了智取耶路撒冷的方案。他们在耶路撒冷东部的山谷里发现一眼泉水，从泉眼顺石头山坡往上有一条人工凿成的小道直通城堡。耶布斯人万万没有想到以色列人会从这儿上来，因此，当他们看到正面的以色列人前来攻打时，就一齐到正面来阻击，而使城堡侧面空虚。大卫利用那布斯人的这一弱点，便偷偷派人从侧面晴道爬上城堡，一鼓作气，拿下了这座城池。
大卫把耶路撒冷的锡安保障所当作国都，自己也住在里面，井给它起名，叫做"大卫城"。大卫定都后，便大兴土木，修筑宫殿，扩建城墙。他把高大坚固的城墙延伸到米罗。大卫与推罗王希兰进行"国际贸易"，从他那里运来大量香柏木，当作建筑宫殿的材料。成千上万的木匠、石匠和服谣役的民丁集合到大卫城，为了大卫城的梦幻成真流血流汗。落成以后，大卫就在这富丽堂皇，庄严巍峨的宫殿里选立后妃，生儿育女。王宫里，他的妻儿成群，欢声笑语不断。
大卫还把耶路撒冷修建成为以色列的宗教中心。大卫在军队中挑选了3万人，率领他们前往巴拉犹大，将上帝的约柜运来。他们把坐在两个基路啪之上的万军之耶和华的约柜从山上亚比拿达的家里抬出来，放在新车上。亚比拿达的两个儿子，乌撒和亚希约负责赶这辆新车。亚希约走在新车的前面，为约柜开路。大卫和以色列长老，跟在约柜后面用各种松木制造的乐器和琴、瑟、鼓、钹、锣奏乐跳舞。到了拿艮禾场，因为牛失前蹄，约柜失重倒下，乌撒眼疾手快，伸手扶住，虽然保住了约柜，手触约柜却犯了读神的大罪。尽管出于好意冒犯了神灵，但耶和华仍然没有宽恕他，把乌撒当场击杀在约柜面前。
大卫见了这一切，大惊失色，立即下令停止前进，把约柜放在迦特人俄别以东家中保存。3个月以后，大卫才决定把约柜运回京城。抬约柜的人刚从俄别以东家走出6步，穿着白色细麻布以弗得的大卫就献牛和肥羊为祭。大卫走在最前面，带领人们一路欢歌狂舞，登上了大卫城。扫罗的女儿米甲、从窗户上看到大卫在人群中雀跃狂舞，对自己的丈夫产生了一种轻蔑心理。
约柜被安放进预先准备的帐篷里，大卫在耶和华面前献燔祭和平安祭，以上帝的名义为以色列人民祝福。他分给群众每人1个饼，1块肉，1个葡萄饼，让他们各自回家。大卫又回到后宫给家眷祝福，米甲出来迎接他说："以色列王今日在臣仆的婢女眼前露体，如同一个轻贱人一样无耻，有好大的尊荣啊!"
大卫听出米甲话带讽刺，就说："这是在耶和华面前的谦卑。
上帝挑选了我，废了你父亲和他全家，立我作全民的国君，所以我要在他面前跳舞。我也要更加卑微，自视轻贱。你所说的那些婢女，她们倒要尊敬我。"
米甲从此在大卫面前失宠，她被打入冷宫，与普通宫娥没有两样，至死也没有生儿养女。
大卫城峻工以后，以色列国中安泰，四邻和睦，一派升平景象。为了搞好与祭司们的关系，大卫想为上帝耶和华修造一座大殿，他对先知拿单说："看啊，我住在香柏木的宫中，神的约柜反而放在帐篷里，我要为我们的神耶和华修建一座更加雄伟壮丽的大殿。"
拿单是当时以色列人中最有知识的人，他善良正直，爱惜民力，觉得连年大兴土木，劳民伤财，会损伤国家的元气，就借耶和华的口对大卫说："万军之耶和华如此说：'我从羊圈中将你召来，叫你不再跟从羊群，立你作我民以色列人的国君，你应当象爱惜自己的眼睛一样爱惜你的人民，不应该无休止地骚扰他们，使他们四处迁移，不得安宁。修大殿的事，要暂时作罢。自从我领以色列人出埃及至今日，我未曾住过殿字，常在会幕中行走。将来你的寿数满足，与列祖同睡的时候，你的后裔要接替你作以色列的王，他要为我的名建造殿字，我必坚立他的国，直到永远。'"大卫修筑神殿的倡议就这样搁下了，直到所罗门作国王的时候才再次提起。(撒下5：9一7：29)
