在用远程火力压制了十字军的射手后，穆斯林军队按照库尔德炮灰-阿拉伯城市民兵-下马步战的古拉姆精锐的次序出击。他们冲到城下，准备架设云梯和工程槌等兵器。十字军骑兵带着皈依基督教的突厥战士“突科波利斯”，从城市的另一侧城门出城作战。
在城下的激战中，法兰克编年史作家与萨拉丁军队的书记官都盛赞对方的勇武，都认为双方是在为信仰做殊死的搏杀。
在城下的争夺战中，萨拉丁的一个部将伊本·马利克被十字军生擒杀死。但在伊玛目布道鼓舞下的穆斯林军队，发起了一股猛烈的攻击。他们的步兵们彻底控制了城市外围的壕沟，冲到了城市下方。他们忍受着城上的箭矢和投石，为来自库尔德和呼罗珊的工兵们做掩护。这些工兵将地道挖到了犹太区附近的墙脚下。
开战前，穆斯林方面精心研究了过去的耶路撒冷战史。他们特地选择了1099年第一次十字军破城的地方，作为突破口。那一段墙不仅有破损，还有十字军为了庆祝胜利而树立的一座标志性的大十字架。法兰克人耀武扬威的胜利，自然被穆斯林视为奇耻大辱。所以对于这次攻城，穆斯林世界视之为攻守易势的复仇之战。
穆斯林的投石机十分精准，轰塌了几座防御塔的塔顶。仓促拼凑的耶路撒冷守军中，不少人是第一次上战场的市民，只会用本能舞动兵器。剧烈轰击引发的恐慌，可想而知。穆斯林工兵趁着这一波混乱加紧作业，最后成功地挖坏了一段城墙的地基。
在一番上下逼攻之后，耶路撒冷面对约沙法河谷的一段城墙因为地基严重损毁而轰然倒塌，裂开了一道30米的缺口。十字军见状，马上把碎石和烧化的铅水投向滚滚入城的穆斯林军队。但被宗教狂热冲昏了头脑的穆斯林，完全不顾任何死伤，争先恐后地突入城内。
十字军虽然组织了一次反击，试图夺回缺口，但最终以失败告终。指挥官给敢于在夜间把守缺口的勇敢者，每人100个拜占庭金币的重赏。但无人敢于应募。
在意识到守城无望之后，善后会议在耶路撒冷宫廷里召开。两大骑士团的剩余组织、城市议会、教会，还有商业行会，进行了联合会晤。市民代表和军官们表示要光荣战死，为基督殉道。但是大主教赫拉克利乌斯否决了这一提议。他认为如果所有男丁都战死了，那么老弱病残就会被迫改变信仰。暂时有条件的投降，还可以向西欧求救，组织新的十字军。于是十字军们组织了使团，前去与萨拉丁谈判。
唇枪舌战
使团表示愿意在短时间内拿出大笔金钱，请求穆斯林大军后撤。但萨拉丁认为这是十字军的缓兵之计，而且以“发现十字军向外求救”为借口，下令将投石机架设到离城墙更近的地方。这位穆斯林世界的圣主放出狠话：要用1099年十字军对待穆斯林祖先的方式，用杀戮和奴役对付城市里的法兰克人。
意识到事态的严重性后，伊贝林的巴里安亲自出城求和，希望通过条约来保全基督徒的性命。十字军编年史作家埃努尔米诺提到，当巴里安在萨拉丁营地谈判时，萨拉丁的军队趁着休战不备，将一面旗帜插上了城墙。穆斯林大军欢声雷动，萨拉丁傲慢地表示：我已经得到了城市，还用得着你前来献降么？
不久之后，十字军进行反扑，将那面旗帜夺走。身在敌营的巴里安目睹了全过程，吓得心惊胆颤。索幸萨拉丁只是愤怒地打发巴里安离开，让他第二天继续来谈。在得知最高将领没有带回任何条约之后，法兰克人痛哭流涕。他们用石头和鞭子自罚，请求上帝宽恕他们的罪过。母亲们把女儿们的长发剪下来烧掉，希望以此来免除灾祸。牧师们举着十字架，带着百姓们在全城游行。穆斯林则如同第一次东征的十字军般，傲视城里的残军。
