，吴元济觉得带这些俘虏太麻烦，在他们都保证不再参加大食军后，吴元济将大部分普通士兵释放，留下五百多重要分子集中关押起来。
吴元济在耶路撒冷补充了一些军需物资，留下一个羌戎团镇守耶路撒冷，然后向大马士革方向进发。
大食军觉得硬碰不是唐军对手，转而采取游击战，专门攻击第五路军的补给线。吴元济被搞的愤怒不已，到处追着大食军打，大食军以骑兵为主，唐军很难捕捉。
由于后勤补给线被破坏，特别是弹药补充非常不顺，耽误了第五路军的行程，无法快速挺进大马士革。
李愬原先攻占的萨曼王朝、塔希尔王朝，都属于黑衣大食的地方势力，未触及黑衣大食的核心地区。黑衣大食哈里发马蒙为了防止唐军来攻，调集重兵在黑衣大食东部一带，企图将唐军阻于波斯一带。
在李愬认知中，在世界范围内，黑衣大食是仅次于唐朝的帝国，是唐朝对外扩张的最强对手。唐军虽然在怛罗斯附近击败了萨曼王朝的军队，算是报了一仇，但是尚未伤及黑衣大食的根本，这次要跟黑衣大食的本土力量对决，将是一场更加激烈的战斗。
李愬率领第六路军从沙普城出发，向西攻入黑衣大食的波斯地区，波斯地区的大食军将沿途的道路挖断，桥梁毁坏，减缓了唐军的进程。第六路军全部是骑兵，可以在荒野上驰骋，但是炮兵和辎重部队仍然依赖道路和桥梁，唐军不得不一边架桥修路，一边缓慢前进。
好在波斯地区相对干旱，河流不多，所以中途桥梁也很少，只是部分延缓了唐军的进程。唐军向西进发的过程中，大食军并不敢来硬碰，而是派出小股骑兵不断骚扰，均被唐军击退。半个多月后，第六路军终于到达波斯的重镇拉伊城(今伊朗德黑兰一带)附近。
黑衣大食波斯总督拉赫曼，带领六万精兵屯守在拉伊城一带，准备在这里阻挡唐军。马蒙对拉赫曼寄予厚望，交给他的都是大食的精锐部队，甚至给了他大量的火器，希望他能重现黑衣大食的荣光。
拉赫曼认为，黑衣大食依然是以冷兵器为主，新配备的炸弹和突火枪等火器，射程和威力都难以匹敌唐军的武器，对前景并不乐观。拉赫曼苦思冥想，想到了三个对策，一是干扰唐军的后勤补给线，二是加固拉伊城，将城墙大幅加厚，三是在唐军的必经之处投毒。
第六路军进入波斯以后，大食军就袭扰唐军的补给线，但是唐军在出发时带了充足的粮草弹药，而且沿途可以夺取波斯人的粮草