虎牢關，又稱汜水關，它作為洛陽東邊門戶和重要的關隘，因西周穆王在此牢虎而得名。南連嵩嶽，北瀕黃河，山嶺交錯，自成天險。大有“一夫當關，萬夫莫開“之勢，為曆代兵家必爭之地。
瓦崗水陸並進，在虎牢關前，一路上是勢如破竹。但到了虎牢關之後，就被天險所阻。
先是勸降，被守軍拒絕之後，就開始打造攻城器械。
不過不巧的是，才剛剛打造完成，還沒來得及攻城，韋孝矩率軍趕到虎牢了。
在看到城外的攻城器械之後，立即募集了五百勇士，趁夜突襲，燒毀了大部分攻城器械。
翟讓大怒，又命令工匠加緊打造攻城器械，晝夜不停。
三日後，在器械完成之後立即發動對關城的強攻。
此時，濮陽的形勢非常微妙。
就在虎牢關前的大地上，筆直的衝向了瓦崗軍大陣。
翟讓雖然逃脫了，但瓦崗軍已經完全被燕軍鐵騎衝亂了，敗兵四處逃竄，許多士卒充滿往河邊渡口停船處避讓，因此也造成了擁擠和踩踏。
這一仗，在虎牢戰場上的八萬多瓦崗軍被衝的七零八落，四散奔逃。
“悔不聽楊先生之言”這句話也成了翟讓的遺言。
楊侃與楊邃相視一樣，楊邃道：“好，既然如此，就如慕容將軍所言，我等就各率部眾就此分彆不過青州之地，就留與我等？如何？”
翟思訓當即道：“當初能取青州，也都是楊長史所謀劃，如今將青州與楊氏我自無他言”
翟讓原本為了鼓舞士氣，在虎牢關下數裡之地督戰，而尉遲恭看見他的旗號直衝而來，瓦崗軍驍將單雄信見尉遲恭驍勇眾人皆不能當，自負勇力過人，就直接縱馬迎了上去。
楊氏統軍楊侃旗幟鮮明的擺明立場。
這時候，楊邃又勸諫翟讓，說瓦崗軍長於野戰水戰，不善於攻城，不如繞道孟津，從浮橋進入洛陽盆地。
而瓦崗軍的派係複雜，有跟隨翟讓起事的舊人，有各地投奔的義軍頭目，有弘農楊氏和齊郡叛軍的餘黨。
巔峰時期控製三州之地，擁兵二十萬的英雄豪傑，就此遺恨大河，
俘虜多達三萬餘。
九千輕騎在後，揮軍掩殺。
但是在築橋之後，形勢就發生變化了，遇到上述情況若不在對岸設防，長橋一端就會被敵人控製，如果燒毀橋梁，重建時又要浪費巨大的人力物力財力。
徐懋功聽說了虎牢戰況之後，迅速撤兵回到東郡。
而齊郡眾人則說他們與西燕梁郡公征南大將軍李元徽有舊，且李氏占據關中，儼然又一統天之勢，所以他們也準備投奔李氏
“李元徽與我有血仇，投奔西燕絕無可能”
青州和一半兗州，成了楊氏的地盤。
翟讓身死，大軍折損過半，兗州、青州、以及大半個徐州這麼大的地盤等於短暫的陷入了真空期。
翟思訓和徐懋功等滑縣老鄉組成的瓦崗軍老底子，加上齊郡慕容三藏、賈雄、秦伯圭、秦仲玉等人，合計約三萬兵馬，以及他們手底下的控製的半個兗州和大半個徐州，則成了翟思訓等人要獻給西燕李氏的敲門磚。
翟讓這邊正準備給徐懋功加派援軍，讓他一口氣打下南城，隨後就可以直驅洛陽。
翟讓聽了這個建議之後，覺得很好。
曹魏以前，孟津無橋，所以北岸渡口也未曾築城設防。漢之河陽城在孟津西五十處，距離河邊較遠。這也是因為背水作戰乃兵家大忌。