杜聿明自以为是的估计中有很多失误，其中一个致命的失误就是错误地估计了毛泽东和粟裕对他的密切监视。
我华东野战军在消灭了黄百韬兵团之后，就做好了连续作战、连续打大仗的准备，因为党中央早已明确，消灭黄百韬兵团只是淮海战役的第一阶段，我们的目标是要消灭徐州战场上的国民党军队全部有生力量。为此，毛泽东和中央军委特地向两支野战军发出了“不怕疲劳伤亡，连续作战，将敌人徐州集团主力全部消灭于长江以北”的号召。为了达到这一目的，当中央军委和淮海前线总前委确定了“南北堵，中间围”的方针，当黄维兵团被包围之后，毛泽东曾经在11月28日给华野发了如下电报：
粟、谭：
（一）中野已在双堆集包围黄维，4天中粉碎敌两次突围。华野南线各纵队已歼李、刘一部，北线各纵队完全阻止了徐州之敌南进。
（二）在此情况下，须估计徐州之敌有向两淮或武汉逃跑之可能。
（三）你们现在的重心是严密监视徐州之敌，勿使南窜，望你们据此布置今后之工作。
当华野得到毛泽东这一指示之后，总部几位负责人就此进行了认真的讨论。他们认为，徐州的敌人要跑，这已经是必然之势，现在应当仔细研究的，是其逃跑的时间和路线的问题。徐州敌人可能逃跑的路线有三种可能：一是经连云港从海上跑；二是向东南走两淮，而后经苏中再转京沪；三是沿津浦路西侧绕过山区南下。研究结果，认为第三种可能最大。这是因为，如果要从连云港走海路，准备船只、码头都要花时间，假若时间慢了，就会被我大军尾追，形成背海作战，很可能在大海边全军覆没；如果要从津浦路以东走两淮南下苏中，就必须经过河网密集地区和一大片我军控制多年的老根据地，将遭到多处阻击；如果是从津浦路以西绕过山区南下，则地形开阔，便于敌人的机械化部队行军，又能够与李延年、刘汝明兵团相互呼应以援救黄维，万一不成，也可能退守淮河。所以，粟裕断定杜聿明要采取第三种可能，他说：“这第三种可能才像是一个黄埔高才生的思路。”因此，华野的主力要放在敌人从津浦路西边向南逃跑的这种可能上。粟裕把这个意见向中央做了报告，得到了毛泽东和中央军委的认可。
这时，中野的力量已经完全用于包围黄维兵团，对付杜聿明集团和对付李延年、刘汝明集团的任务，主要落在了华野的肩上。所以，11月28日，华野前委和野战军政治部向部队发出了政治动员令：
当徐州之敌倾巢南犯，或向西南逃窜，或向两淮逃走，则应不顾一切，不惜任何伤亡代价，坚决地、彻底地予以全部歼灭，不让敌人逃到江南。
应当说，华野领导对于杜聿明可能的撤退路线的判断是完全正确的，当然这其中也有可能改变的时候。11月29日开始，邱清泉兵团加强了向两淮方向的攻击，徐州东南的阻击线上，敌人出动了数十架飞机、百余辆坦克，还有上百门重炮，几万敌人在阵地上反复冲杀。宋时轮指挥的十纵可以说是用尽了全力，仍然十分困难。这时，有的同志认为敌人是否要从徐州东边突围？粟裕在认真分析之后，并未改变他原来的判断，反而坚定了他的判断，他认为，这是敌人在向西南撤退之前的假象。他一方面让司令部把当时能收集起来的弹药给十纵送去，要宋时轮无论如何也要顶住；一方面将十纵作为预备队的一个战斗力很强的师调到敌人从西南方逃窜时最可能经过的青龙集布防。
但是，在对于敌人什么时候全部撤退这一点上，粟裕确实未能想到会是这样快。所以，当他在12月1日凌晨得知杜聿明集团已经撤出徐州时，华野对杜聿明集团的阻击包围行动还未能到位。严格说，华野的行动比敌人的行动晚了一天。好在杜聿明的撤退方向与路线完全符合华野在事前的估计，所以，粟裕在12月1日立即下达了一道道紧急命令，调动华野主力全线追击，尽快形成对杜聿明集团的包围，必须按中央军委事前就已做出的部署，坚决将其包围，继而予以歼灭，不让敌人逃至江南。第二天，毛泽东特地电告粟裕和谭震林、陈士榘等华野领导人：
“敌向西逃，你们应以两个纵队，侧翼兼程西进，赶至敌人先头堵住，方能围歼，不能单靠尾追。”毛泽东和粟裕的命令通过各种通信方式，迅速传达到各个部队，各个部队也以最快速度展开行动，迅速到达了指定位置。
华野三纵、八纵、九纵和鲁中南纵队（鲁中南纵队原定作为总前委的总预备队参加围攻黄维兵团，尚未投入战斗），分别由城阳、桃山集出发，飞速直插瓦子口、濉溪口、祖老楼一带，进行平行追击，阻击南逃之敌。这四个纵队，也就是国民党空军在空中所见到的我军的主力部队。
华野一纵、四纵、十二纵分别由双沟、褚兰、潘塘出发，并列向西北方向的徐州、萧县之间开进，将敌人咬住，进行侧击追歼。
已经进入徐州城中的渤海纵队，只留一个师在城内进行警备，另两个师立即出城，对逃跑中的敌人进行尾随跟踪，赶上了就歼击。
华野二纵和十纵从宿县地区向永城方向前进，将逃跑的敌人迎头截住。
华野十一纵由固镇西南地区全速向涡阳、亳州地区前进，在阻击敌人南逃的方向筑起第二道防线。
华野十三纵已经参加围攻黄维兵团的战斗，此时属中野指挥，粟裕请求中央军委和淮海前线总前委批准，将其归还华野指挥，北上参加围攻杜聿明集团。
这样，粟裕一下子调遣了11个主力纵队（不包括尚未北上的十三纵）从四面八方向杜聿明集团围去。从粟裕的调兵遣将可以明显地看出，他是把更多的兵力放在阻击敌人南窜的方向上，既不让敌人逃往永城，也不让敌人南下濉溪口而靠近黄维，一定要把杜聿明集团南下的道路全部堵住。为了这一目的，粟裕还命令豫皖苏军区的地方部队尽可能控制涡河等几条河流的渡口，堵住可能漏网南下的敌人，延缓敌人的行军速度。
在当时的追击队伍中，部队的文艺工作者编了一首《乘胜追击》的战地歌曲，歌词是这样的：
追上去！追上去！不让敌人喘气！追上去！追上去！不让敌人跑掉！看，敌人动摇了，敌人混乱了，敌人溃退了，敌人逃跑了。同志们，追上去！不怕困难，不怕饥寒，逢山过山，逢水过水，乘胜追击！迅速赶上，包围他，歼灭他！
粟裕和他的夫人楚青后来在回忆这一过程时说，在整个淮海决战中，这些天是粟裕第二次感到紧张的时刻：
非常危险啊！尽管我们估计到了他们的撤退方向，却没有想到他们撤得这么快。有的纵队又突然失去了联络，怎么也找不着了！万一让他们30万部队撤到淮南，问题就大啦！
就在华野的各路大军以自己的铁脚板与敌人的汽车轮子、坦克履带展开一场星夜奔驰的竞赛之时，粟裕在他的指挥部中得到了总前委书记邓小平的电话。邓小平提醒粟裕：杜聿明是在永城东北先停下来后被华野包围的，所以，杜聿明很可能已放弃了西撤永城的计划，而是想乘我们实施追击、部队脱离阵地之际，稍加整顿，突然杀我们一个回马枪，向南突围，向黄维靠拢，与南线的李延年、刘汝明兵团配合，救出黄维，一起逃往淮南。粟裕在电话中告诉邓小平说，他们已经估计到了这种可能，已采取了措施，在向敌人大胆穿插分割的同时，已经命令包围圈东南方向的三纵和鲁中南纵队在刘园、许小凹、港庄以北一线构筑工事建立防线，准备阻击敌人。邓小平听到粟裕的部署之后，会心地笑了。
就在给粟裕打招呼的同时，对战局考虑用心极细的邓小平在总前委还下达了另外一道十分重要的作战命令。邓小平知道了杜聿明预定的第一个撤退目的地是永城。从各方面估计，杜聿明很可能改变方向，不会再攻到永城，何况我各路大军已向敌人围了上去。但是，不怕一万，就怕万一，万一敌人仍然要冲向永城，万一敌人的机械化部队以它的高速度行军冲到了我围堵部队的前面而到达了永城，我军的包围计划就可能落空。为此，邓小平给位于永城附近的豫皖苏军区司令员张国华下达了一道命令，告诉张国华：华野大军已经全面出动，围堵从徐州向永城撤退的杜聿明集团，为防止万一，张国华必须立即率所属部队到永城布防，如果敌人到达了永城地区，豫皖苏军区的部队必须坚决把敌人堵住，哪怕打到一兵一卒，也要把杜聿明堵住。应当说，这道命令对于张国华来说，担子是压得重了一些，因为要以豫皖苏军区的地方部队去阻击杜聿明的美式机械化部队，难度的确太大。但是，由于能否堵住杜聿明集团的去路这一问题是关系到能否包围住杜聿明集团的关键，再难也得上，再难也得堵。在这种情况下，邓小平的决定显示出了他在大战面前超乎寻常的坚毅与果断。后来，由于华野主力阻击计划的实现，杜聿明集团的部队未能到达永城就被完全堵住了，所以张国华的部队也未能与杜聿明的部队交手。但是，邓小平下的这一步棋属于下一步看两步的一着高招。
在粟裕的指挥下，华野大军除了在南线阻击李延年、刘汝明兵团的六纵和已经参加围攻黄维兵团的三纵、七纵，全部主力都投入了包围杜聿明集团的战斗。各部队从各自的驻地出发，全都朝着杜聿明集团的方向开进，最快的二纵在12月2日晚上就在萧县西南的王寨追上了邱清泉兵团的七十军，一口就将其三十二师的九十六团全部吃掉。华野九纵是南路的先锋，七十六团是先锋团，也是在2日的夜间，他们正抄小路往前赶时，竟然一直插进了敌人的队伍，而敌人还未发现，我军一下子就抓了一大批俘虏。一个名叫詹美玉的班长抓到了第一个俘虏，竟是副军长许长林。许长林原来是第三绥靖区七十七军的副军长，第三绥靖区的大部分部队在何基沣、张克侠领导下起义时，七十七军有5000多人未参加起义，虽然逃回了徐州，但已是残军，被拨给十六兵团孙元良指挥，这时也跟着十六兵团一起南撤，他同七十七军的军部以及特务营就都当了俘虏。
12月3日，华野司令部根据当时已初步对杜聿明集团形成包围的战况，给各纵队下达了以下电令：
据近日各方获悉，至今晨为止，邱、李、孙主力似仍被我滞阻于永城、砀山之线以东，萧县以西陇海路右侧地区。邱匪主力似正向大回村地区攻击，一部分在芒砀山至孟集、孙楼地区；李匪四十二师联络中断，一六六师正于张新集被我围歼中，其主力似在张大屯、大吴集、袁圩地区；孙匪掩护“剿总”机关，似仍位于萧县以西，大红庙、吴集以北地区。据此判断，敌似采取集团滚进、稳进突窜方针，既已被我滞阻于萧、永以北，砀、永以东地区，则有现地固守，寻机突窜之可能。我决趁敌立足未稳、阵脚混乱之际，坚决截堵其向西南突窜道路，压迫其向北、向西北，并先集中主力楔入其纵深，割歼其后尾一部，尔后再分批逐次各个歼灭之。
根据华野司令部的命令，华野各部为了完成对敌人的包围，各部都尽可能向前推进：九纵从敌人南面绕过了敌人，从大回村以西、永城以北向北方插到薛家湖地区，然后在芒砀山地区与从徐州东南追赶过来已经在敌人北边的一纵会合，位于敌人的西北边；八纵到达了永城的苗桥地区，位于敌人的西南边；二纵和十一纵到了永城以东地区，位于敌人的南边；三纵和鲁中南纵队到了张集，位于敌人的东南边；四纵和十纵到了祖老楼地区，位于敌人的东边；渤海纵队尾追敌人，到了敌人的东北边。与此同时，两广纵队等也赶了上来。
12月3日晚上，也就是杜聿明集团转向濉溪口方向开进之时，华野的各部队就已经从左右两翼对敌人形成了大致的包围之势，左翼已经到了大回村附近，右翼已经到了薛家湖附近。由于是夜间，两军中的一部分已经进入了犬牙交错的状态。据杜聿明的回忆：
是晚全线皆有战斗，部分解放军与国民党军混淆不清。
如由萧永公路撤退之第二兵团一个后卫营，遇到解放军的一个大部队时，这个营长即冒充解放军而免于被歼。另有少数解放军深入国民党军内部到处打枪，弄得国民党军草木皆兵，敌我不分，各据一村，彻夜混战。这一军说“当面之敌攻击甚烈”，那一军说“共军已窜到我阵地后方，正在驱逐中”。甚至指挥部及第二兵团所驻的孟集内外亦发生混战，战斗一直打到我驻的房屋门口，直到4日拂晓前后始渐形沉寂。检查结果，只发现几具似农民非农民的尸首及几个被打死的国民党军，此外并无虏获解放军的任何证据。这一晚混战究竟是国民党军自相混杀，还是真有解放军打进来，至今回忆起来还是一个谜。
事后才知道，这天晚上，我军的确没有攻入孟集，是国民党军队在混乱中自相惊扰。正是在这样的混战中，我军有不少很轻松的斩获。例如邱清泉兵团在徐州撤退前收罗散兵新成立的一个补充旅，就很轻松地被我军全部解决。孙元良兵团派了一个团去接管补充旅防务，因为不知道已经发生的情况，在派人前往联络时，竟把驻在村子中的解放军误认为补充旅，全团整队开进了原补充旅所驻的村庄，猝不及防，被村中的解放军全部消灭。
但是，华东野战军的各部队在这时的任务只是在按指定位置展开，把敌人包围在萧县与永城之间，所以并无什么大的战事发生。在经过了一些不大的战斗之后，粟裕对各部队的位置又做了一定的调整，我军对杜聿明集团的包围圈在12月4日基本完成。
12月4日这天，华野的九纵、八纵、二纵、十一纵、三纵、十纵以及冀鲁豫军区独立一旅和三旅共20余万人全部到达了王引河一线，在敌人前面的东西二十多公里的正面构筑起了袋形防御阵地。一纵、四纵、十二纵、两广纵队、鲁中南纵队的十几万大军则布置在敌人背后的洪河集一线。
这样，杜聿明集团的全部军队以及附带从徐州一道逃出的军政人员、商人、学生等，都被包围在永城东北的以陈官庄、青龙集、李石林为中心的一个小圈子里。
当包围圈基本形成以后，粟裕估计敌人很可能要继续向南突围，便针锋相对地做出了相应的部署。敌人要一面突围、三面掩护，华野就安排一面阻击、三面进攻。也就是说，在南边坚决阻击敌人的突围，在东、西、北三面对敌人发起进攻，而且要求进攻的部队要尽可能地打纵深战，大胆插入敌人内部，把敌人的部署尽可能打乱。为此，粟裕对华野的部队做了新的调整：
由二兵团（即山东兵团）政委谭震林、副司令员王建安统一指挥叶飞的一纵、陶勇的四纵、聂凤智的九纵、曾生的两广纵队，以及冀鲁豫军区的独立一旅、独立三旅，在北边向南进攻，力求插入敌人的纵深阵地。
由四兵团（即苏北兵团）司令员韦国清、副政委吉洛（即姬鹏飞）统一指挥滕海清的二纵、张仁初的八纵、胡炳云的十一纵，由西南向东北攻击，并布置纵深的阻击阵地。
由十纵司令员宋时轮、副政委刘培善统一指挥的八纵和孙继先的三纵、傅秋涛的鲁中南纵队，由东南向西北攻击，并布置纵深的阻击阵地。
这样，在寒冷的淮北大平原上，形成了两个大的包围圈，南边是被包围的黄维集团，北边是被包围的杜聿明集团。我淮海前线总前委和中野的司令部则设在这两个包围圈之间的小李庄，距黄维和杜聿明都只有几十公里地，天天都有若干架国民党空军的飞机从小李庄上空飞过，可是，他们无论如何也想不到，指挥我两大野战军几十万大军围攻国民党几十万大军的指挥部，就在这个一点也不起眼的小村子里。