刘伯承在石家庄稍事休养后重返前线。2月11日，他回到河南商丘附近的张菜园中原野战军司令部，立即投入了紧张的渡江准备工作。
首先，他以主要精力主持部队的整编工作。2月间，根据中共中央军委的命令，中原野战军改编为中国人民解放军第二野战军，刘伯承任司令员，邓小平任政治委员，张际春任副政治委员兼政治部主任，李达任参谋长。以刘伯承、邓小平、张际春、李达、陈赓5人组成前委，邓小平为书记。部队以原有的第一、二、三、四、六、九、十一等7个纵队为基础，加以地方兵团升级，补充新兵、俘虏等，扩编为第三、四、五兵团。第三兵团由陈锡联任司令员，谢富治任政治委员，王近山、杜义德任副司令员，闫红彦任政治部主任，王蕴瑞任副参谋长，钟汉华任政治部副主任。下辖第十、十一、十二等3个军。第四兵团由陈赓任司令员兼政治委员，郭天民任副司令员，刘志坚任副政治委员兼政治部主任，胡荣责任政治部副主任。下辖第十三、十四、十五等3个军。第五兵团由杨勇任司令员，苏振华任政治委员，张霖芝任副政治委员，甘渭汉任政治部主任，潘焱任副参谋长，石新安任政治部副主任。下辖第十六、十七、十八等3个军。此外，还组建了特种兵纵队，由李达兼任司令员和政治委员。整个野战军实力达到28万余人，装备大大得到加强。
通过整编，人民解放军达到了空前的规模，武器装备大大得到加强，它面临的建设任务也更为繁重。刘伯承在3月份向毛泽东所作的工作报告中，围绕着部队整编工作，系统地表达了军队建设的意见，提出了组织调整、兵员补充和后勤建设等三个问题，并敏锐地把这些问题提高到正规化建设的高度。关于组织调整，他提出：要把部队按照新的编制和三三制的原则改编为兵团、军、师的建制，这里不仅是名称上的改变，而且是组织上的变动或扩大整编，这就必然牵动其他组织的调整。他强调指出：统率机关的司令部、政治部和后勤部，尤其是特种兵的组织，在正规化建设急需之中……应成为我们必须抓紧的一件大事。
关于兵员补充，他详细分析了补俘、补新兵、地方部队升级与归建等不同形式。认为中原野战军兵员补充的来源是复杂的，按地区有冀鲁豫、豫西、豫皖苏、鄂豫、皖西等5个地区。俘虏也是各地各兵种来的，而且有许多老弱及警察、机关杂员、差役等非战斗兵。按时间说则是参差不齐的，整个整训期间都在陆续零星的补充中。政治觉悟极不齐，原来在中原野战军正规化建设中曾提出反对游击主义，现在又添加了这样一些因素，就必须在一个时期内加强政治教育，提高组织性、纪律性，巩固部队等指导责任。同时在正规化的口号之下。对那些指导不深入干部队实际活动中的官僚主义还是要反对的。
关于后勤建设，他继续发挥在中共中央政治局会议上的发言精神，认为时至大兵团作战的今日，必须建立起军械、军需补给与输送勤务等一整套的机构及制度，方能适应部队大纵深行动的需要。鉴于淮海战役前后数十万大军云集于狭小地域，道路不畅通，部队物资拥挤和一切需要同时要当地人民供应，造成人民负担过重的教训，他指出：“正规军军械军需的补给，……火车、汽车及其道路的整理，汽油站的设备，军械修理场的建立，应有计划地进行。但我们最主要的应照顾所处的环境条件，照顾政策，实事求是，尽量就各地已有物资与输送工具善于组织起来，供给军队急需，不可能者才仰给于后方，这应成为今后后勤工作的方针”。
经过辽沈、淮海、平津二大战役，国民党军的主力已基本丧失，残存的100多万作战部队，退守到长江以南及边远省份。为了阻止人民解放军南进，争取时间编组新的军队，以便等待条件成熟，进行新的反扑，国民党在美帝国主义的策划下，又一次玩弄起反革命的两手策略：一方面，蒋介石宣布“下野”，由李宗仁以代总统的名义出面，和中国共产党进行“和谈”；另一方面，搜罗残兵败将，加紧布置江防，企图以残存的军队凭借长江天堑阻遏人民解放军前进，梦想重复“南北朝”分江而治的历史。
在上海至宜昌的长江防线上，国民党军兵力不敷使用，只得布置了两个重点防御集团：一个是京沪杭警备总司令部总司令汤恩伯集团的26个军共75个师，约45万人，主力置于京沪杭地带，以54个师担任湖口至上海段的沿江守备及控制江北各桥头堡，其余21个师配备在浙赣线、苏南、浙江、皖南纵深地区；另一个是华中军政长官白崇禧集团的14个军40个师，约25万人，其中27个师担任宜昌到湖口段江防和武汉地区守备，以13个师配置在长沙、南昌等纵深地区。此外，还调集其海、空军主力，投入长江防线：以镇江为基地的”第二舰队”辖舰艇89艘，归汤恩伯指挥，担任长江下游防务；以九江为基地的“江防舰队”辖舰艇44艘，受白崇禧指挥，担任长江中游防务。这就是当时国民党军拚命鼓吹的所谓“陆海空立体防线”。实际上由于战线长、兵力少，它已无法设置有效的长江防线，而只能采取这种东重西轻、顾此失彼、外强中干、点线脱节的处置。
对于这种虚张声势的防御态势，刘伯承一针见血地指出：“长江布防，有所谓‘直接配备’，即将其主力直接配备于长江南岸。有所谓‘前进配备’，即将其主力前出于长江以北广大地区作战。有所谓‘后退配备’，即以一部配合长江两岸要点强化侦察，而以主力分别配备于南岸纵深的机动地点。在判明我军主攻方向时，即抓住我渡江的困难适时出击。蒋介石长江防御的‘前进配备’，大而言之，即其在黄河、长江之间的防御，小而言之，即其经常叫嚣的‘守江必固淮’。这些都是因淮海战役基干兵力的丧失而无法实施。
其‘后退配备’，也因兵力少，江防宽，与南岸交通困难而不能做。如此，他就不能不着重于‘直接配备’，但还是因兵力少而不容易做了，汉口以下长达2000余里的江防线及其必要的纵深配备太费兵力了，在长江向北岸鼓出的突出部如汉口、浦口等地点，也各只有两个基于军的机动兵力，遂使这样漫长的江防线成为一条不能动弹的‘死蛇阵’，任人横斩。如其一处被斩断，则全线震撼。江防舰队在北岸没有掩护，航线极受限制的条件之下，到处易遭短兵炮兵的袭击，也不易起撞沉木船的作用。特别是蒋介石发动卖国独裁的反人民内战到了现在阶段，土气越发不振，守备越发困难了。”
尽管渡江战役的胜利己完全在预计之中，而且不会遇到敌人顽强的抵抗，但刘伯承一如往昔，认真地领导部队进行一系列的准备，采取一切可能采取的措施，以最大限度地减少障碍，降低兵员伤亡和物资损耗，求得任务的圆满完成。这不仅体现了他一贯的缜密仔细的作风；而且反映出向党向人民极端负责的精神。
3月初，根据中共中央军委和总前委的部署，刘伯承指挥第二野战军3个兵团分由阜阳、沈丘、漂河地区，向湖口至贵池间的长江北岸挺进。以第三兵团为左路军，从阜阳直趋安庆；第四兵团为右路军，从沈丘移向望江；第五兵团为中路军，从漯河开赴桐城，尾第三兵团之后集结待机。并令第十一、十五两军为先遣军，先期到达预定地域，为主力开辟渡江前进阵地。为牵制迷惑华中白崇禧，又令桐柏、江汉军区部队向安陆、应城、天门之线宽大机动作战，威胁武汉侧背，吸引白崇禧部分兵力西顾。
当第十一、十五军冒雨疾进，跋山涉水，穿过了大别山区，将达江边时，刘伯承于3月24日下达了《关于渡江战术注意事项的指示》，对实施渡江作战规定了十项重要的战术原则。其中要求先遣部队“首先要把敌人在江北的掩护阵地扫除，直达江边，才能进一步作切实的准备”。“在扫除敌江北桥头堡、支撑点时，特别对防碍我主要渡江点之敌，力求截断其退路，割裂其部署，予以速歼，不使其退守江南，增加以后的抵抗力”。为了保证先遣部队动作的突然性，他还布下了一系列的疑兵计：在桐柏、江汉军区部队佯攻的同时，电令刚刚配属第二野战军的第四野战军第十二兵团直出信阳，威逼平汉路南段，加大白崇禧集团的压力；令行经麻城、罗田的右路军第四兵团故意暴露行军企图，制造将出团风波江，抄袭武汉的假象。白崇禧果然慑于鄂东空虚、九江受威胁，急将安庆守军第四十六军主力经宿松撤往黄梅、九江，增强该地防务。仅留下第一七四师附一个团退缩安庆及其周围要点固守。
这时，第十一军就势进逼安庆及其东西沿江一线，控制渡口，征集船只，并作攻击安庆的准备。第三兵团率第十、十二两军即迅速跟进至桐城以南地区。
第十五军也进展顺利，连克英山、罗田、太湖、望江诸城，先头第四十五师以迅速勇猛的动作，一举攻占华阳镇及其附近的敌桥头阵地，全歼敌第六十八军留守部队。于是，第二野战军完全占领了长江北岸的预定地域，开始转入直接渡江的准备工作。
点击收藏 小提示：按键盘CTRL+D也能收藏哦！