1948年底，刘伯承与陈毅抵达中共中央所在地河北省平山县西柏坡。这时正逢吴玉章七十寿辰，12月30日，他们联名写信致贺：“吴老：我们北来中央开会，值你年满70。党内外同志热烈庆贺。我们代表南线各同志共申贺忱。
你50年来，以革命为职业，中国革命无役不从。每当革命运动受挫折之际，你临难不退缩，坚持奋斗的精神，更值得学习而示人以典范。”短短的况词，表达了他们对这位老革命家的敬仰和友谊。
1949年1月6日至8日，中共中央召开了政治局会议。毛泽东在会上作了《目前形势和党在1949年的任务》的报告，提出1949年的主要任务是：解放湘、鄂、赣、苏、皖、浙、闽、陕、甘等省的全部或大部；召开政治协商会议，成立中华人民共和国；进一步加强各野战军的正规化建设。
l月7日，刘伯承在会上发言。针对渡江作战和夺取全国胜利，他着重讲了四个问题：（一）前年我们跃进式的进军是品字形的中央突破，这次渡江是一字长蛇阵齐头并进。在最后胜利时，稳健地集中使用兵力，真正讲起来是最快的。（二）开辟新区的组织问题。在未出动前最好即有一套地方党政及军区的配备，这是马上得天下，马上治天下。实行军政府、军事管制。
（三）正规化。现在是转变关头，如何正规化，如何着手，看来只有首先从司令部着手，只有加强司令部才能组织战争。（四）野战军与后方问题。毛主席说过“补充在前线”，现在又提出“加强后勤工作”，这是不矛盾的。
补给主要并尽可能取给于前线，但完全解决人力、物力、财力问题，还必须靠后勤。这次170万人南下江南作战，没有后勤，没有财政是不行的。
这四项意见，表明了他对渡江战役及夺取全国胜利的总体设想。这四项意见，涉及到了下一步向全国进军最为重要的作战指导思想、新区政权建设、军队正规化建设和野战军大规模的后勤供应等问题。其中“马上得天下，马上治天下”，是说的用军队和根据地的干部控制、管理新解放区的应急措施，是针对及时、有效地控制和开展新区工作而言的。根据大别山的经验，再加上可以预计的城中工作的大规模开展，因此，他主张未雨绸缪，预先准备好新区政权的干部班子，以便到时迅速组织起政府机构或军事管制机构，开展工作，然后再逐步过渡、完善到由各种政治力量组成的人民政权。
刘伯承在石家庄稍事休养后重返前线。2月11日，他回到河南商丘附近的张菜园中原野战军司令部，立即投入了紧张的渡江准备工作。
首先，他以主要精力主持部队的整编工作。2月间，根据中共中央军委的命令，中原野战军改编为中国人民解放军第二野战军，刘伯承任司令员，邓小平任政治委员，张际春任副政治委员兼政治部主任，李达任参谋长。以刘伯承、邓小平、张际春、李达、陈赓5人组成前委，邓小平为书记。部队以原有的第一、二、三、四、六、九、十一等7个纵队为基础，加以地方兵团升级，补充新兵、俘虏等，扩编为第三、四、五兵团。第三兵团由陈锡联任司令员，谢富治任政治委员，王近山、杜义德任副司令员，闫红彦任政治部主任，王蕴瑞任副参谋长，钟汉华任政治部副主任。下辖第十、十一、十二等3个军。第四兵团由陈赓任司令员兼政治委员，郭天民任副司令员，刘志坚任副政治委员兼政治部主任，胡荣责任政治部副主任。下辖第十三、十四、十五等3个军。第五兵团由杨勇任司令员，苏振华任政治委员，张霖芝任副政治委员，甘渭汉任政治部主任，潘焱任副参谋长，石新安任政治部副主任。下辖第十六、十七、十八等3个军。此外，还组建了特种兵纵队，由李达兼任司令员和政治委员。整个野战军实力达到28万余人，装备大大得到加强。
通过整编，人民解放军达到了空前的规模，武器装备大大得到加强，它面临的建设任务也更为繁重。刘伯承在3月份向毛泽东所作的工作报告中，围绕着部队整编工作，系统地表达了军队建设的意见，提出了组织调整、兵员补充和后勤建设等三个问题，并敏锐地把这些问题提高到正规化建设的高度。关于组织调整，他提出：要把部队按照新的编制和三三制的原则改编为兵团、军、师的建制，这里不仅是名称上的改变，而且是组织上的变动或扩大整编，这就必然牵动其他组织的调整。他强调指出：统率机关的司令部、政治部和后勤部，尤其是特种兵的组织，在正规化建设急需之中??应成为我们必须抓紧的一件大事。
关于兵员补充，他详细分析了补俘、补新兵、地方部队升级与归建等不同形式。认为中原野战军兵员补充的来源是复杂的，按地区有冀鲁豫、豫西、豫皖苏、鄂豫、皖西等5个地区。俘虏也是各地各兵种来的，而且有许多老弱及警察、机关杂员、差役等非战斗兵。按时间说则是参差不齐的，整个整训期间都在陆续零星的补充中。政治觉悟极不齐，原来在中原野战军正规化建设中曾提出反对游击主义，现在又添加了这样一些因素，就必须在一个时期内加强政治教育，提高组织性、纪律性，巩固部队等指导责任。同时在正规化的口号之下。对那些指导不深入干部队实际活动中的官僚主义还是要反对的。
关于后勤建设，他继续发挥在中共中央政治局会议上的发言精神，认为时至大兵团作战的今日，必须建立起军械、军需补给与输送勤务等一整套的机构及制度，方能适应部队大纵深行动的需要。鉴于淮海战役前后数十万大军云集于狭小地域，道路不畅通，部队物资拥挤和一切需要同时要当地人民供应，造成人民负担过重的教训，他指出：“正规军军械军需的补给，??火车、汽车及其道路的整理，汽油站的设备，军械修理场的建立，应有计划地进行。但我们最主要的应照顾所处的环境条件，照顾政策，实事求是，尽量就各地已有物资与输送工具善于组织起来，供给军队急需，不可能者才仰给于后方，这应成为今后后勤工作的方针”。
经过辽沈、淮海、平津二大战役，国民党军的主力已基本丧失，残存的100多万作战部队，退守到长江以南及边远省份。为了阻止人民解放军南进，争取时间编组新的军队，以便等待条件成熟，进行新的反扑，国民党在美帝国主义的策划下，又一次玩弄起反革命的两手策略：一方面，蒋介石宣布“下野”，由李宗仁以代总统的名义出面，和中国共产党进行“和谈”；另一方面，搜罗残兵败将，加紧布置江防，企图以残存的军队凭借长江天堑阻遏人民解放军前进，梦想重复“南北朝”分江而治的历史。在上海至宜昌的长江防线上，国民党军兵力不敷使用，只得布置了两个重点防御集团：一个是京沪杭警备总司令部总司令汤恩伯集团的26个军共75个师，约45万人，主力置于京沪杭地带，以54个师担任湖口至上海段的沿江守备及控制江北各桥头堡，其余21个师配备在浙赣线、苏南、浙江、皖南纵深地区；另一个是华中军政长官白崇禧集团的14个军40个师，约25万人，其中27个师担任宜昌到湖口段江防和武汉地区守备，以13个师配置在长沙、南昌等纵深地区。此外，还调集其海、空军主力，投入长江防线：以镇江为基地的”第二舰队”辖舰艇89艘，归汤恩伯指挥，担任长江下游防务；以九江为基地的“江防舰队”辖舰艇44艘，受白崇禧指挥，担任长江中游防务。这就是当时国民党军拚命鼓吹的所谓“陆海空立体防线”。实际上由于战线长、兵力少，它已无法设置有效的长江防线，而只能采取这种东重西轻、顾此失彼、外强中干、点线脱节的处置。
对于这种虚张声势的防御态势，刘伯承一针见血地指出：“长江布防，有所谓‘直接配备’，即将其主力直接配备于长江南岸。有所谓‘前进配备’，即将其主力前出于长江以北广大地区作战。有所谓‘后退配备’，即以一部配合长江两岸要点强化侦察，而以主力分别配备于南岸纵深的机动地点。在判明我军主攻方向时，即抓住我渡江的困难适时出击。蒋介石长江防御的‘前进配备’，大而言之，即其在黄河、长江之间的防御，小而言之，即其经常叫嚣的‘守江必固淮’。这些都是因淮海战役基干兵力的丧失而无法实施。
其‘后退配备’，也因兵力少，江防宽，与南岸交通困难而不能做。如此，他就不能不着重于‘直接配备’，但还是因兵力少而不容易做了，汉口以下长达2000余里的江防线及其必要的纵深配备太费兵力了，在长江向北岸鼓出的突出部如汉口、浦口等地点，也各只有两个基于军的机动兵力，遂使这样漫长的江防线成为一条不能动弹的‘死蛇阵’，任人横斩。如其一处被斩断，则全线震撼。江防舰队在北岸没有掩护，航线极受限制的条件之下，到处易遭短兵炮兵的袭击，也不易起撞沉木船的作用。特别是蒋介石发动卖国独裁的反人民内战到了现在阶段，土气越发不振，守备越发困难了。”
尽管渡江战役的胜利己完全在预计之中，而且不会遇到敌人顽强的抵抗，但刘伯承一如往昔，认真地领导部队进行一系列的准备，采取一切可能采取的措施，以最大限度地减少障碍，降低兵员伤亡和物资损耗，求得任务的圆满完成。这不仅体现了他一贯的缜密仔细的作风；而且反映出向党向人民极端负责的精神。
3月初，根据中共中央军委和总前委的部署，刘伯承指挥第二野战军3个兵团分由阜阳、沈丘、漂河地区，向湖口至贵池间的长江北岸挺进。以第三兵团为左路军，从阜阳直趋安庆；第四兵团为右路军，从沈丘移向望江；第五兵团为中路军，从漯河开赴桐城，尾第三兵团之后集结待机。并令第十一、十五两军为先遣军，先期到达预定地域，为主力开辟渡江前进阵地。为牵制迷惑华中白崇禧，又令桐柏、江汉军区部队向安陆、应城、天门之线宽大机动作战，威胁武汉侧背，吸引白崇禧部分兵力西顾。
当第十一、十五军冒雨疾进，跋山涉水，穿过了大别山区，将达江边时，刘伯承于3月24日下达了《关于渡江战术注意事项的指示》，对实施渡江作战规定了十项重要的战术原则。其中要求先遣部队“首先要把敌人在江北的掩护阵地扫除，直达江边，才能进一步作切实的准备”。“在扫除敌江北桥头堡、支撑点时，特别对防碍我主要渡江点之敌，力求截断其退路，割裂其部署，予以速歼，不使其退守江南，增加以后的抵抗力”。为了保证先遣部队动作的突然性，他还布下了一系列的疑兵计：在桐柏、江汉军区部队佯攻的同时，电令刚刚配属第二野战军的第四野战军第十二兵团直出信阳，威逼平汉路南段，加大白崇禧集团的压力；令行经麻城、罗田的右路军第四兵团故意暴露行军企图，制造将出团风波江，抄袭武汉的假象。白崇禧果然慑于鄂东空虚、九江受威胁，急将安庆守军第四十六军主力经宿松撤往黄梅、九江，增强该地防务。仅留下第一七四师附一个团退缩安庆及其周围要点固守。
这时，第十一军就势进逼安庆及其东西沿江一线，控制渡口，征集船只，并作攻击安庆的准备。第三兵团率第十、十二两军即迅速跟进至桐城以南地区。
第十五军也进展顺利，连克英山、罗田、太湖、望江诸城，先头第四十五师以迅速勇猛的动作，一举攻占华阳镇及其附近的敌桥头阵地，全歼敌第六十八军留守部队。于是，第二野战军完全占领了长江北岸的预定地域，开始转入直接渡江的准备工作。
为了集中力量进行渡江作战，刘伯承适时改变了攻取安庆的部署。安庆这个突出于长江北岸的历史名城，是著名的军事重镇，它曾经有过多次阻碍或牵制北方军队南渡长江的记录。刘伯承审时度势，认为当前人民解放军百万雄师陈兵千里江岸，国民党军防不胜防，个别孤立据点已起不到障碍作用了。但是安庆擅城坚濠深之利，攻击起来必然增加伤亡。因此，他命令第三兵团不加攻击，只作监视、封锁。
在这前后，刘伯承的精力转入以战役、战术的组织领导为中心的准备工作。部队开进时，他发现部分指挥员只注意行军进度和歼敌数字，忽略了及早着手进行各项实际的渡江准备。立即发出指示：“关于侦察，渡江器材，渡江部署战术、技术诸问题，力求精确周密准备，尤应在行军中至渡江前着重对部队切实训练渡江战术、技术，万勿骄惰疏忽，误此大事。”在另外的一个电令中，他再三强调，“这是目前的重点工作，不可放松。”当两个先遣军兼程前进，第三、五兵团跟进到淮河一线时，他要求各部队就河川湖沼地形开展渡江军事训练。虽然这种训练的时间是短暂的，加上受地形条件和器材的限制，不可能收到很大的效果，但使广大指战员从思想上、行动上产生了一种紧迫感。通过训练，为全军江岸大练兵打下了基矗第二野战军在长江北岸的待机出发地域，湖泊沼泽连绵，是理想的水战练兵场所。4月初，各兵团主力相继抵达渡江出发地。刘伯承及时发出指令，要求“各部队战斗准备工作必须善于搜集船只；善于组织部队作战斗渡江的演习；善于侦察南岸敌人的防御配备进行周密的研究，力求在宽正面同时渡江的情况下，针对敌人的弱点作出重点突击的部署；善于组织集中的炮火以支援渡江的步兵，使其不遭到敌人船队、炮兵和坦克的阻碍。”各部队遵照刘伯承的指示，立即展开了全面的准备工作和热火朝天的练兵活动。
水战，舟楫是基本的条件。尤其在长江这样宽阔的水面上进行大兵团作战，没有足够的船只和相应的器材，那简直是不可想象的。国民党军鉴于湖口至贵池一带，长江向南岸凸出的地形特点，着意在这里实行严密的军事控制，平毁村寨，驱逐居民，尤其将船只劫掠一空，企图增加人民解放军渡江的困难。第二野战军先遣部队横扫江北守敌，攻取江岸敌军桥头堡后，即依照刘伯承关于“抓紧船筏及其他渡江器材的搜集”的指示，全力投入筹集船只的工作。他们面对村寨残破、人烟萧条的困难状况，发扬人民军队人民子弟兵的优良传统，访贫问苦，救灾济困，宣传大军渡江对夺取全国胜利的巨大作用，很快取得了人民群众的信任。沿江居民在短短的几天内，就贡献出一批预先藏匿的船只，并提供了许多找船的线索。野战军主力全部到达后，根据先遣部队的经验，刘伯承指示各部队普遍与中共地方组织、政权机关组成船只管理委员会，专门负责筹集船只的工作。经过半个月的努力，共搜集、打捞、修补船只1478艘，动员船工2000余名，加紧训练其成为渡江驾船的水手。结合水上训练，战士们制作出以稻草救生圈为主的救生器材，用15斤稻草，即可保证一人全负荷飘福舟楫之难，终于得到基本解决。
随着舟楫的解决，部队在内湖、夹江日夜展开了紧张的水上练兵。由于部队中北方籍战士居多，不谙水性，对滚滚长江，更有一种恐惧心理。虽经反复政治动员，思想认识、战斗意志有所提高，但克服天堑的信心仍然不足。
刘伯承了解到这些情况后，指示部队：组织水上训练要由浅入深、循序渐进。
开头着重消除大家的畏水心理，尔后再进入战术、技术综合演练。各部队通过“谈水”、“看水”、“试水”等方法，请南方籍战士和当地居民讲解长江水性，组织北方籍战士座谈和轮流观察长江水流和敌岸情况，组织练习游泳、用船和试制救生圈等活动，使战士们逐渐摸熟了长江的特性，久扰于心头的畏水情绪逐渐消失。在此基础上，刘伯承要求部队加快训练进度和加大训练强度。各部队从上下船、船只操纵、救生器材试验和各类兵器的水上射击等一般性课目，转入到航渡队形、指挥联络、步炮胁同及登陆突破等战术动作。水手的训练也在加紧进行中。要把数千名船工训练成勇敢、熟练的渡江水手，确实是一项艰巨的组织、教育工作。通过形势教育，使船工们认清了个人翻身与革命前途的关系。通过诉苦运动，启发了船工们的阶级觉悟，激发了他们在解放全中国的历史任务中贡献力量的光荣感。到4月中旬，各部队进一步举行了综合演习，在江沿湖沼找出相似地形，作出想定，反复演练。一时间，江汉湖面船行如梭，人涌如潮，呈现出一片繁忙的水上练兵场景，显示出人民解放军旺盛的斗志和必胜的信念。
在诸多的准备工作中，部队组织指挥又是刘伯承最为关心的。3月份以来，他发出一系列渡江战术指示。当年开始战略进攻突破敌黄河防线时制订的《关于敌前渡河的指导》，及在开展军事民主基础上汇编而成的《渡江作战之研究》，都作为教材印发全野战军干部学习参考。尤其是他精心撰写的《关于渡江战术注意事项的指示》，全面地科学地规定了渡江作战的战术原则，从扫除敌人江北桥头堡到建立渡江前进阵地，从思想的、物质的准备到战术、技术的演练，从突破江防到纵深追击，都一一提出了明确的要求和措施。当这个指示传到第二野战军全体干部手中时，人人感到解决了组织指挥上的各种难题，战术思想得到了进一步的提高。后来，当时的一些指挥员，只要一提起第二野战军横渡长江之战，总会情不自禁地回忆起刘伯承所写的这十项战术原则，异口同声地称赞它“周到具体、简练管用”。
渡江准备工作中的战役、战术侦察，刘伯承也付出了大量的心血。从派出先遣军扫除敌人在江北的掩护阵地起，他就强调了侦察的重要性。以后他又直接部署了野战军的战略侦察和战役侦察，指示司令部通过各种手段，包括派人偷渡，尽力搜集长江南岸的敌情，实地研究长江地形、水情，绘制出渡江作战地图。对于长江的水位、流速、暗礁、浅滩、江洲、航线，天候的晦晴、风向；两岸的地势、土质；以及船只的航速、性能、载人量；人马上下船的时间，拖拉船只所需的时间、人力等，他都要求进行细密的观察、记载，实地试验，精确计算，并依据其结果制订出适当的计划和具体的动作。
对各部队的战术侦察，他指示必须“派出于部观察，携带望远镜、察明江幅、江洲，尤其是南岸地形、工事、敌人配置，对于所发现目标在何地如何动作，都应登记下来，作为判断、决心的基矗”他认为“这种观察的侦察与战斗的侦察结合起来作用更大”。对于渡江的步、炮、工兵等组织协同动作，他也指示“应由相关干部在实地侦察中实施之。”根据刘伯承的指示，各级指挥机关组织了观察所，昼夜不停地进行观察，结合实地侦察，掌握到许多重要的敌情和长江水文地质情况，为实施渡江作战准备了可靠的资料。
3月31日，总前委书记邓小平根据中共中央、毛泽东关于“和谈以揭露敌人，备战以实施渡江”的指示，结合国民党军江防情况和第二、三野战军的兵力配置，制订了《京沪杭战役实施纲要》。决定以第二野战军组成西作战集团，以第三野战军组成中、东两个作战集团，在靖江至望江段实施渡江作战，共同协力，求歼沿江防御之敌，夺取南京、上海、杭州，占领苏南，皖南及浙江全省，前出浙赣路，彻底摧毁国民党反动统治的政治、经济中心。
另以第四野战军第十二兵团位武汉正面，在中原军区部队配合下，钳制白崇禧集团，策应第二、三野战军作战。战役计划分为渡江展开、割袭包围敌人前出浙赣路、分歼被围之敌三个阶段。邓小平强调指出，战役的关键在于东、中两集团迅速对进，打乱敌之作战体系，完成钳形合围，达成割裂包围敌人之目的。西集团着重密切协同第三野战军行动，适时以主力东进，担任攻占芜湖、夺取南京和杭州的任务，并以主力一部速出衢县地区，确实控制浙赣路一段及屯溪南北公路，断敌退路。
刘伯承遵照中共中央军委、总前委的指示，于4月8日下达了《第二野战军渡江作战基本命令》。他在分析判断了敌情多种变化的可能性后，指出：“敌人主要是扼守长江。只要我军渡江成功，无论敌人如何处置，战局的发展都将发生于我有利的变化，并有可能演变成敌人全部混乱的局面。故战斗渡江乃为京、沪、杭战役重大关键。我野战军当前江防之敌（刘汝明）较弱，又为蒋桂两系的结合部，而我军态势则处于蒋匪的侧背，成为有利的渡江突击方向。”为了便于战役进行得更为顺利，他决心以3个兵团并列在贵池至马垱间宽约200里的正面，以安庆东西地段为重点实施突破。具体部署为：第三兵团从安庆以东至棕阳段渡江，挺进歙县（徽州），截断徽杭公路，尔后沿公路东向杭州；第五兵团在安庆以两至望江段渡江，尔后速沿浮梁、婺源直出衢县，控制浙赣线，断敌退路；第四兵团于望江至马垱间渡江，尔后沿江东进，接替第三野战军第九兵团监视芜湖敌人的任务，并准备夺取南京。
各部队在成渡后，即派有力部队向两翼扩张，主动接应友邻登陆，协同作战。
第四野战军先遣兵团主力位于武汉以东，并指挥桐柏、江汉、鄂豫军区部队积极活动，牵制白崇禧集团，策应第二、三野战军渡江。
第二野战军渡江对岸的国民党军，是第八兵团刘汝明所部3个军7个师，约4万余人。其第六十八军3个师位于湖口到吉阳镇一线，第九十六军两个师位于吉阳镇至乌沙闸一线，第五十五军1个师位于乌沙闸至贵池一线。绵亘200余里的防线上，区区4万之众，面对兵精弹足的第二野战军，刘汝明白知难以抗拒，心中焦虑万分。刘伯承曾通过多种途径规劝刘汝明放弃无谓的抵抗。投到人民方面来。刘汝明执迷不悟，竟然加以拒绝。
4月20日，国民党南京政府撕下“和谈”假面具，拒绝在国共双方代表团拟就的《国内和平协定》上签字。毛泽东主席、朱德总司令随即发出“向全国进军的命令”，号召人民解放军“奋勇前进，坚决、彻底、干净、全部地歼灭中国境内一切敢于抵抗的国民党军队，解放全中国，保卫中国领土主权的独立和完整。”号令既出，第二、三野战军百万雄师，发起了声势浩大的渡江作战。第三野战军中突击集团于4月20日夜，首先在贵池至芜湖间突破，将敌长江防线拦腰斩断。第二野战军各兵团继于21日黄昏，同时在西起马垱，东至枞阳镇，约200里的宽正面上，有重点地对敌发起攻击。
第二野战军的渡江是在强大的炮火掩护下进行的。战前，刘伯承强调指出：“现代战斗的权威就是火力，而炮兵的火力就是要掩护步兵突击的成功。
我们在突破纵深阵地的战斗中，必须在每一阶段完成每一任务时尽量造成火力的优势。各种炮兵有组织而有互相联系的射击与飞雷发扬高密度的一齐发射作用极大。”据此，野战军司令部适时强化和调整了炮兵编成，除留少量炮兵对付敌人的舰队、飞机外，主要炮火都集中在第一线支援渡江，特别是集中在安庆上下流由第三、五兵团组成的主要突击地段上，正面不到30里就放列各种火炮300余门。4月21日16时，炮兵群开始试射，由于事先侦察周密和测算精确，急雨般的炮弹纷纷直接命中目标。17时30分，炮兵转入摧毁性射击，在安庆上下流的主要突击地段上，数百门大炮纷纷吐出火舌，发出震天动地的轰响。炮弹铺天盖地倾泻到对岸敌人阵地上，朵朵烟云倏忽间汇聚成浓黑的烟幕，不断地升腾和扩展着。经过整整1个小时的猛烈轰击，南岸敌人堡垒大部遭到摧毁，敌军的炮火显得极为微弱，18时30分，主渡突击基地响起了雄壮嘹亮的《人民解放军进行曲》的乐曲声。滔滔江面，霎时千船齐发，争入激流。指战员们与水手密切合作，橹翻桨飞，直冲对岸。
惊恐万状的国民党军慌乱地进行抵抗，打出一些零乱的炮弹，在江面上掀起点点水花。数架飞机赶飞上空侦察投弹，几艘炮艇前来袭扰。但在人民解放军防空、阻截、压制各类炮火的坚决还击下，飞机、炮艇连忙逃窜，对岸炮火渐渐归于沉寂。船过中流，国民党军残存的火炮和机枪再次恢复了射击，企图作最后的挣扎。突击船队立即集中各式武器予以还击，直接掩护冲锋。
勇士们发扬船自为战，舍生忘死的大无畏精神，冒着弹雨破浪前进，有的船只被击中击翻，他们边抢修边划行，有的甚至干脆跃入水中，进行泅渡。各部先头船，仅以15至30分钟的时间，即横渡长江，分头强行登陆，很快抢占了滩头阵地。由于准备充分，组织严密，第三、五兵团第一航次成功的6个步兵团，伤亡不到10人。第四兵团第十三、十五两军的突击队在彭泽上下流遭到第六十八军较为顽强的抵抗，伤亡稍大。
渡江那天，刘伯承渡过了一个不眠之夜。在作战室里，他不停地命令参谋们了解部队进展情况，计算航次、航速和过渡兵力。当第一航次报告成功时，他立即要求部队按预定方案行动。下令“一达南岸，首先是以足够兵力横扫敌人，扩大突破地段，接应友邻登陆，贯穿敌人纵深，截敌退路而兜击之。”成渡部队根据刘伯承的命令，一面分兵横扫沿江之敌，一面以主力向敌纵深挺进。后续部队则源源过江登岸，加入了对敌人的连续突击。至21日20时，已渡过了16个团，控制了宽200余里、纵深10至20里的登陆常至23日，野战军主力全部渡过长江。
第二野战军和第三野战军在千里江面全线突破，使敌人防不胜防。汤恩伯眼看江防军一触即溃，有在沿江被分割围歼的危险，就于22日下午下令总退却。芜湖以西部队向浙赣路撤退，芜湖以东部队分别向上海、杭州两个方向撤退。从22日晚起，第二野战军当面之敌刘汝明所辖3个军，纷纷从殷家汇、东流和彭泽向浮梁、祁门、石埭溃逃。安庆守敌第一七四师弃城渡江南逃，随即被追歼于吴田铺地区。第二野战军部队乘胜进占青阳、高垣、至德一线和马垱要塞，迅速肃清了据守江沿的残敌。与此同时，第三野战军连克江阴、无锡、常州、芜湖等城镇，23日，解放了国民党盘踞了22年之久的南京。至此，国民党军苦心经营3个半月的长江防线完全崩溃。第二、三野战军百万大军顺利地完成了渡江战役第一阶段的任务。
一连串的捷报传到第二野战军恫城指挥部，刘伯承望着作战地图上不断向南延伸的红色筋头和小红旗，不禁露出会心的微笑。国民党军长江防线一触即溃，这完全在他的意料之中。但溃逃如此之快，似乎超出了预想。他判断：战局虽已急转直下，但敌人仍有继续组织顽抗的可能。国民党军成建制地向南狂奔，看来是想利用钱塘江、沪杭路和浙赣路，以皖浙边山区作为依托，构成新的防线。目前京沪铁路、京杭公路已被第三野战军切断，浙赣铁路和徽杭公路就成了敌人退却的唯一通道。想到这里，刘伯承的目光移开地图，回身叫作战参谋起草给总前委的电报。他边沉思边说：“根据敌人在江防被突破演变为溃乱的趋势，黄山、鄱阳间的交通、粮食状况和我军渡江后的态势，可决定不以主力与第三野战军成交叉运动去南京地区，而以全力直出贵溪、上饶、徽州以指向浙赣路进贤至义乌之线，这样，既可以割断蒋桂两敌之联系，放松桂敌而以全力迂回蒋敌之侧背。”在总前委主持工作的陈毅、邓小平，立即复电同意他的意见。于是，取消第四兵团接管南京的任务，改沿第五兵团右侧出上饶东西地区，协同第三、五兵团歼灭浙赣线上的敌人，并视情况向东发展，扩大预定的京沪杭战役的范围。第三、五兵团仍向原定目标徽州、衢州追击，协同第三野战军钳击京沪杭地区之敌。他一再督促各兵团“排除困难，不怕疲劳，兼程前进，勿使敌逃脱”。
渡江战役的顺利发展和江南国民党军的狼狈逃窜，使指战员们十分鼓舞，但也影响到战术思想的正确运用。刘伯承在部署渡江作战的准备工作时，就预见到后一阶段的大纵深追击战是一个新课题，曾明确规定部队在过江后的作战指导上，“主力应放胆向指定地点透入挺进，贯穿敌人纵深，截敌退路而兜击之。不可为途中残敌（或掩护队）所抑留。这些残敌，只能由后梯队派出一部兵力肃清或封锁之。”他还就火力部署和侦察指挥等问题作了具体指示：“应有随伴炮兵与大量发扬飞雷与爆炸的威力”，“应向主要方向派出先遣支队，察明敌人纵深部署与我军前进道路之状况，最好以工兵带器材附与该支队，扫除地雷与修复道路。”在追击初期，恰恰在这些方面发生了问题。有的部队追上逃跑的国民党军后，为敌少数掩护队所迷惑，拘泥于查情况、调火器以及摆开架子再打等老一套战法，结果贻误了战机，使其主力逃掉。有的部队不敢进行大胆、机动的作战，不敢及时分遣，不敢长驱直入，不敢独立作战，因此错过了一些战机。还有的不注意侦察，不派出先遣部队开路，轻率冒进，反为敌所乘。刘伯承汇集了这些情况后，向各级指挥员重申了猛打、猛冲、猛追的方针，并强调指出：“敌人已成崩溃之势，在布成新防线之前，不可能进行有效的抵抗。追击越深入，敌人越惊惶，胜利也越有保障。这是我军作战不同于以往任何时期的最根本的特点。为此，各部队应不顾一切疲劳，不为地形及天候所限制，勇往直前，大胆迂回包围，务求抓住其主力而歼灭之。”在战术上，他又具体提出了不应轻敌，加强机动，实行平行追击、跟踪追击和超越追击相结合，求得分遣与合围能运用自如，加强情报、通信工作和充分利用缴获的运输工具等一系列的要求，使各级指挥员较快明了追击不力的原因，及时调整了部署和改变了战术，大大加快了进军速度，扩大了追击战果。
暮春时节的江南大地，霪雨霏霏，芳草萋萋，山峦耸翠，九派透碧。战士们顾不得欣赏沿途的绮丽风光，昼夜兼程，飞速挺进。不管气候阴晖多变，不管道路崎岖泥泞，滚滚铁流直向敌人纵深卷去。所过之处，但见遍地狼藉，十室九空，国民党军奸淫掳掠的暴行更加激起了指战员们的无比仇恨。左路第三兵团的第一个攻击目标徽州，是徽芜（湖）、徽杭（州）、徽金（华）等多条公路的汇合点，为进出皖浙边山区的重要门户。人民解放军渡江前，国民党军以侯镜如兵团第一0六军在这一带设防，企图控制皖浙边山区，掩护主力在浙赣线展开。第三兵团先头第十二军第三十五师师长李德生率部取山间捷径，一鼓作气插到徽州城下，接着迂回包围该城，迫使守敌仓皇弃城南逃，被歼6000余人。第三兵团第十一军随后进占屯溪。这就打乱了敌人在徽屯地区组织抵抗的部署。右路第四兵团，过江后一直对敌第六十八军紧追不舍，不使其有喘息的机会，终于在乐平西南石镇街歼灭该军一部。中路第五兵团也以疾风卷残云之势，迅速前出至婺源地区。至5月1日，野战军主力控制了屯溪、婺源、乐平一线，横扫敌第一0六军、四十六军、九十六军等部，完全粉碎了刘汝明、侯镜如控制皖浙边山区、掩护其主力在浙赣线展开组织抵抗的企图。
第三野战军东、中两个集团，于4月27日将逃窜的国民党军5个多军包围在郎溪、广德地区，全部予以歼灭。其余敌人，则麇集沪、杭及其周围地区，妄图负隅顽抗。
5月2日，刘伯承和由总前委回到第二野战军的邓小平，根据毛泽东主席关于“二野应歼灭皖南、赣东、浙西之敌，开辟地方工作”的指示，给各兵团下达了新的任务：第三兵团向浙赣线义乌至龙游段，第五兵团向衢县至上饶段，第四兵团向横峰至东乡段进击，追歼溃散之敌并开辟地方工作。同时各兵团留置部分兵力于屯溪、浮梁、乐平等地清剿残敌，协助中共地方组织开辟新区工作。
各部队按规定路线和区域，冒雨向浙赣线挺进。第四兵团主力首先到达贵溪、横峰地区。第三、五兵团也紧接着攻占金华、衢县，第三兵团一部并东进至诸暨，与第三野战军由杭州西来的部队胜利会师。国民党军己呈解体状态，除拼命向浙赣线以南山区逃审外，残敌纷纷向解放军投降。第二野战军控制了义乌至东乡长达800里的浙赣线，完全割断了汤恩伯、白崇禧两大集团的联系，胜利地完成了渡江作战第二阶段的任务。
5月3日，第三野战军一部解放杭州，主力准备发起上海战役。第二野战军为扩大战果，并密切配合第三野战军作战，刘伯承、邓小平于5月7日发出新的命令：“各部队抵达浙赣线之休止地区后，应分别以轻装师或轻装团附电台续向南猛追，寻歼逃窜之敌（近日某些部队日行百里左右，穷追逃敌之精神，应予发扬）。三兵团追击方向为永康、武义、宣平、遂昌、松阳地区，五兵团为龙泉、浦城、崇安地区，四兵团为铅山、资溪，临川地区。
如四兵团能速以有力部队挺进到建阳截断敌人逃到福州之公路，则更在及时总结前一阶段作战经验的基础上，各部队战术更加机动灵活，采取了适时分遣合击、大胆迂回穿插的战术，并充分利用缴获的汽车等交通工具，大大加快了追击速度。各兵团一路所向披靡，连下丽水、青田、古田、南平等浙南、闽北重要城镇，前锋直达闽江、赣江，为第三野战军进军福建，第四野战军进军江西创造了有利条件。至此，第二野战军在渡江战役中共歼敌10万，解放了安庆、歙县、金华、上饶等86座城市和皖南、浙西、闽北、赣东北的广大地区。
渡江战役的伟大胜利，不仅使国民党反动派丧魂落魄，而且使美帝国主义气急败坏。美帝国主义眼看着他们的在华利益即将丢失，对中国人民的胜利充满了仇恨。他们仍然企图玩弄帝国主义的强权政治，在中国东南沿海增调海军兵力，对人民解放军进行挑衅和恫吓。中共中央、毛泽东为了有效地对付美帝国主义可能的军事干涉，令第二野战军主力停止南进，在浙赣线集结待机，随时准备协同第三野战军粉碎美帝国主义的侵犯。根据新的形势和任务，5月14日，刘伯承、邓小平下达了《关于休整与备战的指示》，指出：渡江进军之作战，至现刻已告结束，为准备将来之机动或任务，特根据地形与经济条件和部分的作战任务，规定新的工作。新的工作包括调整休整地区和确定休整内容。休整地区，指定三兵团主力以金华、江山为中心，五兵团主力以上饶、弋阳为中心，四兵团主力以鹰潭、东乡为中心。基本地域在浙赣线两侧。休整内容，除大力展开城乡工作，收剿散兵游勇，安定社会秩序外，主要进行战后组织整顿，调配武器装备，总结作战经验和展开以山地、河川、稻田地战斗为中心的军事训练，认真进行政策纪律教育。
5月14日，第四野战军先遣兵团一部由蕲春、黄冈间渡江，迫使白崇禧集团放弃长江中游，向南撤退。当即解放武汉。5月16日，刘伯承令第二野战军第四兵团迅以主力出丰城、高安之线，配合第四野战军先遣兵团作战，并准备接管南昌。5月22日，第四兵团进驻南昌。第三野战军部队于5月27日解放上海。至此，渡江作战宣告胜利结束。
随着人民解放军向全国进军的雄壮步伐，中国共产党的工作重心，开始由乡村移到城市。中共中央、毛泽东正确地把握着形势的这种新特点，指示全党全军“必须用极大的努力去学会管理城市和建设城市。必须学会在城市向帝国主义者、国民党、资产阶级作政治斗争、经济斗争和文化斗争，并向帝国主义者作外交斗争。既要学会同他们作公开的斗争，又要学会同他们作隐蔽的斗争”。并明确地规定了“军队不但是一个战斗队，而且主要地是一个工作队”。
中共七届二中全会期间，中共中央鉴于渡江战役胜利在即，国民党首都指日可下，便预先确定由刘伯承担任南京市首任市长兼市委书记。南京刚刚宣告解放，又任命他为南京市军管会主任。刘伯承在指挥第二野战军渡过长江、部署好挺进浙赣路的行动后，即率领第二野战军领导机关由桐城向南京进发。
4月29日，刘伯承一行风尘仆仆地抵达浦口码头。在苍茫的暮霭中，扬子江畔一片沉寂。道旁的店铺，几乎家家大门紧闭。偶或也见有门扉半掩的，但少人出入，显得十分萧条。被敌人丢弃的破车烂炮触目皆是。稍远处，黛色的群山渐渐失去光亮，间或传出凄厉的枪声和转瞬即逝的信号弹光。这一切，表明蒋军残余尚未肃清，南京城并没有安宁；也预示着治理这座被蒋介石盘踞多年的城市，将经历一番艰巨的斗争。
过江的轮渡徐徐驶向南岸。人们兴奋地伫立船头，放眼灯火交烁的南京市区，期待着即将踏上“钟阜龙蟠，石城虎踞”的形胜之地。他们知道，自从蒋家王朝定都于兹以来，南京就成了旧中国反动政治的代名词。雨花台下，埋葬着多少烈士的忠骨；中华门内，铭刻着日寇大屠杀的奇耻大恨。22年间，南京人民一直在苦难中呻吟。而今，人民军队旌麾南指，蒋家王朝顷刻瓦解，南京终于获得了新生。对刘伯承来说，他面临的最迫切的问题是，怎样把官僚的消费都市改造为人民的生产城市，他感到这个任务并不比指挥淮海战役轻松。
由于临行仓促，事先未及与南京警备部队联系，过江后，只好包租了一辆公共汽车乘坐。等到刘伯承上了车子，警卫员突然拍着额头大叫：“唉呀不好，还没有叫人号房，这么大一个南京城，车子该往那里开呢？”刘伯承一听，呵呵大笑，说：“到了家门口，反倒找不着家了。”略一沉思，就果断地说：“叫司机直开‘总统府’，到了那里就好办了。”果然，一到伪总统府，很快就与南京警备部队联系上了。陈毅闻讯，亲自坐车赶来，把刘伯承安排到赤壁路一座原国民党要员的公馆里。两位老战友相见，谈起革命形势的飞速发展，兴奋得欢笑不止。第二天，刘伯承就投入了紧张的工作。
5月1日，在南京“人民大会堂”里，中共中央华东局召开了解放区与地下党干部的会师大会。华东局和第二、三野战军的领导人邓小平、刘伯承、陈毅等出席了大会。会场里洋溢着热烈、欢乐的气氛，口号声、歌唱声此起彼落。邓小平、陈毅分别代表华东局和第三野战军发表了讲话，勉励第二、三野战军的干部和南京地下党的同志团结一致，同心同德，为建设一个崭新的人民的南京而共同奋斗。刘伯承代表第二野战军即席讲话，他说：“国民党22年的反动统治被推翻了，中国人民渴望的日子到来了！然而，正象毛主席教导我们的：‘这只是万里长征走完了第一步。’我们要把革命进行到底，要下苦功夫，花大力气，建设人民的新南京，建设一个全新的中国。”三位领导人的讲话赢得了经久不息的掌声。与会的许多人，尤其是地下党员们，这是平生第一次目睹他们的丰采。原来心目中的叱咤风云的形象，加上眼前这种和蔼可亲的音容笑貌，使他们更加感到可敬可爱。会场里不断爆发出欢声笑语，高潮迭起。
当时，人们还缺乏管理城市的知识和经验，工作人员大多是刚放下枪杆的军人，对经济建设一窍不通。各项工作处于草创阶段，许多事情都需要刘伯承亲自决断、处理。那些天，各种会议接连举行，各种人物川流不息地来仿或要求接见。刘伯承都一一出席或安排接见。还有众多的群众集会和座谈会，仅从5月13日至18日的6天之内，工人、学生、文化、工商各界座谈会就开了近10次。各界人士忠于对新市长的尊敬和爱戴，所有会议一律要求他出席，甚至提出到会见见面也好。身边的工作人员见他劳累不堪，一再劝他少参加一点会议。他回答说：“从目前来讲，会议就是一种实施领导的形式，我作为南京市的主要负责人，怎么能轻易放弃自己的职责呢？群众要求见我，并不是我刘伯承有什么特别之处，而只是表达了人民对共产党和解放军的感情和希望。”他把出席工作会议和群众大会，当作宣传、解释党的方针政策的极好时机，总是一丝不苟地起草和准备发言稿。有时在办公室忙到曙色临窗，接着就开始第二天的工作。每天傍晚，他拖着疲惫的身子回到住处，大声招呼警卫员：“装茶。”警卫员知道，这是他多年来用茶解乏的老习惯，只要喝下一大缸苦涩的浓茶，他又会显得精神抖擞，继续伏案工作。
5月9日，坐落在市中心的南京市人民政府的大院里张灯结彩，喜气洋洋。一块印着“南京市人民政府”字样的闪闪发光的大牌子，被人们抬进办公室。明天，它就要悬挂到市政府大楼的门墙上，庄严宣告一个新政权的诞生。工作人员来向刘伯承汇报庆贺典礼的准备情况，他边点头表示同意，边微笑着诙谐地说：“我这个市长走马上任，理当有一篇就职演说吧。”当天，他专门召集市政府局长以上干部开会，发表了一席精彩的讲话。他首先指出：“南京在4月23日解放了，从这一天起，国民党的反动统治中心南京就成为人民的南京了，南京的人民大众在共产党领导之下，从这一天起由被统治者变成统治者了。国民党集中表现的帝国主义、封建主义、官僚资本主义的统治，在南京永远被消灭了，从此南京将永远成为人民的南京了。因此，23日这一天是一个划时代的日子。”接着，他对当前革命性质和有关政策作了深入的分析：“今天中国的革命是无产阶级领导的，人民大众的，反帝、反封建、反官僚资本的新民主主义革命”。“我们说无产阶级领导的，就是说无产阶级是司令员，是领导力量，没有无产阶级这个司令员来领导，革命就不会胜利。但是如果不依靠工农为基础，团结人民大众、人民民主专政就不能巩固。所以，如何组织工人、农民、革命知识分子，如何争取尽可能多的自由资产阶级与我们合作，是巩固人民民主专政重要的一环。我们所以要争取自由资产阶级与我们合作，不仅是使反革命孤立的问题，而且在于团结一致努力于恢复生产和发展生产，使中国由农业国稳步走向工业国，因此争取自由资产阶级及其代表与我们合作，要在思想上确定下来，工作上确定下来。
谁要是忽视了百分之九十以上的人的问题，谁就会在工作上犯错误。记住我们的任务是反帝、反封建、反官僚资本，那就要严格地分清谁是敌人，谁是朋友，要明确认识自由资产阶级不是敌人而是朋友，即使有时也要进行必要的斗争，也是为了团结他们，决不是打倒他们。??我们在分清营垒及对有关政策问题处理之时，必须调查研究，谨慎小心。”
在谈到当前尖锐复杂的斗争时，他的语调变得严肃起来：“现在我们是胜利了，敌人是失败了，但敌人失败不等于完全停止抵抗，相反地，是企图从各方面继续抵抗。现在敌人一般是由集中的公开的转为分散和隐蔽的斗争形式，来反对中国人民争取中国成为独立自主、富强繁荣的国家。尤其是南京解放不久，潜伏的敌特会用各种办法来反对人民的统治，如造谣破坏、挑拨离间，尤其是要利用各种合法名目一面掩护活动，一面破坏我们和民主人士的合作。所以在实行军事管制中必须加以警惕。不仅要注意公开的拿枪的敌人，而且要注意隐蔽的不拿枪的敌人，以确保人民民主秩序迅速建立。”
作为市军管会和中政府的主要领导，他着重讲述了人民政府的任务和职责，提出：“我们今后要做什么？首先要进行生产建设并作为中心工作。自然，我们军管会首先要把南京顺利地接下来才能好好地管，而管就要把官僚庞大消费的南京逐渐变为人民生产的南京，这就是如何实行毛主席指示我们的经济纲领中的发展生产、繁荣经济、公私兼顾、劳资两利。这里首先就要解决国民党在南京造成的失业问题，而发展生产与恢复生产必须依靠工人，要依靠工人阶级的觉悟性和组织性，从唯物史观去看事物。了解公私工厂生产情况，即原料制造、销路情况，如何恢复与发展生产，如何对国民生计有利，对工人有利，对资方有利。工厂恢复了，资方有利可图，工人生活有保障。工厂生产发展了，资方利润大了，工人就以劳资两利的方针适当地改善生活。同时农村也要恢复与发展生产。必须使城市供给乡村以必需的工业品，而乡村则供给城市以粮食和原料，且逐渐使之向工业方向发展。其次，要进行教育文化建设，培养大批知识分子科学人才，为人民大众服务，首先使之参加生产恢复与发展的工作以及政治、军事、文化各种建设工作极为重要。”
为了实现上述任务，刘伯承认为关键在于政府工作人员的政策和策略观念。他继续说：“用政策联系群众、依靠群众，向他们解释南京解放的意义，解释党的政策，经过群众路线，使其一道来执行党的各种政策，建设新的、生产的、人民的南京。应分头召开各界座谈会宣传与解释党的政策，耐心征询意见，特别欢迎他们对我们的各种批评，知道他们的问题的症结所在，并给以合理的解决，使人民大众从自己生活体验中认识今日的天下真是人民大众的，而来拥护我们，使政权巩固起来，而不要使他们把共产党看成恭敬的神象，犹之乎农民对玉皇大帝那样。如果玉皇大帝三年不下雨，农民也会把它搬出庙来晒太阳。假使共产党做事未为人民有利，就不会得到人民的拥护。
我们说依靠工人、联系群众，但工人是否一定让你依靠，群众就一定让你联系，这就必须加以主观的努力，贯彻我党正确的政策，把工作做好，造福于群众才行。”他这是把人民军队为人民服务的宗旨引伸到人民政权的建设上，并且深刻指出人民政府的生命力在于获得人民的拥护，否则会有被人民抛弃的危险。
为了进一步说明群众路线是人民政权的根本路线，他又指出：“联系群众、团结群众、依靠群众，就要解决群众必须解决的问题。古人说：‘为政不在多言，顾力行如何耳’，其意也在于此。我们要以毛主席的作风在群众工作中调查研究，实事求是，不要犯官僚主义的错误，把群众路线当作口头禅。须知脱离群众是非常危险的事，我们的敌人经常在窥伺我们，一发现我们脱离群众就要来攻击我们，企图打倒我们。??同志们对此须再三警惕。”
他还联系太平天国的历史教训说：“农反革命的首领洪秀全，他到了南京脱离了群众，自己腐化起来，就失败了。”
对于军队和政府工作人员中滋长起来的严重脱离群众、贪图享乐、甚至腐化堕落的现象，他毫不容情地批评说：”我们的干部一到南京，骄傲蜕化的现象已经在发生中。??不要忘了我们的母亲是谁，敌人就隐蔽于我们的卧榻之侧，窥伺我们，挑拨我们，使我们脱离群众，以便打倒我们。我们一定要警惕起来，与这些恶劣倾向作斗争，尤其要以此作为教训，丝毫不能放松，让它们发展。”
他号召大家说：“由解放区南下的同志和南京地下党的同志，首先要紧密地团结起来，互相帮助，互相学习，做到组织上、政策上、思想上的会师，共同坚持党的政策，认真地联系群众、团结群众、依靠群众。果能这样做得好，我们就能把消费的南京建设成为生产的南京。”
最后。他以简洁的口号作为结束语：“学习毛主席的作风，调查研究，实事求是，虚心学习，不骄不躁，艰苦朴素，以树立新的人民作风。”
刘伯承平稳而又宏亮的声音，一再被热烈的掌声所打断。聆听者一致称赞这是一篇出色的“就职演讲”，人民政府的性质、任务、工作方法以至应注意克服的倾向，都全面而深刻地进行了阐述。来自第二野战军的干部觉得，刘伯承的施政报告一如他打仗时发布的作战命令，敌情、我情、任务、条件、薄弱环节，交待得清清楚楚，使人完全明白以后该怎样去执行和落实。另外一部分来自地下党的干部，则为他高超的政策水平和对政情民风的了解而深深折服。他们发出由衷的赞叹：南京市长遴选得人！南京的治理与建设大有希望！
恢复生产是一项最为繁重的任务。解放前，南京是蒋宋孔陈四大家族鲸吞豪夺的指挥中枢，久已形成畸形的、消费城市的特点。它的特点是工厂少，衙门公馆多；工人少，公务人员多。少数“国营”工业，多属官办消费性质，半殖民地色彩尤为浓厚。解放后，官僚企业陷于停顿，公务人员闲散街头，私营企业开工不足。致使失业人数急剧增加，要求就业、复业与救济的比比皆是。
在刘伯承主持下，南京市军管会和市人民政府首先抓紧接管和复工工作。接管主要是对官僚资本企业进行的。军管会一开始工作，就立即组建了财政接管委员会，对国民党政府的经济部、资源委员会、农村部等12个经济机构实行了全面的接管。通过深入的调查研究，自上而下地、有系统地了解各企业的情况，掌握了主动权。同时自下而上地发动工人积极参加接管，帮助整理、清点帐本、物资，还尽力争取厂方人员给予必要的协助。刘伯承和市军管会副主任宋任穷等人，亲自参加各系统旧职员座谈会，宣传中国共产党的城市政策，讲解接管的意义，宣布解放军约法八章及接管办法，较快地解除了这部分人的顾虑，使他们较积极地协助接管工作。由于深入发动和争取了公私企业劳资两方面的人员参加，接管工作进行得很顺利，历时一个月即告结束，为复工准备了有利条件。
对于有益于国计民生的官僚资本企业，财政接管委员会根据其现有条件，使接收工作与复工同时进行。华中矿务局等单位采取接收与复工并进的办法，工人、职员情绪很高。因为接收快就是复工快，他们即将有工作可做，生活也就有了保障。
对复工的全面领导工作，市军管会组织了生产设计委员会来负责。该委员会的成员以市政府指派为主，吸收职工代表和适当数目的工业资本家、工程技术人员参加，制订出3个月恢复生产的初步计划。刘伯承特别重视发挥工人阶级的领导和骨干作用，他多次深入到工人群众中去，宣传党的新民主主义总路线，讲解工人阶级的领导地位和历史使命。他还注意虚心听取工人群众的建议和意见。在一次工人座谈会上，他诚恳地提出四个问题请大家研究如何解决：（一）怎样从被统治者变为统治领导者来管理自己的城市。（二）怎样使消费城市变成生产城市。（三）怎样使城乡矛盾变为城乡结合互助。
（四）怎样过物质生活和学习生活。这几个问题在工人群众中引起了极大的反响。工人们纷纷向他表示：我们一定要努力恢复生产，拿出主人翁的姿态，树立新的劳动观念和劳动纪律，争取生产出尽可能多的产品支援国家建设，支援解放军。
生产设计委员会成立后，立即组织硫铁矿、机械厂、兵工厂、被服厂复工，使之为战争服务。
由于公私企业的相继复工，解决了一部分人员的就业问题。但工厂企业少是南京的固有弊病，对于庞大的失业大军来说，仍然存在着僧多粥少的矛盾。在刘伯承的直接关心下，生产设计委员会主要以组织转业与开办工人学校来解决就业问题。转业是为了调剂各劳动部门之间劳动力的不平衡。开办工人学校则是贮备产业大军，以适应祖国建设事业的大发展的需要。
经过这样的综合治理，短短3个月内，主要工厂企业的生产基本得到恢复，失业问题也大体得到解决。不仅工人和市民群众皆大欢喜，而且一些民族资本家也感到满意。
紧接着是解决职工的工资问题。这个问题事关千家万户的切身利益。刘伯承坚持以维持现状为原则。对于解放前因通货膨涨造成的工薪差额，他主张在调查研究后依据实际情况作出决定，适当进行调整。这样，获得了工人、职员的普遍满意，同时也减少了职工之间的矛盾和市场物价的波动。复工、就业和工资三大问题的基本解决，标志着南京市政治理工作的初步成功。
在金融贸易问题上，经历了一场复杂的斗争。特务和奸商一面造谣惑众，一面大搞银无投机，曾一度造成市场的混乱。刘伯承加强了财政委员会和财政金融办公室的领导力量，选派得力干部去从事这项工作。财政部门在党的领导下，紧紧依靠工人阶级和人民群众，切实抓了禁止银元流通、发行人民币、掌握物价这三个环节。为了迅速处理和排除伪金元券，5月2日财政委员会公布了比价及限兑办法，不过8天时间，即基本兑换完毕。人民币的信誉确立了，物价也平稳了，敌人的破坏阴谋终究归于破产。
中共南京市委成立后，刘伯承兼任统战部长。他出色地完成了这项任务。
在恢复生产的过程中，南京的工商业界和文化科学界经历了从动摇到积极的变化。开始，由于帝国主义、国民党反动派采取经济封锁政策，使南京的工商业发生很大困难，工商业者普遍忧心忡忡。敌特散布的大量谣言，又使工商业者十分惧怕共产党进行清算斗争。在部分工程技术人员中，存在着对共产党领导经济建设能力的怀疑和对美帝国主义援助的幻想。刘伯承在同有关部门详细分析了这些现实状况后，认为应从宣传教育和解决实际问题入手，双管齐下，调动工商业者和文化科学界人士的积极性。他还亲自出面作动员教育工作，或出席座谈会慷慨陈词，或与有代表性的民族资本家和文化技术专家促膝交谈，较快、较好地解除了这部分人的思想顾虑。
在南京市市委、军管会、市政府联合召开的工商业代表座谈会上，刘伯承精辟地阐述了中国共产党“发展生产、繁荣经济、公私兼顾，劳资两利”的新民主主义经济纲要。他指出：“为了执行这个纲要，就必须照顾到四面八方。公私是一面的两方，在新民主主义的经济建设中，国家（公营）经济是领导成份，而私营经济是占了第二位。单纯地发展公营企业，而不在原料、制造与推销上，去照顾私营企业，即等于在发展经济上去了一只脚。只有既顾公而又顾私，才能干国计民生有利，将农业国引向工业国的方向发展。劳资，这又是一面的两方，既要照顾到工人无法生活之苦，而改善对工人不合理的生活待遇，又要照顾到资方的有利可图。片面偏重那一方，就不能发展生产，也就于人民无利。城乡，是另一面的两方，过去的城乡是矛盾的，是对立的，是城市剥削乡村的。今后应该是城市着重为农村服务，以合理的价格收买原料，以足够的工业品，合理的廉价供应农村。而农村则给城市以生活必需品，且将来也能向工业化发展。内外，又是一面的两方，即是在贸易问题上，既有对内的贸易，又有对外的贸易，以使物资、经济的交流得到合理的畅通。”他运用唯物辩证法，运用生动、贴切的语言，深入地分析了公私、劳资、城乡、内外等的对立与统一关系，活画出发展新民主主义经济的一幅蓝图，澄清了各方面人员的疑虑，使各种思想障碍迎刃而解。
针对工商业者害怕清算斗争的心理，他特别指出：“共产党毫不隐讳地宣布，我们是为共产主义事业而奋斗的，我们是要在最后实现共产主义的。
然而共产党人是唯物史观音，现阶段的革命，只能是属于新民主主义性质的。
应该是百分之九十以上的人民作朋友，起来作主人。我们反对的，只是百分之十以下的反动统治者。这是根据今天现实社会的物质基础的条件来规定的。所以，只有照顾了这四面八方，才能达成发展生产、繁荣经济的目的。”
刘伯承正确通俗地解释了党的政策，民族资本家的忧虑为一扫。水利化学厂厂长感慨地说：“在过去，要想在中国独立地发展民族工业，真是何其艰辛，内受封建主义、官僚资本主义的压迫，外受帝国主义的欺诈。现在已经是人民自己的世界了。我们要积极解决运输和电力困难，研究减轻成本，提高产量，为发展农业生产服务，这也是我们发展工业的唯一道路！”一家百货公司的经理也颇有感触地说：“往日国民党请我们商人的客，是要我们出钱。
今天共产党的市长请我们的客，则是商量发展工商业，并且可以贷款发展生产，这是我们从来想不到的。”
在文化科学界座谈会上，刘伯承说：“今天文化科学界欢聚一堂，大家都是主人。我们都看到旧的中同即将完全打碎，我们建设新中国的任务，是繁重而又光明的。在这个建设中，无论是自然科学或社会科学方面，都需要大量人才，希望共同工作，开展南京市的文化科学建设。”与会的文化科学界知名人士听了非常感奋，一致表示：决不垱负共产党和人民政府对文化科学专家的高度重视与殷切期望，一定要为建设新南京贡献各自的力量。当场有许多专家、教授对南京市各方面的建设提出了建议和意见。刘伯承代表市委、军管会、市政府表示热诚欢迎。原中央大学医学院一位教授，概括了与会者的心情说：“与君一席谈，胜读十年书。人不能专为生活而生活，生活就要工作。在人民政府教育下的知识分子和技术人员，必能人尽其才，为新社会服务。”
刘伯承一贯重视教育工作，特别是重视对青年一代的教育。在南京市学生代表座谈会上，他即席向学生们讲解了五个问题：（一）我们的胜利是中国百分之九十以上的人民大众反对百分之十以下的帝国主义、封建主义、官僚资本主义者的胜利。（二）目前的斗争要看清敌人由反人民的公斤斗争，变为隐蔽破坏的斗争。（三）我们要进行生产与文化科学的建设上作。（四）学习为人民服务的态度。（五）在学习中要预见困难与克服困难。他深入浅出、循循善诱的语言，博得与会者衷心的欢迎，激发了一颗颗奋发向上、报效革命的心。
6月下旬，刘伯承以中共中央华东局委员的身份，赴上海参加了华东局会议。这次会议的主要议题是反对帝国主义、国民党的封锁和发展城乡生产。
7月9日，他在南京市支部书记和军队团级以上干部会上，结合华东局会议精神，作了题为《关于反封锁与城乡生产的互助和交流问题》的长篇报告。
在这篇报告中，他详尽地总结了南京市各方面的工作，肯定了恢复生产、文化教育和处理失业、疏散人口、维护社会治安的成绩，指出了干部中存在着在调查研究、政策学习、组织观察、群众路线等方面的缺点。对怎样打破敌人的封锁，他从执行党的工商业政策、进行城乡互相交流、搞好宣传教育、实行精兵简政等方面作了系统的回答。
就在这个报告中，刘伯承提出了进军西南的任务，指出：第二野战军干部一部要继续留在南京，坚持经济战线上的斗争，另一部将到西南去进行军事战线的斗争。??不论留在南京的或要到西南的，都要服从党的决定。??我们向西南发展，去消灭敌人残余力量，建立西南国防，乃是完成全国彻底胜利的光荣任务。不要因”此间乐”，就“不思蜀”了。此后，他就离开南京市的领导岗位，去筹划进军西南的工作了。