1949年4月参与指挥渡江战役，实施京沪杭会战，并亲自指挥第二野战军主力分三路直出浙赣铁路，解放了皖南、浙西、赣东北、闽北广大地区。南京解放后任中共南京市委书记兼市长、南京市军事管制委员会主任。11月与邓小平率部进军西南，12月任西南军政委员会主席、中共中央西南局第二书记。他出色地执行了毛泽东提出的远距离迂回包围的作战方针，拊敌侧背，断敌逃路，各个歼敌，同时通过军事打击和政治争取，促成大批国民党上层军政人员率部起义和投诚，在近半年的时间内共歼敌约90万人，解放四川、云南、贵州三省和西康省大部，彻底粉碎了蒋介石割据西南、伺机反攻的企图。与此同时，他还领导了剿匪作战和进军西藏的准备工作，为巩固西南边疆作出了开拓性的贡献。
1950年11月建议并受命在南京组建中国人民解放军军事学院，任院长兼政治委员。为了办好这所人民解放军第一个诸军兵种合成的高等学府，他呕心沥血，鞠躬尽瘁，亲自培训师资、撰写审定和翻译教材，常常是“三更灯火五更鸡”，宵衣旰食，手不释卷。他通过在军事学院陆续创立海军、空军、炮兵、装甲兵、防化兵、情报等系，繁衍发展了我军诸军兵种齐全的指挥院校体系，培养了大批德才兼备的中高级军官。他在教育训练军事人才方面所作出的贡献，对国防和军队建设有着深远的影响。
1954年起先后任中央人民政府人民革命军事委员会副主席、国
防委员会副主席、军委训练总监部部长。
1955年9月获一级八一勋章、一级独立自由勋章、一级解放勋章。
1957年9月调任高等军事学院院长兼政治委员。
1959年任xx战略小组组长。
1962年参与指挥中印边境自卫反击战。
1966年起任中共xx副主席。直至耄耋之年，他一如既往地关心国防事业和军队建设，适时为xx、总部出谋划策。他提出的许多极富远见卓识的战略性建议，在加强国防建设和保卫边疆的作战中发挥了重要作用。
1982年后，由于年龄和健康原因辞去党政军领导职务。1986年10月7日在北京逝世。