1902年11月26日  生于湖南省衡山县寒水乡南湾村（今属衡东县荣桓镇南湾村）。1902年生。从1919年起先后在长沙协均中学和青岛大学读书，曾参加反对军阀和帝国主义的爱国活动。1926年秋在青岛大学预科毕业后赴广州，旋回家乡组织农民协会，进行反对土豪劣绅的斗争。

1927年4月到武昌中山大学读书，加入中国共产主义青年团，随即转入中国共产党。同年7月被派往鄂南通城从事农民运动，参与组织通城、崇阳农民武装，任党代表。这支武装在江西修水编入武昌国民革命军第二方面军总指挥部警卫团，他任特务连党代表，参加湘赣边秋收起义。经三湾改编到井冈山，历任第4军(初称工农革命军)的连、营党代表。1929年底参加中共红四军第九次代表大会（古田会议），被选为红四军前敌委员会委员，会后任红四军第2纵队政治委员。1930年8月任红四军政治委员，1932年3月起任红1军团政治部主任，江西军区政治部主任，总政治部巡视员、动员部部长。曾兼任扩大红军突击队总队长。1934年1月被选为中华苏维埃共和国中央候补执行委员，获红星奖章。同年9月任第8军团政治部主任。长征中8军团撤销，他先后任总政治部巡视员，红1军团政治部副主任。1936年6月入中国人民抗日红军大学学习，并兼任培训高级干部的第1科政治委员。1937年1月任军委后方政治部主任，7月任第1军团政治部主任。    

抗日战争爆发后，任八路军第115师政治部主任。1937年8月底，率115师主力从陕西三原出发，东渡黄河，开赴山西前线。9月下旬起率师政治部和一部分部队，在晋察冀边界地区的阜平、曲阳一带发动群众，组织抗日武装，建立抗日民主政权，为日后建立晋察冀抗日根据地创造了条件。1938年初到山西吕梁山地区，领导创建抗日根据地，与代师长陈光先后指挥午城、井沟和薛公岭等战斗，保卫了黄河河防。同年秋参加在延安举行的扩大的中共六届六中全会，会后任115师政治委员，1939年3月初与陈光率115师师部和686团等部进入山东，首战樊坝，全歼伪军1个团，打开了鲁西地西的抗日局面。8月，与陈光指挥梁山战斗，歼灭日军300余人。同年11月，与郭洪涛等赶赴（微山）湖西地区，迅速制止和妥善处理了滥捕错杀的“肃托”事件，解救了大批受害干部和群众。

115师进入山东后，与陈光指挥所属各部队，和山东人民抗日起义武装组成的八路军山东纵队并肩与日伪军作战，执行中共中央关于在统一战线中坚持独立自主的原则，团结抗日的友军和爱国进步人士，孤立和打击制造摩擦的国民党顽固派。分别在鲁西、鲁南、冀鲁边、鲁中、滨海地区发动群众，建立抗日民主政权，发展人民武装，巩固和扩大了山东抗日根据地。    

1941年8月任山东军政委员会书记。同年冬，日伪军5万余人“扫荡”鲁中抗日根据地，中共中央山东分局和115师师部等领导机关被日伪军合围于沂水留田一带。他准确地分析敌情，掌握时机，出敌不意地率部向日军占领区临沂方向转移，跳出敌人重围。后又返回根据地中心地区，领导军民坚持斗争，挫败日军在山东进行的规模最大的一次“扫荡”。

在抗日战争最艰难的1941-1942年，他在频繁的反“扫荡”斗争中，领导进行精兵简政工作，加强部队党的建设和政治工作，主持召开115师连队政治工作会议，全面论述了政治工作的任务、原则和方法，强调保证战斗与工作任务的完成，是政治工作的基本任务；实事求是、一切从实际出发，是政治工作的基本原则；民主的方法、群众路线的方法、说服教育的方法。是政治工作的基本方法。1944年7月1日发表题为《学习毛泽东同志的思想》的报告，提出要“以毛泽东思想为遵循的方向”，要“宣传毛泽东同志的建军思想”，同时强调要以实事求是的科学态度学习和运用毛泽东思想。在干部工作上，坚持任人唯贤，公道正派。1944年9月，在山东军区工作会议上提出，不能只在熟人的小圈子中，以合乎个人口味来衡量使用干部。他善于团结和使用各方面的干部，受到广大干部的称赞。

1943年3月任山东军区司令员兼政治委员和115师政治委员、代师长，后任中共中央山东分局书记，统一领导山东抗日民主根据地的党政军工作。在日伪军对山东抗日根据地进行频繁残酷“扫荡”、“蚕食”的情况下，他领导实行部队主力地方化，开展分散性、地方性、群众性的游击战争，加强对敌政治攻势，同时主张坚持边缘游击区，使之成为外围的扩张线和活动的跳板；他总结反“扫荡”的经验，针对日军对根据地实行的“铁壁合围”战法，提出采用“敌人打到我这边来，我就打到敌人那边去”的“翻边战术”，即当敌人“扫荡”时，把主力部队部署在根据地边缘地区，不在根据地内与敌周旋，趁敌人的包围圈尚未紧缩时，选择空隙打到敌人的后方去。1942年11月初，日伪军调集1万余人合围在鲁中的山东军区等军政机关时，他运用“翻边战术”，指挥115师主力部队，出敌不意地向陇海路挺进，6天内连克靠近陇海路的海陵地区16处日伪据点，歼敌千余人，取得反“扫荡”胜利。山东各根据地普遍采用“翻边战术”后，迅速扭转了被动局面。

随着军事斗争形势的好转，他领导部队从反“扫荡”为重点的防御作战，逐步转向攻势作战。从1944年起，向日伪军发动了一系列战役攻势，相继攻克日伪军坚固设防的沂水、利津等县城。连续争取了多批伪军起义，打通了山东各根据地之间的联系。1945年指挥部队进行大反攻，控制山东境内的津浦、胶济、陇海铁路，包围山东所有的战略要点，收复了山东的大部县城和广大农村，山东的八路军发展到27万余人。1945年6月，他被选为中共第七届中央委员。

抗日战争胜利后，他率山东主力部队6万余人进军东北，任东北民主联军副政治委员、东北军区第一副政治委员、东北野战军政治委员。1949年1月任第四野战军第一政治委员。他作为中共平津前线总前委委员和人民解放军平津前线政治委员，参与指挥平津战役，主持和平解放北平的谈判工作。1949年6月以后被任命为中共中央华中局(后为中南局)第二书记，华中军区(后为中南军区)第一政治委员。    

中华人民共和国成立后，任最高人民检察署检察长。1950年4月任人民解放军总政治部主任，同年9月兼任总干部管理部部长，1954年6月任中央人民政府人民革命军事委员会副主席，1955年11月任中国人民解放军监察委员会书记。1952年领导筹建人民解放军政治学院，后兼任院长。他是中共第八届中央政治局委员，第一、第二届全国人大常委会副委员长，国防委员会副主席。1955年被授予中华人民共和国元帅军衔和一级八一勋章、一级独立自由勋章、一级解放勋章。1963年12月16日病逝于北京。