1943年3月，八路軍第115師（師長兼政委：羅榮桓）與八路軍第一縱隊（司令員：徐向前，政委：朱瑞）合并成立了八路軍山東軍區(qū)。
山東軍區(qū)司令員兼政委：羅榮桓，副政委：黎玉，下轄五個軍區(qū)：魯中軍區(qū)、魯南軍區(qū)、濱海軍區(qū)、膠東軍區(qū)、渤海軍區(qū)
1945年抗戰(zhàn)勝利之后，山東軍區(qū)對所屬部隊進(jìn)行整編，將原來的5個軍區(qū)，22個軍分區(qū)，3個教導(dǎo)團，18個獨立團，24個基干團，4個獨立旅，2個支隊，1個海軍支隊，113個縣大隊，800多個區(qū)中隊，編成了8個野戰(zhàn)師，12個警備旅，1個海軍支隊，總兵力達(dá)到將近30萬。
濱海軍區(qū)
司令員：陳士榘（上將），政委：唐亮（上將）下轄：山東軍區(qū)第一師，山東軍區(qū)第二師，警備第十旅，警備第十一旅
魯中軍區(qū)
司令員：王建安（上將）、政委：羅舜初（中將）、下轄：山東軍區(qū)第三師，山東軍區(qū)第四師，山東警備第一旅、警備第二旅、警備第三旅、警備第四旅
膠東軍區(qū)
司令員：許世友（上將），政委：林浩（少將），下轄：山東軍區(qū)第五師、山東軍區(qū)第六師、警備第四旅、警備第五旅、膠東軍區(qū)海軍支隊
渤海軍區(qū)
司令員：楊國夫（中將），政委：景曉村（未授銜），下轄：山東軍區(qū)第七師，山東警備第六旅、警備第七旅、
魯南軍區(qū)
司令員：張光中（未授銜），政委：王麓水（1945年滕縣作戰(zhàn)中犧牲），下轄：山東軍區(qū)第八師，山東警備第八旅、警備第九旅
山東軍區(qū)第一師：師長：梁興初（中將），政委：梁必業(yè)（中將），參謀長：李梓斌（少將），政治部主任：劉西元（中將）
山東軍區(qū)第二師：師長：羅華生（少將），政治委員：劉興元（未授銜），參謀長：賀東生（少將），政治部主任：王樹君（未授銜）
山東軍區(qū)第三師：師長：王建安（上將兼任），政委：周赤萍（中將），副師長：胡奇才（中將），參謀長：李福澤（少將），政治部主任：王文軒（少將）
山東軍區(qū)第四師：師長：廖容標(biāo)（中將），政委：王一平（未授銜），參謀長：周長勝（少將），政治部主任：歐陽平（少將）
山東軍區(qū)第五師：師長：吳克華（中將），政委：彭嘉慶（中將），參謀長：肖鏡海，政治部主任：劉浩天（中將）
山東軍區(qū)第六師：師長：聶鳳智（中將），政委：李丙令（少將），參謀長：蔡正國（1953年4月抗美援朝鮮中犧牲），政治部主任：李冠元（大校）
山東軍區(qū)第七師： 師長：楊國夫（中將），政治委員：周貫五（中將），參謀長：閻捷三（少將），政治部主任：徐斌洲（中將）
山東軍區(qū)第八師： 師長：王麓水（1945年滕縣作戰(zhàn)中犧牲），政委：王麓水（兼任），參謀長：何以祥（少將），政治部主任：丁秋生（中將）
警備旅第一旅：旅長：陳奇（少將），，政委：林乎加（未授銜）
警備旅第二旅：旅長：吳瑞林（中將），政委：孔繁彬（大校）
警備旅第三旅：旅長：錢鈞（中將），政委：熊飛（少將）
警備旅第四旅（魯中軍區(qū)）：旅長：孫繼先（中將），政委：李耀文（少將）
警備旅第四旅（膠東軍區(qū)）：旅長：劉涌（少將），政委：仲曦東（未授銜）
警備旅第五旅：旅長：劉賢權(quán)（少將），政委：陳德（少將）
警備旅第六旅：旅長：趙寄舟（未授銜），政委：李曼村（少將）
警備旅第七旅：旅長：賀?。ㄉ賹ⅲ?，政委：楊士法（未授銜）
警備旅第八旅：旅長：胡大榮（少將），政委：李青（未授銜）
警備旅第九旅：旅長：趙杰（少將），政委：田海山（未授銜）
警備旅第十旅：旅長：張仁初（中將），政委：劉偉（未授銜）
警備旅第十一旅：旅長：莫正民（未授銜），政委：覃士冕（少將）
解放戰(zhàn)爭時期山東軍區(qū)司令羅榮桓率領(lǐng)山東軍區(qū)主力6個師（共計6萬余人）分海陸兩路開進(jìn)東北與新四軍第3師（3.5萬人）合編為東北野戰(zhàn)軍，參與遼沈戰(zhàn)役、平津戰(zhàn)役等，從東北一直打到海南島，所向披靡，戰(zhàn)無不勝。
山東軍區(qū)進(jìn)入東北的主力部隊包括：山東軍區(qū)第1師，山東軍區(qū)第2師.山東軍區(qū)第3師，山東軍區(qū)第5師，山東軍區(qū)第6師，山東軍區(qū)第7師，警備第2旅，警備第3旅，警備第4旅，警備第6旅，
山東軍區(qū)第1師與山東軍區(qū)第2師，警備第6旅編成東北野戰(zhàn)軍第一縱隊（第38軍），縱隊司令員：李天佑（上將）
山東軍區(qū)第3師與警備第3旅編成東北野戰(zhàn)軍第三縱隊（第40軍），縱隊司令員：程世才（中將），政委：羅舜初（中將）
山東軍區(qū)第5師與山東軍區(qū)第6師編成東北野戰(zhàn)軍第四縱隊（第41軍），縱隊司令員：吳克華（中將），政委：彭嘉慶（中將）
山東軍區(qū)第7師與新四軍第3師第7旅，編成東北野戰(zhàn)軍第六縱隊（第43軍），縱隊司令員：洪學(xué)智（上將），政委：賴傳珠（上將）
警備第二旅后擴編為遼南軍區(qū)獨立師，編入東北野戰(zhàn)軍第五縱隊（42軍），縱隊司令員：萬毅（中將），縱隊副司令員：吳瑞林（中將）
注：東北野戰(zhàn)軍第二縱隊是由新四軍第3師編成，新四軍第3師下轄第7旅、第8旅、第10旅和獨立旅，第8旅、第10旅和獨立旅改編為第4師、第5師、第6師。第7旅改編為第16師編入第6縱隊。
