抗战初期，山东一片混乱。韩复榘拥有三个军，五个师又一个旅的兵力。他拒绝了日本人的“华北五省自治”计划，进行了夜袭桑园车站、血战德州、坚守临邑、济阳遭遇战、徒骇河之战、济南战役、大江口阻击战等一系列战斗。

在得不到中央军支援后，韩复榘开始放水，几乎是不战而退，主动放弃了黄河泰山的天险，几日之内便弃守了原本预计可守数周的黄河防线。1938年1月24日，在武昌市，他被蒋介石下令肃清。

1938年1月23日，原青岛市长，奉系海军的沈鸿烈主政山东。

“九·一八”事变后，张学良调驻西安为西北“剿匪”副总司令。驻扎在青岛的东北海军失去了依归，供给都成了问题。在沈鸿烈焦虑不安的时候，张学良将其引荐给国民政府。蒋允许沈的东北海军全部开驻青岛，任命沈为青岛市市长，以青岛税收直接拨充海军军饷。

西安事变发生后，沈鸿烈的表现很老道，张学良、蒋介石都不得罪。他先致电南京政府，敦促他们妥善解决事变，积极营救蒋介石，接着又致电张学良：“鸿烈受张氏知遇，已届两世，感恩图报，时系吾衷，平日言行，无不出自忠诚。顷读通电，惊悉西京兵谏，骊宫幽蒋，殊失将道。在此内忧外患日急，千钧一发之时，委座一身，国家安危所系……”

他要求张学良必须保证蒋介石的安全。蒋介石回南京后，得知沈鸿烈的态度和做法甚为满意，视沈为心腹。

左沈鸿烈，右于学忠

于学忠是张学良的左膀右臂，祖籍山东蓬莱。随着东北军征战，他历任东北军第1军军长、河北省主席、甘肃省主席等要职。“西安事变”后，奉张学良手谕，他全权负责东北军。

东北军原有6个军：49军，51军，53军，57军，67军和东北骑兵军。西安事变后，东北军内部分裂，又被蒋缩编，只剩下5个军，每个军2个师。

抗战后，于学忠任第3集团军副司令，率51军，57军守卫山东海防。其他东北军被分散使用。1938年1月，韩复榘被撤职后，他接任第3集团军总司令，率部先后参加津浦路南段战役、淮河战役、台儿庄战役及武汉会战（武汉保卫战），屡立战功，给日军以沉重打击。

1939年1月14日，军事委员会任命于学忠为鲁苏战区总司令，辖51军，57军，还有苏北韩德勤的89军等部队。1939年3月中旬，于学忠率51军分三批入鲁。

沈鸿烈此时春风得意，将自己在青岛的嫡系安排到省政府，并且在各地设立专员公署和县政府。

在军事上，他没有自己的嫡系部队，通过收编韩复榘部队和民团，将吴化文部所部变为自己的部队，共整编了3个保安师、16个保安旅和9个保安团。

于学忠在前线抗战，1939年1月才担任鲁苏战区总司令。沈鸿烈年纪大8岁，他想压于学忠一头，两人一开始就发生了矛盾。两人的矛盾有几点：

1、于学忠维护东北军统一，一直想拯救张学良。沈鸿烈则已经改换门庭，转而投靠了蒋。

2、于学忠是东北军中的坚定抗日派，沈鸿烈是投机派，摇摆派。

3、于学忠与山东八路军携手抗日，沈鸿烈为了讨好蒋介石，则是积极搞对立。

两人在收编地方武装，对待伪军，部队经费上矛盾重重。

1941年夏，于学忠在给战区干训班讲课途中遭人袭击，刺客与沈鸿烈有关。1941年8月19日，蒋介石致电沈鸿烈，另其即日到重庆报到，省政府主席职务由由秘书长雷法章暂代。1942年1月9日，国民政府任命于学忠的部下51军军长牟中珩为山东省政府主席。

1942年，日军更加频繁地进攻抗日军队，抗战环境进一步恶化。日军的打击和压力下，跟随沈鸿烈的顽固派没有依靠，厉文礼、张步云、吴化文等大批国民党顽军部队相继投敌。到1943年上半年，国民党正规军于学忠部在日伪军连续打击下，处境险恶，打算撤离山东。

1942年底，蒋介石命令第二十八集团军总司令李仙洲率部由皖北赴鲁，接替于学忠的职务。于学忠不待李仙洲部到达，1943年7月间放弃了山东战略要点——沂鲁山区和诸日莒山区，与国民党山东省政府一起撤往皖北。我军山东分局和山东军区安排群众提供粮草送行，这些地方都被八路军接收。

抗战后期，孙良诚（三十九集团军总司令）于1942年4月率2.5万人在曹县、定陶投敌，新编第四师师长吴化文、新编新一师师长于怀安、鲁西保安司令部宁春霖共4万余人于1943年1月投敌。还有东北军五十七军三三四旅率部队投敌，以及沈鸿烈收编、建立起来的保安师、旅、团长，厉文礼、张步云、秦玉堂、周胜芳、赵保原等投敌或兼具国民党和伪军两个番号。国民党军队由1940年的16.6万人，减为1943年的5万人。

我军1938年挺进山东，经过徐向前、罗荣桓等领导发展，部队从最初的1，2万人发展到了几十万人。抗战后期，这里已经是我军的天下。