高欢派封隆之留守邺城，亲自率军屯兵紫陌。其时，高欢战马不满两千，兵不过三万，而尔朱兆有二十万之众。众寡不敌情势之下，高欢用牛驴连系在一起堵塞自家军队的退路，在韩陵一带摆成圆阵，兵无退路，都有必死之心。高欢自领中军前突，大将高敖曹将左军，高欢堂弟高岳率领右军。高欢中军迎战不利，被逼后退，尔朱兆军直扑而来。高岳率五百骑兵突前迎敌兵，高欢另外一个部将斛律敦收拾败退四散的兵士重整旗鼓从尔朱兆后面又扑上去，大将高敖曹自率一千多骑兵横击而入阵中，尔朱兆军大败。尔朱家族四散奔逃。本来就首鼠两端的大都督斛斯椿等人抢先一步回到洛阳，尽杀留守的尔朱氏党羽。又立宗室元修为皇帝，即北孝武帝元修。同年五月，元修鸩杀节闵帝元恭，事后立即迎娶高欢长女为皇后。北魏永熙二年（533年），尔朱兆在秀容兵败，被逼自缢。尔朱兆大将慕容绍宗携尔朱兆妻子及余众归降，高欢以其忠义，待其甚厚。他不仅大仁大义，也深知“各为其主”的道德，并未因从前慕容绍宗向尔朱兆进言要杀自己而记前嫌。
宰制朝廷
原属节闵帝臣下、又奔抢回洛阳杀光尔朱氏党羽的斛斯椿见到高欢势力强大，心中不满，他与南阳王元宝炬，武卫将军元毗和王思政一同劝说孝武帝除掉高欢。斛斯椿重新安排宫内都督人选，增加侍卫人数，选出数百骁勇武士担任孝武帝元修的近卫军。元修又多次以出猎为名，与斛斯椿排兵步阵，互相密谋。又派人与在外拥兵的贺拨岳、贺拔胜兄弟暗中联络，准备内外响应。北魏司空高乾本是高欢的死党，孝武帝元修想收买高乾以为己用，借一次在华林园宴饮的机会忽然要与高乾拜盟结为兄弟。由于事出忽然，高乾来不及多想，表示自己“以身许国，不敢有二心。”而后见到孝武帝增加武卫，又屡屡交结外臣贺拨岳等人，知道事变即将发生，暗中劝高欢准备。高欢把高乾召至并州面议，高乾就劝高欢自立为帝。高欢当时觉得时机还不成熟，装出非常害怕的样子拒绝了高乾的提议。高乾进退两难，猜不透高欢心思，在都城朝廷里夹在两派之间很难受，于是密启高欢要求外派，被任命为徐州刺史。孝武帝元修获悉高乾要外任为官，害怕他泄漏自己密图高欢的事，就先发制人，诏告高欢说高乾与自己立过盟誓，反复两端。高欢得知高乾与孝武帝盟约一事也很生气，为了试探就把高乾劝自己称帝的事通知给元修，元修把高乾召至殿上质问。事已至此，高乾也无计可施，于是赐死。孝武帝元修又派人诛杀高乾之弟高敖曹。高敖曹劫夺诛杀自己的敕令，带领十几个人奔晋阳投奔高欢。高欢与他抱头痛哭，高乾另一个弟弟高慎（排行第二）也投奔高欢。
北魏永熙三年（534年），孝武帝元修准备率军攻伐驻扎在晋阳的高欢，下诏戒严，声称要讨伐南朝梁。又和斛斯椿征发河南诸州兵马，在洛阳近郊进行阅兵。为了麻痹高欢，他密诏给高欢说要带兵攻打关西的宇文泰和贺拔胜。高欢马上回复，说自己属下五路兵马共二十二万已出发，助援皇帝征讨，并清除朝中奸佞。孝武帝元修此时不得不和高欢摊牌，他令中书舍人温子升以自己名义给高欢写了一封书信。把皇帝一番忧惧无奈、不甘示弱、晓以大义、表面贬损自己实际威胁对方的心迹披露无疑。高欢丝毫不为所动，只是上表极言斛斯椿等人的罪恶，兵进不止。孝武帝亲信中军将军王思政劝皇帝避高欢兵锋，前往关中依附宇文泰。于是孝武帝元修以宇文泰为关西大行台、尚书左仆射，赐以公主为妻。又下诏宣示高欢的罪恶。高欢以高敖曹为先锋，攻打宇文泰。宇文泰也发檄各地声言高欢罪恶，从高平出发到弘农屯军。贺拔胜屯军汝水，两人都观望待变。同年七月，孝武帝元修亲率十万军队屯于河桥，以斛斯椿为前驱列阵于邙山之北。在关中附近的宇文泰听到风声，对左右讲：“高欢数日内急行军八、九百里，疲军迎敌，是兵家大忌，正好乘其疲惫奇袭。当今皇上以万乘之尊御驾亲征，不主动出击渡河决战，反而沿河据守，很是失策。而且长河万里，只要一个地方被突破，必败无疑。”
两军未交锋，孝武帝元修一方已有贾智、田怙等人暗中约降，高欢很快就率军渡河。孝武帝元修慌忙召集众臣商议对策，众口纷纷，不能定夺。朝臣元斌之与斛斯椿争权，从军中跑至孝武帝元修处，欺骗元修说高欢军队已经逼近。孝武帝元修又惊又急，一面派人召斛斯椿还军，一面带着几个宗王率五千兵马准备出逃。高敖曹为兄高乾报仇心切，率劲骑追孝武帝元修一直到关中。孝武帝元修一路饥渴困顿，缺粮少食，最后在长安东阳驿遇见帅兵迎驾的宇文泰。高欢自晋阳发兵以来，给元修上了四十多封奏表，都没有答复。他还亲自率兵追赶孝武帝元修，可惜最终没有实现此愿。最后高欢回洛阳后立清河王世子元善见为帝，是为孝静帝，时年十一。 当时清河王元檀自己已经准备好当皇帝，高欢怕他日后不好控制，就选择了这么个少年推上帝位，以免重蹈覆辙。从此，北魏分裂为东魏和西魏。
高欢换掉皇帝后，又觉洛阳西近西魏，南近梁国，就决定迁都邺城。命令下达后，三日即行，四十万户民众狼狈就道。又任命司马子如为尚书左仆射，高隆之为右仆射，高岳为侍中，孙腾留守邺城，共执朝政。
征战关西
东魏天平三年（536年），高欢率大军造三座浮桥，在蒲坂准备抢渡黄河。第一次东西魏小关之战拉开序幕。宇文泰对诸将说：“高欢三面围住我军，搭建浮桥表示他要过河进击，实际上是想吸引我军注意力，使窦泰从西进军两面夹攻我们。窦泰是高欢一员骁将，屡战屡胜，将士必起骄心，我们发奇兵先击窦泰，高欢则不胜而胜。”诸位将领都不以为然，认为高欢近在眼前，不战不防反而掉头击窦泰，万一出了差错会全军覆没。宇文泰的族侄宇文深与他意见相同，认为如果在蒲坂迎击高欢军，窦泰肯定乘机从反面扑来，双方夹击下一定会失败。他建议选精锐兵骑直出小关（潼关之左），窦泰性急必来赴战，而高欢行事谨慎，
肯定观望，战胜窦泰后再回击高欢，敌军可破。果然，西魏军突至小关，窦泰猝不及防，引兵赴阵，宇文泰将其诱至牧泽中杀出，大破窦泰，东魏兵死伤殆尽，窦泰自杀。当时由于黄河冰薄，东魏人马辎重无法过去，只能撤毁浮桥回军。西魏军从后追击，高欢殿后的大将薛孤延一战之中砍坏十五把钢刀，战事异常惨烈，最终才保得高欢一行人逃脱。双方第一次交手，以高欢间接失败告终。
高欢另一路人马高敖曹进军顺利，从商山出发所向无前，在他率兵猛功上洛时，被流矢射中，遍体鳞伤，其中三处是贯穿伤，死而复苏，马上跳起来骑马免胄巡城，大大鼓舞了士气，攻陷上洛城。城克之后，他躺在帐篷中疗伤，感觉自己要死掉，叹息道：“遗憾的是不见弟弟高季式当刺史。”高欢闻言，马上任命高季式为并州刺史。高敖曹是高乾三弟，名昂，以其字敖曹知名于当世。小关之战后，高敖曹全军而还，被授为军司大都督，统七十六都督。当时高欢属下以鲜卑将领为主，都轻蔑汉人，惟独惧怕高敖曹。高欢在号令大将时，常常用鲜卑语发号施令，但只要有高敖曹在侧，他一定改用华语讲话。
沙苑鏖战
东魏天平四年（537年），高欢自己带兵二十万自壶口出发赶往蒲津。沙苑之战开始。宇文泰由于关中旱灾大饥，带着不到一万的军马在恒农谷仓休整了五十多天，好容易才让饿得几乎皮包骨的军士歇缓过来。听说高欢渡河来战，赶忙入关备战。高敖曹带三万兵马就把弘农团团围住。高欢的参谋劝说道：“西魏贼兵连年饥荒，所以冒险到陕州来抢仓粟粮食，现在高敖曹已经围住恒农粮仓，粮食运不出去。我们最好分兵诸道，不与敌兵接战，等到麦秋时分，敌方军民饿死大半，宇文泰不死也得投降。所以我们最好别渡黄河。”大将侯景也劝告：“我军几十万士兵一举前来，万一不胜，一时难以集结兵马。不如把大军一分为二，相继而进。前军若胜，后军全力攻上；前军若败，后军可以接应，到时作为后备队出击迎敌。”高欢因报仇心切，加之轻敌，对这两条意见都没有听进去，自蒲津渡过黄河前进。 …