公元526年，仗着是孝明帝元诩的老丈人，尔朱荣做了一个大胆的举动，他领兵路过肆州时，肆州尉庆宾讨厌他的为人，因此闭城不纳。尔朱荣干脆攻下城池，将尉庆宾关押，同时任命自己的叔叔为肆州刺史。
尔朱荣这样悍然的行为，不仅没有得到来自元诩和胡太后任何一方的指责，反而不久还升为镇北将军。
这时，北方六镇造反被平定后，河北镇民杜洛周、葛荣等先后民变。为了用尔朱荣镇压民变，元诩和胡太后在尔朱荣寸功未立的情况下，封他为车骑将军、右光禄大夫，之后又仪同三司。
从尔朱荣的经历可以看出，此人非善类。有说此人是曹操，其实他哪里有曹操那样的雄才大略，只是董卓而已。
孝明帝元诩为了对抗自己的母亲胡太后而让尔朱荣勤王，他哪里知道尔朱荣的野心。
就在孝明帝发出密诏的前一月，尔朱荣手下最得力的部将高欢就向尔朱荣建议：“天子闇弱，太后淫乱，嬖櫱擅命，朝政不行，以明公雄武，乘时奋发，讨郑俨、徐纥之罪以清帝侧，霸业可举鞭而成。”
尔朱荣正发愁找不到借口进京，而今孝明帝的密诏就如想睡觉突然递过来一个枕头。尔朱荣立刻以高欢为前锋向洛阳进发，走到上党时，孝明帝突然意识到不妥，又来一份密诏让他停止进兵。
可是，孝明帝刚发出让尔朱荣停止进兵的密诏不久就死了。之后，胡太后先立孝明帝的女儿为帝，之后又改立孝文帝拓跋宏的曾孙，孝明帝元诩的堂侄，3岁的元钊为帝。
孝明帝的密诏和胡太后的儿戏式行为，让尔朱荣有了充分的进京理由，他向朝廷提出“抗表”，对朝廷的行为表示责问，主要有三方面的内容：
1、 认为皇帝被毒死；
2、 立女儿为帝，是欺骗天下；
3、 要起兵进京。
总结起来，就是尔朱荣要为天下人替天行道，进兵京城赶走胡太后的伪政权。
私下，尔朱荣却谋划着自己立皇帝，他看上了孝明帝元诩的堂兄和伴读，长乐王元子攸。
尔朱荣派侄子尔朱天光先秘密进京城见元子攸传达自己的意思。元子攸21岁，正是精力旺盛，想做一番事业的年龄，突然能做皇帝，他当然愿意。于是，公元528年3月，尔朱荣在晋阳起兵向洛阳进发。
胡太后听到尔朱荣发兵的消息，召集各王公大臣们开会，可是她的做法太不得人心，朝臣们都不愿意帮她。
此时在胡太后和尔朱荣之间，王公大臣们内心还是倾向尔朱荣。
好像关键时刻还得靠情人，胡太后的情人之一徐纥说：“尔朱荣远道而来，是孤军深入，只要我们派兵在各险要处以逸待劳，破他们很容易。”于是，胡太后就开始调兵遣将了，可是她麾下却没有可用之将，只得用黄门侍郎李神轨为大都督，让他守住黄河北岸的河桥；用武卫将军费穆守小平津。
其实尔朱荣的军队只有1万不到，而且从晋阳到洛阳，期间要通过很多险要碍口，随便守住一个关口都足以抵挡尔朱荣。可是胡太后的兵却只守在家门口，使得尔朱荣一路未遇任何抵抗就顺利抵达河内（今河南沁阳），尔朱荣在此扎下大营，派人悄悄潜入洛阳将长乐王元子攸带出。
大仗之前，还能让敌方人员轻松进城将重要人物带出，也说明洛阳没有进行战时的管制，城防如同儿戏。
胡太后成不了事。
4月，尔朱荣和元子攸在黄河北岸的河阳城附近见面，尔朱荣并不攻打河阳城，而是立刻拥立元子攸称帝。元子攸就在河阳城外封尔朱荣为侍中、都督中外诸军事、大将军、尚书令、领军将军、领左右，太原王，还封了自己的哥哥和弟弟。
河阳城上的守军见此情景，立刻开城门接纳尔朱荣进城。
胡太后任命的大将李神轨正在赶往河桥的路上，当他听说尔朱荣军已经抵达黄河北岸的河阳时，吓得立刻逃回了洛阳。
尔朱荣进了河阳后还没有行动，守小平津的武卫将军费穆就立刻投降了。
