窦建德麾下有个猛将，此人名叫刘黑闼。根据《旧唐书》记载，刘黑闼年轻的时候，像无赖一样狡诈蛮横，他喜欢饮酒作乐却不愿意工作挣钱。因此，过得非常狼狈，经常缺衣少食。好在同乡窦建德为人仗义，经常拿财物来资助他。后来，刘黑闼因为时局动荡，投奔郝孝德成了一个反隋义军。过了一段时间，刘黑闼又归顺到瓦岗李密的手下，做了一个偏将。李密败亡后归顺唐朝，刘黑闼则被王世充抓获成了俘虏。
王世充知道刘黑闼是一个很勇猛的人，因此非但没有难为他，反而将其任命为骑将，让他负责守卫新乡。可惜，刘黑闼却并不领情，他很看不起王世充这样的人，不愿意在他手下效力。不久之后，他带人逃回河北，投奔自己的好友窦建德。在那个战乱不断的年代，一个英勇善战的将领，可以发挥巨大作用。窦建德因好友刘黑闼的投奔非常欣喜，直接将他任命为将军，封他做了东郡公。
窦建德跟刘黑闼知根知底，对他非常放心，每次有计划都会让他参与。刘黑闼也对窦建德非常忠心，经常带着手下士兵东奔西走，为窦建德驱逐敌人赢得胜利。因为战功卓越，有人甚至将刘黑闼称为“神勇将军”。可惜的是，窦建德并没有成为最终的赢家，他后来带兵援救郑国王世充，因为不听劝告一意孤行，成了李世民等人手下败将。与此同时，窦建德建立的夏政权彻底消亡，其手下要么投降唐朝，要么隐匿起来不敢露面。
刘黑闼在窦建德败亡后，逃回了漳南县老家，一直躲在家里种菜自给自足，不敢轻易出门。公元621年7月，唐高祖李渊下令处死窦建德，然后又下令强征窦建德旧将范愿、董康买等人来长安。李渊这样的行为，让范愿等人又是伤心，又是愤怒，他们不愿意归顺唐朝，于是决定联合起来起兵反唐。他们通过占卜得知，应该尊奉一个姓刘的人，才能成就大事。经过几次波折，范愿等人最终找到了刘黑闼。
范愿等人说明来意后，刘黑闼大喜立刻杀牛会众，准备起兵反唐为主报仇报雪恨。不久之后，刘黑闼等人攻占漳南县城，有了立足之地。公元621年8月11日。刘黑闼带人设坛，公开祭奠窦建德，然后以大将军的身份领兵作战。同年9月13日，刘黑闼带人攻占历亭，杀死屯卫将军王行敏。窦建德曾经的部下，得知此事后纷纷响应，杀死了很多唐朝册封的官吏。9月17日，深州人崔元逊将刺史裴晞杀害，然后也投奔到了刘黑闼手下。
刘黑闼等人叛乱行为，很快就引来了朝廷的镇压。刘黑闼等人毫不畏惧，非但没有被唐朝的官兵镇压，反而还击败了淮安王李神通。10月26日，刘黑闼等人攻占瀛州，将刺史卢士睿抓获。公元622年1月6日，刘黑闼在攻占定州的时候，又杀死了总管李玄通。2月1日，朝廷派遣李世民带兵镇压刘黑闼，可惜也没有阻止他的脚步。刘黑闼等人起兵反唐后，接连杀死唐朝数员大将，只用了短短半年时间，就收复了窦建德曾经的地盘。
公元23年1月24日，刘黑闼攻打魏州，跟唐朝太子李建成对峙。双方交战后，李建成带人接连取得胜利，于1月31日将刘黑闼等人打得大败。此后，刘黑闼被迫逃往毛州，整顿军队后又跟李建成等人发生了一次惨烈战斗。期间，刘黑闼手下被砍杀了几千人，再一次败亡逃跑。最终，李建成在洺州将刘黑闼等人处死，彻底平定了山东地区。刘黑闼的死，也从侧面证明了李建成的领兵能力。