如果说荀彧、夏侯惇为曹操坚守，是因为他们本就是曹操的亲信。而刚刚投靠，作为外人的程昱之所以坚守，完全是出于对曹操的认同。对此，他甚至公开说：
在程昱看来，曹操简直是个不世出的大天才。跟着他，必能伸展自己的抱负。
曹操领军回来后，发现东阿仍在，于是握着程昱的手说：
其后，曹操在荀彧、程昱等人的帮助下，向吕布发动了反攻。但是由于兖州发生了蝗灾，导致曹军极度缺粮。而程昱却狞笑着对曹操拍起了胸脯：“不就是粮食吗？就包在我身上吧！”
于是程昱带着士兵，回到了自己的家乡。而史书对此的说法是“略其本县”。有人就要问了，东阿不是仍在曹操手中吗？为什么要用“略”字？
而实际上，这个“略”字并没有用错。这是因为，程昱为了帮助曹操筹措军粮，竟将自己的老家屠了城。他挖地三尺，夺走了所有的粮食，更惨无人道的是，程昱竟割下了死难者的肉，用盐腌制成肉干，总算筹集了可供三天食用的军粮。而这些肉干，或许出自于程昱的邻居，和蔼的长辈，幼时的玩伴。这些死难者或许万万也没想到，曾经保护过自己的程昱，竟是这样的魔头。
在程昱的帮助下，曹操最终击溃了吕布，重新夺回了兖州。但对于这个连同乡都杀的魔鬼，即使是曹操也心有忌惮。
程昱不仅心肠冷酷如铁石，看人也非常准，丝毫不下于郭嘉。刘备丢了徐州后，曾来投靠曹操。而程昱用他如苍鹰一般的双眸，一眼就看出刘备不是个安分的主，因此他劝说曹：
然而曹操却听从郭嘉的建议，反而重用了刘备。之后，刘备果然造反，又夺回了徐州，给曹操造成很大麻烦。如果曹操此时听从了程昱的计谋，或许三分天下的历史就会就此终结了。
除了看人准确之外，程昱在官渡之战中，又表现出丝毫不下于张辽的勇气。袁绍率兵十万来袭，而程昱却仅仅只带700人防守前线的鄄城。大兵压境，曹操感到十分着急，于是准备给程昱增兵2000。然而程昱却说：“不需要，我城兵少，袁绍必然认为此城没有攻打的价值；如果给我增兵，袁绍反而会来攻打。因此，曹公应集中兵力，不用管我！”之后，袁绍果然没有派兵攻打程昱，曹操不禁对贾诩叹道：“程昱之勇，胜过古代猛将孟贲、夏育啊！”一般夸奖谋士，都会说他“胜过张良、陈平”。然而曹操却说程昱胜过古之名将，足见程昱的特立独行。
官渡之战胜利后，程昱又纠集一伙山间民众及亡命之徒，合数千人，与曹操一同攻打袁谭，并与曹操会师于黎阳。战斗中程昱每战必克，充分展示了自己的军事才能。而他也因为功劳，被封为奋武将军。
随着北方的逐渐平定，程昱的军事生涯却就此终结。一天，曹操突然摸着程昱的背说：
曹操突如其来的夸奖，却让程昱如芒在背。这是因为程昱已经听出了曹操的言外之意，那就是“你功劳立得够多了！”当时刘备、孙权尚在，天下还未真正统一，凡事都应向前而非向后看。而现在，曹操却偏偏和程昱一起缅怀起当年的光荣岁月。实际上，这是相当反常的行为。
对此，程昱意识到，曹操或许不会再重用自己了。在打天下之时，人才的才干必然摆在第一位；如今北方大定，进行三国鼎立式的相持阶段，人品过分卑劣，与同事难以处理关系的程昱，或许只能成为一个不稳定的因素，甚至是个祸害。
理解了这一点后，程昱落寞而知趣地说：
于是，程昱缴还兵权，从此阖门不出。而这一待，就是11年。对于程昱的急流勇退，曹操十分赞赏，并对其赐待益厚。但在建安十八年，曹操却以程昱与中尉邢贞争威仪为由，撤掉了他的卫尉的职位，将其赶回了家。
