曹丕称帝后，更加重用曹休，任命他为镇南将军，“假节都督军事”，成为对阵东吴的最高军事统帅。曹休离开洛阳赴任之时，曹丕亲自“车驾临送”，并且“下舆执手而别”。

　　曹休没有辜负曹丕的厚望，在他与东吴的交战中，处处占了上风，击败江北的孙权军队，又派人渡江作战，烧毁大片吴军军营。

　　黄初三年（公元222年）冬，曹丕大举征伐孙权，曹休出任征东大将军，与曹仁、曹真分率大军作战。此时的曹休壮志满怀，上书说：“原将锐卒虎步江南，因敌取资，事必克捷；若其无臣，不须为念。”这是一招险棋，不顾后勤供应，以战养战，能收到出其不意之效，但一旦失利，全军就会陷于绝地，因此曹休也做了最坏的打算，“若其无臣，不须为念。”这种战略带有浓厚的赌博成分，显示了曹休勇猛而不无鲁莽的性格。这种性格后来也促成了导致他“惭恨而亡”的那场惨败。

　　曹休的部下不愿孤军犯险，曹丕也没有批准这个作战计划。此后不久，长江突起暴风，东吴战船的缆绳都被吹断，船只被吹到曹休营垒前，曹休果断抓住战机，斩杀吴军数千，并命曹军乘轻船五百追击，攻袭徐陵，再次斩杀数千吴军，获得大捷。

　　但这时曹仁在濡须口失利，曹真在江陵未取得实际战果，曹丕下令退出战斗。这次征吴大战就此结束。曹休被任命为扬州牧，屯驻前线，与东吴对峙，先后斩杀吴将审德，招降吴将韩综、翟丹，被提拔为大司马（相当于现在的国防部长），成为曹魏军队最高统帅。曹丕去世时，曹休与曹真、陈群、司马懿受命成为辅政大臣。

　　太和二年（公元228年），东吴鄱阳太守周鲂按照孙权授意，假称要投降。大概之前与东吴的交战太顺利了，曹休轻易相信了这个圈套，他率十万步骑，深入吴境接应周鲂。

　　此时，陆逊、朱桓等东吴大将，已布置好埋伏圈，静待曹休上当。曹魏琅邪太守孙礼力劝曹休不可孤军深入，但曹休立功心切，不听劝告，遂致全军堕入吴人陷阱。近十万吴军兀然出现，发动突袭，曹休完全没有防备，只得仓促突围，但此时背靠湖泊、旁依大江，大军退却受阻，曹休的人马几乎溃不成军，损失极为严重。此时，魏明帝派遣的贾逵日夜兼程赶到战场，吴军以为魏国救援大军赶到，快速撤离战场，曹休才免于全军覆没。

　　此战过后，曹休上书谢罪，魏明帝没有一字怪罪，反而遣使“慰谕”，“礼赐益隆”。曹休心中又惭又恨，回洛阳不久即“痈发背薨”。

　　这位“出师未捷身先死”的将军，被安葬于邙山之上，目睹汉魏城后来的沉浮荣辱，内心的郁结或许早已平复。