北洋军阀时期的军事强人一般算是旧军阀，北伐胜利后从国民革命军中分化出来的各系武装首脑一般称为新军阀。在众多新军阀里，张发奎是比较尴尬的一位——虽然顶着新军阀的帽子，却一直没有一块真正属于自己的地盘。

北伐初期的国民革命军只有8个军，当时这几个军的军长师长，多是30岁上下的青年军人。时任第四军第十二师师长的张发奎，实足年龄还不到30岁，在当时的两湖战场上，第四军、第七军、第八军是三大劲旅，而张发奎所部第十二师更是其中翘楚，赫赫有名的叶挺独立团即归其指挥。

1927年初，原驻守广东的第四军所部改称第八路军，参与北伐的第四军的两个师则扩编为第四军、第十一军，张发奎升任第四军军长。同年夏，张发奎又因在河南战场上击败奉军张学良主力，升任国民革命军第二方面军总指挥，下辖第四军、第十一军、第二十军。一时间，刚过三十岁的张发奎俨然成为武汉政府的一大支柱，也成为武汉国民政府主席汪精卫唯一可以倚信的军方强人。

张发奎不能说没有一点政治野心，但此君算不上政治人物，他不太懂审时度势，因此始终没能自成一系、独据一方。从1927年到1932年，他一直将汪精卫奉为领袖，缺乏舍我其谁、自成局面的壮志宏图，故而一生起起落落。

1927年，国民党开始“清党”“分共”，张发奎对此不甚积极，他固然不赞同共产党的主张，却也不忍对刚刚还和自己并肩作战的共产党人挥舞屠刀。在他的第二方面军里，有2500~3000名共产党员。武汉方面正式“分共”以后，他一面将所部的一些共产党员礼送出境，一面又收容了一些投奔其麾下的共产党员。这样的态度，让一些苏联顾问及中共重要领导人张国焘对其产生了幻想，希望能争取他参加南昌起义，南昌起义之后发布的文件，就曾将张发奎列入革命委员会的名单之中。

南昌起义爆发之后，留在张发奎第二方面军中的共产党人命悬一线。张发奎愤懑之余，依然比较克制。他在晚年回忆：当时“共产党员都被集中到九江，我说：愿意去南昌的，可以同郭沫若一起走，不愿去南昌的将被送往上海或任何他们愿意去的地方。他们会获发路费。我们‘分共’并不意味着暴力，是指共产党员要退出政府与军队中。我坦率要求他们，当我准备攻击南昌时，走到一边去……我甚至没有抓过共产党”。

1927年的南昌起义、秋收起义和广州起义几乎拉走了张发奎半数人马，起义军的中坚力量，包括周恩来、贺龙等都曾是其部下。除此以外，朱德、陈赓、粟裕等也是从他的部队中走出来的。广州起义爆发，总指挥叶挺、副总指挥叶剑英也曾是他的部下及好友。当他竭尽全力将起义镇压下去后，却又被卷土重来的李济深赶出广州。

由于1927年这一连串的变故，张发奎所部兵力大幅减少。当初北伐的几个系统，别人都像滚雪球一般越来越壮大，而他所率领的这个在北伐时期战功数一数二的第四军，反倒越来越瘦骨嶙峋。

1928年，国民政府在形式上实现了全国统一，随即开始裁军，曾经威名赫赫的第四军被缩编为第四师，张发奎也一度投闲置散，失去兵权。

1929年，蒋桂矛盾激化，为战胜桂系，蒋介石重新启用张发奎，任命他为第一路追击军司令兼第四师师长，并将自己的嫡系朱绍良、陈继承两个师划给张发奎指挥。讨桂战争进行得非常顺利，张发奎没费多少力气就击败了对面之敌，此间他大量收缴武器，扩充实力，第四师又有了两万人马。

假如张发奎从此死心塌地追随蒋介石，其后的地位应该会与陈调元、朱绍良、卫立煌等人不相上下，但他心里只认汪精卫是国民党的正统，不久便与蒋介石决裂，投入“护党救国”（拥汪反蒋）运动，结果一次次起事，一次次失败，到1930年阎锡山、冯玉祥、李宗仁联合反蒋之战失败，曾经的铁军第四军只剩下一千来人。

在那个实力决定一切的时代，张发奎的这支残军基本上已经无足轻重。他跟随李宗仁、白崇禧退入广西后，尽管李、白再三表示，一定要与他有福同享有难同当，一定会帮他重建第四军，但客居人家卧榻之侧终究不是长久之计。1931年12月，他以北上援助马占山抗日为名，通电全国，1932年3月，第四军离开广西，进入湖南。

从湖南到东北，关山阻隔，谈何容易。第四军北上不成，又被蒋介石调往江西，加入“剿共”序列。张发奎虽然反共，但对大敌当前继续内战的政策终究兴味索然，蒋介石也不放心由他继续掌握第四军兵权，双方经过沟通，张发奎情愿交出兵权，蒋介石则任其为军事参议院上将参议，赠给其10万大洋，派其赴欧美考察军事，张发奎从此不再有真正属于自己的部队。

中原大战之后，汪精卫放下身段，开始与蒋介石合作，蒋介石以军事委员会委员长之名掌握最高权力，汪精卫则当上了国民政府的行政院长。蒋汪合作，让反蒋多年的张发奎更加尴尬。大家都知张发奎是汪精卫的死党，但汪精卫却并不将已无兵权的张发奎当成心腹，为与实权在握的蒋介石合作，他有意与张发奎保持距离。为了安排自己失业的部下，张发奎几次找汪精卫帮忙，汪精卫总是推三阻四，直到张发奎火冒三丈，说了狠话，汪精卫才答应在顾孟余的铁道部中设置路警管理局，安插张发奎的一些旧部。

有人曾劝张发奎干脆与汪精卫公开撕破脸算了，张发奎却说：比如一个女人，嫁了某人，生了一连串孩子。丈夫抽大烟，不管家，那她怎么办？没办法离婚，只好接受现实吧。我以前多次反蒋，现在再来反对汪精卫，人家不更要说我是个反复无常的小人吗？

张发奎成为光杆司令后，汪精卫不再高看他，张发奎也从此不再唯汪精卫马首是瞻，两人事实上已经形同陌路；可因为这段历史，在此后的抗日战争时期，蒋介石纵然一度授予张发奎第四战区司令长官的高位，也始终不肯授予其军事指挥的全权。这第四战区的部队，或是余汉谋的部下，或是李宗仁的部下，或是中央军的嫡系，张发奎自己没有基本部队，当然掣肘甚多，很难再像北伐时期那样临机决断、捷报频传。

1944年冬，张发奎改任直属中国陆军总司令部的第二方面军司令长官。从职位看，他似乎又回到了1927年夏的原点，但此时其他几个方面军的司令基本都是自己的后生晚辈，再就实力而言，卢汉所部第一方面军辖3个军，张发奎的第二方面军辖3个军，汤恩伯的第三方面军辖5个军，王耀武的第四方面军辖4个军，张发奎的地位并不突出。

对于抗日战争，张发奎往往强调国民党军队与日军在战斗力上的差距，从不讳言国民党军在具体战役中常常处于被动挨打的下风：“八年抗战，谈不上什么史诗，我们和日军的作战，几乎没有一场真正的胜利。我们所做的一切，都是为了迟滞敌人的进攻。我们所做的一切只不过是以空间换取时间。……我们最后赢得了胜利，主要是我们没有投降，誓死抵抗，百折不挠，最终在美国迫使日本投降之后，我们也赢得了最后的胜利。”

这样的调门，也许显得有些低沉，但作为胜利一方的高级将领，能在回忆录中不虚美、不隐过，坦陈当时在战役战术层面的不足，实在也需要有相当的勇气。

抗战胜利以后，张发奎一度出任广州行营主任。国共内战爆发之后，他大概已经被蒋介石视为过气人物，没有获得重用。1949年，他被擢升为陆军总司令，达到其一生名位的顶点，但这个时候的国民政府已经走到其历史的尽头，这个有名无实的陆军总司令，张发奎仅仅在任3个月即主动请辞，从此退居香港。

张发奎重感情，少城府，与张学良有些相似。当初东征，他曾救蒋介石于危难之中，蒋介石试图笼络他，他却又不肯就范。从1927春开始，他长期追随汪精卫反蒋，几乎输光了所有本钱。政治上，他对蒋介石的一些做法不以为然，私谊上，他却又对蒋介石某些为人处世的做派很是感念。蒋介石退居台湾，他坚决不去台湾，蒋介石去世后，他又亲赴台湾吊唁。

1980年3月10日，张发奎在香港与世长辞，大陆方面，时任全国人大常委会委员长的叶剑英立即发去唁电，表示哀悼，并肯定其在北伐和抗日战争中的贡献；台湾方面，蒋经国一面表示哀悼，一面向其颁发褒扬令，称许其“执节怀忠”。

两派立场对立的政治力量同时对其予以褒奖，这看似矛盾，但放在兼有旧军人意气与国家民族情怀的张发奎身上，却又并不让人意外。