淞沪会战后，胡琏升任第六十七师步兵第一一九旅旅长第二年胡琏随部挺进苏南开展游击战，重创敌寇。其部四零一团团长邱行湘直捣僳阳、宜兴一带，直逼苏浙边境张渚诸地，使日寇沪宁铁路交通受威胁。一九三八年六月，胡琏司令部设在九华山，他亲自到前沿阵地了解情况，发现日寇在江岸各地修碉堡，并有重兵把守。他为了配合海军特种部队在长江布雷，将沿线据点中的敌人引开。一天胡琏指挥部队突然向敌人据点发动攻击，迫使敌人放松对沿江的巡逻。扮成“船夫”“渔民”的海军特种部队乘机在江面布下水雷。一天夜晚，胡琏又派出一支部队向敌人碉堡突击，日寇摸不清〖中〗国军队的虚实，不敢出击，海军特种部队又一次在江面布下水雷。在胡琏部和其他部队掩护下，海军特种部队一年内在长江皖翰江面炸沉日军舰船六十余艘。
一九三九年，胡琏率部开赴湖南，参加第一次湘北会战并升任第十八军第十一师副师长（师长方靖）。一九四零年参加枣宜会战。一九四零年五月二十一日，日军第十一军司令官园部和一郎占领襄阳后，经宜城、南漳，直逼宜昌。第十一师奉命从长沙驰援湖北当阳。五月底，十一师在当阳构筑工事完毕，师长方靖在临战会上告诫：“当阳长坂坡，是当年三国时刘备破曹操处，此次战斗倘若当阳失守，宜昌不保，日寇就会将我们窒息西南，国家生死关头到了，我师必须人人做张飞、赵云，使日寇有来无回。”胡琏接着说：“我们就要想当年张翼德大闹长坂坡那样，杀的〖日〗本鬼子片甲不留。”六月九日，日寇向第十一师阵地疯狂进攻，在当阳西北九山子高地，双方反复争夺。胡琏亲率第三十一团增援同时派另一支小部队抄敌后路，敌怕陷于包围之中，慌忙撤退。方靖、胡琏在当阳与日寇激战一周重创敌军。后撤至大峡口、风洞河一带抗击日寇。
一九四一年调任福建预备第九师师长。一九四二年调回第十一师师长。一九四三年率部与日寇争夺石牌要塞作战中取胜，保证了鄂西大捷因功荣获青天白日勋章，并于七月十三日任十八军副军长。同年带职调任军事委员会委员长侍从室高参。一九四三年五月二十五日，在湘鄂边境德日寇占领要隘渔阳关后，渡过清河逼近石牌要塞：日寇第三十九师团主力，在敌酋高木义人率领下，从南面沿长江进犯石牌要塞。石牌是长江湖北西部的重要江防要塞，若石牌丢失，则日寇可直接窥伺四11威撼西南。民国政府军事当局认为“石牌要塞是〖中〗国的斯大林格勒”严令部队不惜一切代价守卫石牌要塞。胡琏接受任务后，带领全师将士祭拜天地誓与要塞共存亡，随时准备以身殉国。胡以日寇大炮坦克武器精良，不宜硬拼，只能智取。他根据要塞一带山峦起伏地势险峻德特点，利用有利地形，制敌不擅山地作战之短，抓时机，歼顽敌。他将主力部队隐匿于要塞东南北斗冲一带只留师机关及一部分兵力防守要塞。五月二十七日，敌第二十九、第三十四师团一部向北斗冲发起进攻，当敌进至一个群山环抱的山谷时，一声令下，第十一师部队突然从四面八方将敌围住杀声震天，敌伤亡惨重。第二天，敌继续进攻，当部队逼近阵地山头时，他指挥部队与敌人拼刺刀，当敌人冲锋后修整和补充时他组织兵力反击，夺回被敌占领的山头。他采用守攻结合的战法坚守了阵地。第三天，正当战斗方酣之际第六战区指挥陈诚电话问胡琏“有无把握守住阵地？”胡琏坚定的回答：“成功虽无把握成仁确有决心。”不过，据时任十八军军部参谋长兼十八师副师长的赵秀昆回忆，胡琏已经暗中准备了逃走的木船。但打出的旗号却又是深获陈诚之心：“十一师是辞公的根基，这样使用实在可惜。”石牌要塞之战，第十一师歼灭日寇一千余人，使敌军未能占领石牌要塞，保证了鄂西大捷。此役胡琏荣获青天白日勋章，升任第十八军副军长。一九四四年，胡奉调至重庆侍从室参军，一九四四年八月十三日出任第十八军军长。一九四五年参加湘西会战。一九四五年六月二十八日授少将军衔。一九四五年五月，日军集中六个师团约二十万人的兵力向湘西雪峰山地区进攻，指向湘西芷江空军基地，企图打通湘矜通道，进击贵州。胡琏率第十八军参加了保卫湘西的雪峰山会战。六月十三日，胡率部抵达溆浦后，详细了解了这次战役的计划…，战场形势：敌军番号、数量、特点和动向：各友军情况。湘西的六月，气候炎热，加上道路崎岖，将士行军艰难，他根据当地昼热夜凉的特点，让部队中午休息，夜晚加速行军，终于提前到达目的地。立即指挥各师团向日寇据点攻击。十七日黄昏，将日寇进攻湘西的唯一交通线湘矜公路截断，与第四方面军将被围之敌分割歼灭。一九四五年八月〖日〗本投降，胡琏第十八军在长沙。衡阳地区接受日军投降。
一九四六年五月，十八军整编为十一师，胡琏任师长。在解放战争中，率该师参加进攻苏北鲁南解放区，参加围攻中原解放军。他率领的整编第十一师一直充当着救火队的任务，哪里有难便被投入哪个战场，取得了辉煌战绩：一九四六年九月，定陶战役后，国民党军继续向晋冀鲁豫解放区进犯，占山东菏泽城。接着，国民党军第五军和整编第十一师分别进至巨野以西龙固集地区和巨野以南的章缝集地区。人民解放军晋冀鲁豫野战军第二、三、六、七纵队及翼鲁豫军区独立旅于十月三日发起巨野战役，以一个纵队扼制第五军于龙固集以西地区，集中三个纵队歼灭突击于章缝集地区的第十一师十一旅。激战至七日上午，章缝集守军三千余人除二百人逃脱外，全部被歼灭。与此同时，国民党军第五军被扼阻于龙固集以西地区，毙伤其两千余人。下午，第五军和整编第十一师分别向西和西南方向退却，逐渐靠拢，晋冀鲁豫野战军遂结束战役。
是役毙伤俘国民党军五千三百余人。
一九四七年七月的山东南麻战役，胡琏判断华野可能集中部队攻击比较孤立他，于是huā了二十多天集中在南麻修筑了一系列的巧妙的防御工事，其中有大量的子母堡。结果虽然华野集中了四个纵队外加鲁中军区三个团的绝对优势兵力攻击胡琏还有七纵一个纵队负责阻援！但是在胡琏的巧妙防御工事和顽强防守下，华野四个纵队连续猛攻三天三夜，始终没有没有打入胡琏的核心阵地。此时国军黄百韬的二十五师和六十四师已经增援赶到，阻援的七纵不是优势敌人的对手，激战一通被迫后撤。
一九四七年九月曹县战斗，整十一师孤军突出到土山集、大义集一带，华野急于报南麻一箭之仇，调动五个绝对主力纵队：华野一种、三纵、四纵、八纵、十纵中野十一纵，设下口袋阵，严密包围十一师师长胡琏嗅觉敏锐，马上停止前进，进驻两个村庄挖掘工事固守。解放军还是老战术，集中绝对优势兵力打歼灭战，以三纵、八纵两纵猛攻土山集守军十八旅，四纵阻击大义集增援。十八旅坚定守住土山集，经过三天激战，重创三纵、八纵两纵同时大义集的十一旅及时出击，打垮四纵坚强阻击，猛烈从后攻击三纵后方，华野见势不好，迅速撤退。解放军伤亡四千四百一十三人十一师伤亡三千多。
一九四八年四月至十月任第二编练司令部司令。一九四八年九月初，国民党军队取消整编军番号，恢复原来的军师番号。此月，国防部授予胡琏陆军中将衔。胡琏的整编第十八军番号撤销后，所属的整编第十一师、整编第三师和整编第十师都并入新组建的第十二兵团建制。
国民党最高军事当局发表由黄维任兵团司令、胡琏任副司令。胡对此大为不满。但是，黄维是黄埔军校一期毕业生在十八军曾是胡琏的上级，声望比他还高，胡不得不表面恭顺背后则满腹牢骚，不安于位。十月底胡以父亲病重和医治牙病为由，请假离开部队跑到武汉去了。
十一月初，淮海战役揭开序幕。蒋介石命令黄维第十二兵团迅速开赴徐海淮蚌地区作战。第十二兵团十一月八日由驻马店出发向安徵前进，十八日到达蒙城的涡河、北淝河一带，即遭到中原野战军的进攻。二十五日，被中原野战军七个纵队包围在宿县西南双堆集地区。
第十二兵团被包围后，蒋介石发现胡琏不在前线，立即电召胡到南京面谈，问胡有什么办法能导致该兵团转为有利态势。胡认为这次战役是国共两党的大决战，即向蒋表示愿意飞赴双堆集：协助黄维鼓舞士气，调整态势。蒋极为嘉许，并指示第十二兵团：“要固守下去，苦斗必生。”然后，蒋命令空军用小飞机把胡琏于十二月一日送到双堆集前方。
胡向黄维和军师长传达了蒋的指示后，马上到各军师阵地视察，并将兵力作了局部调整。几天之后，中原野战军的攻势更加猛烈。第十二兵团粮弹匮乏，南京空降飞机有减无增，局势越来越严重。黄维决定派胡琏去南京，一则向蒋介石报告险情，催运补给，敦促救兵请示对策：二则要胡住在南京，以免和大家同归于尽。如果第十二兵团被歼，望胡能为大家处理善后。七日，胡琏飞南京向蒋介石报告双堆集情况。8日晚，蒋介石邀宋希濂、胡琏，蒋经国共进晚餐，并放映电影《文天祥》。蒋对宋、胡说：“这个片子很好。”暗示宋、胡为其政权“效忠…，。九日，胡琏再次飞双堆集，向黄维等传达了蒋介石准许在危急时可以突围的指示。
十二日，中原、华东野战军对第十二兵团发起总攻。十五日，黄维突围的命令下达后，所部争先恐后乱成一团结果除少数漏网者外，悉数被歼。胡槽因害怕当俘虏，在突围前向医务人员要了大量安眠药，准备在不能脱身时，服药自杀。胡后来乘战车冲出了重围，遇到第十八军未被包围的骑兵。不久，他跑到了南京。
一九四九年二月，胡琏被南京国防部任命为第二编练司令部司令，负责收集从长江以北溃败逃至江南的官兵，并补充新兵。第二编练司令部设在江西南城，得到当时的江西省〖主〗席方天的许多帮助。不久，便成立、重建和督练第十八军和第十军，由高魁元、刘廉一分别任军长。是年四月，解放军渡江战役打响后，代总统李宗仁要胡琏率部进驻大庾岭，胡对李的命令阳奉阴违，按兵不动，暗中却接受蒋介石的遥控指挥：五月中旬，南城解放，第二编练司令部改编为第十二兵团，胡琏任司令。
一九四九年七月，国军第十二兵团根据胡琏总司令“纵深防御、移动防御”的战略原则开始进行大规模的战略转移，分兵两路南下，成功摆脱了南下大军围歼第十二兵团的战略企图，于七月十四日从江西进入广东兴宁，在石马镇稍事休整，接着进入梅县：在石马休整期间，兵团总司令胡琏曾在辛亥〖革〗命元老、同盟会嘉应州主盟人“何子渊故居”光裕庐坐镇指挥部队达五天五夜，后因电话线路多次遭游击队破坏，而匆忙撤离石马。（七月十四日亦是〖中〗央军委关于围歼胡琏命令电报发出的第一天。）
九月初，胡琏兵团撤往广东潮汕地区，期间在潮汕、普宁地区大量抓捕青壮年男子（抓壮丁）以补充死伤溃散的所部军队，旋从海上驻防金门。十月二十五日，胡琏第十二兵团与李良荣第二十二兵团，在金门西北角的古宁头村，成功阻挠解放军登陆金门，并取得金门战役的胜利。同年冬，胡琏被委任为福建省〖主〗席兼第十二兵团司令。一九五零年初，第十二兵团改为金门防卫军，胡琏任金门防卫军司令兼福建省〖主〗席及福建人民反共救国军总指挥。
一九五一年，胡琏在金门成立“福建省游击队”后改名为“福建省反共救国军”他任总指挥。胡琏曾派遣小股特务潜入福建省，试图进入戴云山区进行反共游击活动。但不到一个星期，大陆军民便将这些特务一网打尽。
一九五二年十月，胡琏加授陆军上将衔。同时，被选为〖中〗国国民党“第七届〖中〗央委员”：此后，他连任第八、九、十、十一届〖中〗央委员。
一九五四年六月，胡琏奉调回台北任第一野战军团司令。一九五七年又奉调去金门，再次出任金门防卫司令，一九五七年七月升任二级陆军上将。一九五八年八月二十三日，福建前线人民解放军炮轰金门，次日，胡令所部向大瞪岛进行炮击。金门炮战持续了四十六天，九月任金门防卫司令部司令兼金门战地政务委员会主任。
一九五八年冬，金门防卫司令由刘安祺接任。胡琏擢升为陆军总司令部副总司令。一九六一年十二月入国防研究院受训。一九〖六〗四年，胡琏出任“驻越南（南越）大使馆大使”在职八年。一九七二年胡琏被免职回台北，任“总统府”战略顾问，并晋升为一级陆军上将。他晚年爱好文学和历史，研读典籍，喜读古书，一九七四年附读台湾大学历史研究所，研究宋史和现代史。著《古宁头作战经过》、《泛述古宁头之战》、《金门忆旧》和《越南见闻》等书。一九七七年六月二十二日，胡琏因患心脏病在台北逝世。
胡琏将军的遗体，后以海葬形式安葬在澎湖列岛海域，实现了其“魂护台澎”的遗愿。
遍览台湾近年之军史著述，不光竭力贬低刘伯承、陈毅、粟裕等大陆将领，而且将张灵甫、李仙洲、邱清泉、黄百韬，黄维等国民党败军之将也说得愚蠢之至粪土一般，唯胡琏超智超勇鹤立鸡群乃千古难觅之良将，似乎蒋公介石如早早委此君以大任，则定能扭转乾坤、挽狂澜于既倒。
平心而论，胡琏在战场上的表现确比其同僚们略高一筹，他有张灵甫的“悍”但无张灵甫的“骄…，：其“忠”不比黄百韬少，其“谋”绝比黄百韬多。台湾史籍广泛传引所谓毛〖主〗席给前线部队的一封亲笔函称：“十八军胡琏，狡如狐，勇如虎。宜趋避之，保存实力，待机取胜。”以说明共军对胡琏的畏惧之甚。毛〖主〗席是否发过如此信函根本无据可查，但把胡琏喻为“虎性”与“狐性”的结合体还是恰如其分的。许多三野老人认为，胡琏的整十一师（十八军），综合战力仅略逊于整七十四师，从其几次避免了被歼的命运，而且是“五大主力”中最后一支被歼灭的王牌部队来看，说胡涟“能战”不算是溢美之词。