豫南地区位于黄淮平原西部，南部紧邻大别山、桐柏山，西接关陕。

这一地区的中国军队，对于日本控制下的平汉铁路、江淮流域和荆湘地区，构成重大威胁。

1941年1月初，日军第十一军发现中方第二、第三十一集团军正部署于信阳以北约150公里的遂平至项城一带后，随即于9日决定“击败进入信阳以北豫南平原之敌，摧毁其抗战企图”。

此后，日军向豫南地区集结兵力，不断自长江下游向信阳附近输送大量弹药、器材，并调集日空军第二飞行集团之第四十五战队，分向安阳、新乡、淮阳、信阳各地进驻。

当月，日军向河南南部集结的兵力计有7个半步兵师团、1个独立骑兵旅团、3个独立战车联队、1个独立野战炮兵联队，总计步兵约15万余人，骑兵约8000余人，另有各型大炮550余门，战车300余辆，装甲车200余辆，飞机约百余架。

其中仅信阳地区就集结兵力3万余人，飞机四五十架，战车数百辆。

日军在如此有限的区域集中如此大的兵力，为武汉会战后所仅见，其向中国军队发动攻势之意图十分明显。

1月20日，日军第十八混成旅团、第三十九师团、第二三一联队、第四师团各一部，首先在鄂西襄河两岸对中方第二十九和三十三集团军开展佯攻，以冀牵制该地区中方军队。

同时，皖北方面的日军第二十一师团的一个联队从宿州向西、骑兵第四旅团及一个战车联队由亳州向鹿邑、涡阳进犯。

豫东日军第三十五师团的两个联队附一个工兵联队则从开封分别向通许、朱仙镇推进，另一联队沿黄河郑州北岸西犯。

上述军事行动的目的均是要保证日军在豫南发动的大规模军事进攻。

1月24日，集中豫南的日军分三路发起全线总攻，豫南会战由此揭开序幕。

左翼方面，由原集结于信阳的日军第三师团全部、第四师团第八联队(奥津支队)、独立山炮第二联队、独立山炮第五十三大队、迫击炮一中队和工兵一联队展开于小林店、古城、查山一线，向北进犯泌阳中方第六十八军阵地。

其右翼则以第四十师团在槐角岭和正阳间强渡淮河，向北推进。

中路是日军的主攻方向，包括第十七师团的4个步兵大队和第十三、三十九、三十四师团的另4个联队，两个战车联队，一个独立山炮大队，由明港附近沿平汉路向北出击。

在发动地面进攻的同时，日军还出动大批飞机对中方阵地进行轮番轰炸。

在豫南平原地带，日军步兵、骑兵、炮兵、战车和飞机得以联合行动。

为避免与装备占优势的日军主力正面交战，蒋介石于1月25日急电第三十一集团军总司令汤恩伯，命其“避免与敌正面决战，而以少数兵力在正面节节抵抗，引其深入，以主力在敌各进路之两翼，做主动的侧击;另以有力一部埋伏敌后，待其前进以后，专事切断其交通”。

中方之主力“望转至敌后，向敌之侧背反攻”。

第三十一集团军遂在平汉路之西平、遂平附近以第八十五军预备十一师一个师的兵力对日军作正面之抵抗与周旋，以牵制、迟滞日军的行动，进而诱敌深入。

而将原部署于南阳以东地区的主力转移至敌军进犯路线之两侧。第十三军部署于舞阳以南的象河关、尚店、土山镇、仪封镇，形成向东向西均可侧击之势，第八十五军部署于上蔡、汝南间，准备侧击沿平汉路北进之日军。

1月26、27日，日军已推进至泌阳、高邑、邢店、确山以及春水、沙河店、驻马店一带。

27日，第五战区长官李宗仁令饬各集团军全面转移攻势，捕歼深入豫南之日军。

于是，中方各部队分别向相应地区行动。

29日起，第十三军初在象河关附近，嗣后又在舞阳以南之接官厅、尚店、小史店一带，向日军左翼第三师团实行攻击。

第八十五军第二十三师在上蔡附近、第四师在仪封镇附近，从两面突袭日军右翼部队之侧背。

日军开始后撤时，又由第六十八军向河关以南、第五十五军自唐河向泌阳、第五十九军向南阳进行追击。

至1月31日，中路日军分向两侧，试图与其左翼、右翼兵力对中方进行南北夹击。

但在日军完成合围之前，中方第十三军已向叶县以北地区转移，第八十五军另向郾城、商水间以及沙河以北转移，使得日军在舞阳和上蔡均扑空。

与此同时，在豫西的中方第五十九、五十五、六十八各军开始从唐河、泌阳及以北地区，向舞阳敌后发起攻击;在皖西的第八十四军北上克复正阳，向日军尾击。

日军各部在后方联络线迭遭切断、疲于应战的情况下，于2月2日全线南退。

第五十九军在南阳附近与日军第三师团激战两昼夜，双方均有重大伤亡，在其他部队尚未抵达的情况下，第五十九军于4日由南阳撤至镇平以东地区。

中方第十三军在接连收复保安砦、舞阳后，于6日克复南阳，续向日军尾追。

是时，日军由南阳南撤的第三师团主力，以及由舞阳向泌阳、唐河南进的第十七师团主力和第四十师团之一部，试图夹击中方第五十五、六十八和二十九军。

待到进抵象河关附近时，中方第六十八军发起截击，予敌重创。日军退至泌阳附近时，遭到中方第二十九军的迎击，伤亡甚重。

至2月7日晚，日军分别向泌阳东南以及信阳附近败退，中方第八十五军和第十三军、第二十九军以及第五十五、五十九军各一部，分别予以追击。

至2月11日，豫南明港、跑马岭，以及皖北各要点，先后被中方收复，双方恢复战前之态势。

豫南会战前后历时20余日，中方共毙伤日军9000余名，并附近焚毁敌汽车300余辆。日军进行多日的扫荡作战，除损兵折将外，毫无所获，以失败告终。