下，分左、中、右三路向豫南发起进攻，寻找国民党主力部队作战。由于驻守豫南的蒋介石嫡系部队“避敌作战”，致使日军在17天时间内，扫荡了遂平、西平、舞阳、泌阳、叶县、方城、唐河、汝南、正阳等13个县，史称豫南战役。1月28日（农历正月初一日），日军左路（也称西路）部队尾随国民党第31集团军13军由泌阳县象河关进入舞阳境内。日军在尚店遇到抵抗后，大肆烧杀抢掠，烧毁房屋300多间，枪杀无辜村民5人。29日，国民党第13军第110师退到接官亭、大石门一带，利用有利地形进行阻击。因敌我力量悬殊过大，第110师全线溃退。在整个战斗中，共有200多名将士阵亡。日军很快占据了舞阳县城，烧杀奸淫，抢掠财物，3天后离去。
1944年4月，日军为了占领平汉铁路及沿线地区，确保华北与武汉之间的交通运输，悍然发动了河南战役（也称中原战役、豫中会战）。日军集结了华北方面军第11军第3师团和第27师团、第37师团、第62师团、第110师团等近10万人，在冈村宁次的指挥下，大举进攻河南。驻防河南的国民党第一战区蒋鼎文、汤恩伯部40万大军，一触即溃，致使37天弃城38座。5月1日晚，日军兵临临颍县城。国民党临颍县长阎受典与其部下仓皇逃离，汉奸张光甫带领一批地痞流氓，打着白旗，迎接日军进县城。次日，日军在县城鼓楼上写出通告：“公路限3天修复，如违烧杀。昭和19年5月2日”。日军在县城北大街设立军政部，指导官勾口右京（日本人），部长金宝林（河北人）。同时成立了由张光甫任会长的县治安维持会，负责修路（公路、铁路），征用枕木，征用车辆，征用民夫等，全县乡镇仅纣城不受其蹂躏。同年9月，日伪临颍县政府成立，伪县长张光甫。同时建立乡镇日伪武装——自卫团，维持地方治安。日伪县政府通令全县中小学复课，日语为必修课，强制推行“完成圣战，建立*****圈新秩序。中日亲善，共存共荣。”等奴化教育。
日军占据临颍期间，供日军蹂躏，稍有反抗者即遭杀害，不少妇女因为难以忍受折磨而被杀或自杀。地处公路沿线的石桥乡，仅在72天中，就有105名妇女被奸淫，其中致死7人，投井自杀3人。日军过后，沿途各村鸡不鸣狗不叫，所有家禽家畜被抢光，并放火烧房。仅在石桥村，日军就烧毁房屋120间，杀牛35头，杀鸡2000多只，战马吃掉庄稼1200多亩。临近车站的樱桃郭村，有46名妇女被奸淫，138匹骡马被掳走，33头牛被杀掉。据不完全统计，日伪军在临颍县共打死农民2350人，逼死12333人，奸**女2139人，其中致死80人。