而此时日军各部，则是开始秘密集结起来，他们是要在四月一日就采取行动。
三月二十六日，大军区司令部再次致电苏阳独立团，大军区司令部要求苏阳独立团立即化整为零，分散向冀省行进，会和第四军分区主力部队，防止被日军合围。
接到大军区司令部电文后，苏阳根据目前局面做出回电，他婉言拒绝大军区司令部安排，随即大军区司令部回电，要求苏阳独立团自行决定是否放弃夕阳城。
三月二十七日，二十八日这两天，日军16师团33联队，108师团117联队，109师团69联队开始分别在皇城，平定城，榆城集结，同时日军侦察机，开始不断向夕阳城展开侦察。