丰臣秀吉也意识到战争陷入僵局，他授权小西行长作为代表与明朝和谈。3月下旬，双方达成协议，日军于4月下旬撤出汉城，7月明军撤离朝鲜。万历援朝战争第一阶段结束。
丰臣秀吉并不甘心，经过四年休养生息，1597年2月，日军再次集结14万陆军和2.4万水军入侵朝鲜。战争初期，由于兵力不足和指挥失误，援朝明军接连失利。但日军士气也在旷日持久的战争中日渐衰落。万历二十六年五月，丰臣秀吉眼见军无斗志，且钱粮消耗过大，只得默许撤军。至八月，原本在朝的14万日军只剩6万。
明朝此时则开始大量加派军队入朝，力求毕其功于一役，彻底解决朝鲜问题。万历二十六年七月，在朝明军人数已达7万，明军在朝鲜长期处于兵力劣势的局面终于得到扭转。至九月，明军在朝兵力已达到14.2万，对日军形成压倒性优势。日军处境更艰难的是，由于海上交通线被明军水师封锁，在朝日军得不到海路运来的补给，饥寒交迫，更迫切希望尽快回国。
而此时日本正在风雨飘摇之中。8月，丰臣秀吉病逝。他逝世仅9天，五大家老一致决定从朝鲜撤军。9月15日，五大家老决定向明廷提出和议要求，试图为驻朝日军赢得撤退时间。9月28日，五大家老向在朝鲜的日军发出总撤退令。