If your partner is a New Zealand citizen and the two of you have been living together outside of New Zealand for 5 years or more, you may be granted a permanent resident visa. Your partner will need to be either overseas when you apply, or have been back in New Zealand for less than 3 months.

https://www.immigration.govt.nz/new-zealand-visas/apply-for-a-visa/about-visa/partnership-resident-visa

トピ主さんが、５年以上ニュージーランド国外で生活を共にしていたのであれば、Permanent Residence Visaが認められるかもしれない、とあります。
Immigrationはよく「you may be...」という書き方をするので、個々のケースは直接問い合わせることをお勧めします。

トピ主さんがパートナーシップでResidence Visaを申請する条件を満たしていても、必要とされる書類も多く、中には時間のかかるもの（例：無犯罪証明、各書類の翻訳）もあるので、今から５月の渡航までに間に合わない可能性があります。

５月の渡航が１か月（９０日未満）なのであれば、Visa waiver（ビザフリー）で普通にVisitorとして入国できます。お子さんが日本のパスポートをお持ちなら、NZ国籍を持っていることを日本のパスポートに記載してもらう「Endorsement」という手続きができます。お子さんはNZ入国の際にはNZシチズンとして入国できます。
https://www.immigration.govt.nz/new-zealand-visas/already-have-a-visa/my-situation-has-changed/live/im-now-a-new-zealand-citizen-but-travel-on-my-old-passport