国籍の選択を宣言する必要があるのは日本政府に対してのみです。それによってニュージーランド国籍を喪失するわけではないので、今の日本政府の法律運用状況だとニュージーランドのパスポートを保持してニュージーランド人としてニュージーランドに入国する事には何の罰則もありません。
ただし日本政府に対して日本国籍を選択したのに、外国籍で公権力を行使(選挙や国家公務員職、政治職に就く)などした場合は法解釈上は日本国籍の剥奪もありえるかもしれません。ペルーのフヒモリ元大統領のケースを持ち出してそんな事はありえないという人がいますが、アレは法改正以前の話なので関係ありません。
今後運用方針が変わることもありえますが、今の時点では日本に日本国籍選択を届け、NZの国籍は放置というのが一番多いケースだと思います。