私の子供(生後8ヶ月)の経験です。
急遽帰国することになりnz、日本のバスポートの発行が間に合わず日本領事館で帰国の為の渡航書を発行してもらい日本でバースサティフィケート(nz発行)持参で日本のバスポートを発行してもらいました。

まずニュージーランド出国時は問題無し。
日本出国時空港チェックインカウンターで帰りのチケットを購入させられ、ニュージーランド入国時にビジターのスタンプを押され、「3ヶ月以内に出国しないと違法滞在になります。ニュージーランドバスポートをとってください。事情は解ります。馬鹿げていますがよろしく。」と言われました。日本で買わされた片道航空券はnzで後日航空会社へ行き返金しました。

イミグレーションでステッカー貼ってもらう時間がないのですか？？
数年前まではクライストチャーチでは一両日中にはやってくれましたが、今は一ヶ月見てください、と言われます。
しかし、うちの息子は日本のパスポートを受け取った一週間後の飛行機に乗る予定でイミグレに相談に行くと、その旨を書いたレターとともに提出して下さいと言われました。結果、3日後には手元に帰って来ました。今年の4月のことです。
日本人は無料ですし時間があるのならステッカーは必ず貼った方が良いと思いますよ。

Endorsmentを取得しましょう。
オークランドなら順番がまわってくれば即日その場で発行してもらえるので･･･
朝一でいって即発行してもらいましょう!

我が家の子供もNZ国籍&日本国籍保有ですが、
日本パスポートだけ取得しEndorsementを取得して渡航しています。
特に問題はありません。

NZパスポートだけを保持してればいいんじゃないですか？
私の周りはみんなそうしてますけど

http://www.immigration.govt.nz/migrant/general/formsandfees/officeandfeescalculator/LinkAdministration/ToolboxLinks/officeandfeescalculator.htm?level=1
で調べられます。Endorsementは無料です。

私はイミグレ職員に電話で問い合わせた時に$80と言われたので払いましたが、後からこちらのサイトで無料であることが分かり、イミグレのサイトで確認したところやはり無料でしたのでイミグレに再度問い合わせて返金してもらいました。

＞Endorsementは本来有料制です。無料になる条件は、NZ国外からの申請のみです

そのようなことはありません。
ビザ（査証）の場合、NZ国外からの申請であれば日本国パスポート保持者は無料という提携があります。
Endorsementはビザではないので、NZ国内国外を問わず日本国パスポートに対しては無料です。
Citizens of Japan are not required to pay a fee for an endorsement.

ただし、例えば日本国内から申請する場合、上海ブランチで処理されるため即日交付はありませんし、Service Feeや郵送料がかかります。

お子さんは現在NZのパスポートは持っていないということになりますか？
日本のパスポートで渡航することに問題はないと思われますが、NZに戻って来た際には滞在許可3か月のVisitorになります。
他の方が書いていますが、Visitorの条件として帰路の航空券の提示を求められる可能性もあります。
面倒を避けるためには、日本のパスポートとNZ Birth Certificate、パスポートサイズの写真を持って最寄りのImmigration NZでEndorsementを申請したほうがいいと思います。
通常、問題がなければその場で発行してもらえます。
Endorsementがあれば、日本のパスポートでNZに戻って来た際にはNZ Citizenとして帰国するのでVisitorのスタンプは押されません。

Endorsementというシステムが施行されてからは、NZ国籍を持つ者の外国籍パスポートに対してビザは発行されません。