こんばんは。　

出生届は、おっしゃるように子供が生まれてから二か月以内に申請することになっているようです。

手当については、どのタイミングかは私は分かりませんが、経済的な援助を求める申請をすることができます。　Family tax credit と呼ばれるもので、これは収入額、子供の数などによって個々に違います。 Child support と呼ばれる手当は、片親の家族など、特別な事情に限ります。　それから、子供の父親も、有給の育児休暇を取ることができます。この場合も、勤務年数、時間などの状況によって異なります。
いずれにしろ、詳しくは、IRDのサイトをご自身で確認されたほうが良いかと思います。
http://www.ird.govt.nz/

日本のパスポートの申請をいつするかは、個人で決めることではないでしょうか？
万が一のとき　いつでも帰国できるように、パスポートを持っていて損はないと思いますが。。