ご回答くださった皆様、ありがとうございました。townie様、VPNのお勧め、ありがとうございました。まだトライしてみていませんが。
VPNを使わずに購入するには、１、日本で発行されたクレジットカードを使う。（当方、NZのクレカです。泣）２、日本の住所（発送、請求先を見ている）３、Kindle本体、Kindleアプリが日本で購入したKindleを使用なら可。（NZで購入したKindleなのでだめかも。泣）のようです。どこの国から発注したか、は関係ないようで、設定の居住国を日本にすればよいようです。ということで、結論としては、日本に帰国した際に、日本のクレカを作り、日本でKindleを購入しないと当面、購入は無理ということがわかりました。
当面の間どうしようか、とオークランド図書館のオンラインカタログを見たところ、
５６０冊ほどの日本語の本があることがわかりましたので、そちらで我慢いたします。なお、オークランド図書館の　わりと新しいサービスとして、eCollection>BeamaFilmに登録すると、良質な映画が無料で鑑賞できることがわかりました。Netflixよりもよさそうです。福山雅治の『そして父になる』もありました。皆さんもお試しください。

私の憶測になりますが、Amazon Japanからの購入はすべての国設定が正しければ、いつでも何処でもVPNなしで購入できると思います。ただし著者が販売する際に国制限をしていなければ。

Kindle端末は基本的には言語選択で移住国を判断しているようですが、端末によっては初期設定時になにやら勝手に設定していたり位置情報をチェックしているものもあるらしいです。

もし海外制限に引っかかったら、Amazon Japanの設定をすべて日本にしてAmazon Japanで購入して、購入した本をKindle端末に配信するのが、一番問題のない方法ではないかなと思います。購入の際、お使いのパソコンやスマホの位置情報をオフにするのもありかも。

私もビワさんと同様、日本で購入し使用し始めました。その後NZで普通に購入できますし、Prime Reading も　Kindle Unlimited も利用できます。Amazon Japanには日本の住所とクレジットカードが登録してあります。電子本の購入はいつもAmazon Japanのウェブサイトからで、VPNなしです。

最初に日本で使い始めたのが良かった、ということでしょうか？

Kindleのヘビーユーザーで、Kindle端末PC用Kindleスマホ用Kindleなどで使用しています。うろ覚えですが、Amazonから購入する場合は位置情報はクレジットカードと住所で判定されて、Kindle端末から直接購入する場合は言語情報から移住国を判定されていたと思います。Amazonのクレジット情報と住所を日本のもので登録し、さらにKindle端末で日本語を選択すれば、VPNなしでも購入することは可能だと思います。

VPNをつなげてから、Amazonにアクセスして購入を試みてはいかがでしょうか?
私はそれでKindle Unlimitedに加入して現在はVPN無しでも利用できています。
VPNは筑波大学が無料で学術実験サービスをしているVPN Gateを使ってつないでいます。

日本でキンドルを買って日本で登録、すぐにこっちに持ってきて以来数年間問題なく電子書籍を買えます。ここ1年で10冊は買っており2週間前にも問題なく買えました。

wandererさん、ご回答ありがとうございます。当方、今年の６月から始めて電子書籍６冊はサクサクと購入できたのですが、、。日本でアマゾンのアカウントを作って（日本の住所で）ニュージーランドから注文している方、どんな状況ですか？いらっしゃいましたら教えてください。

Amazonでは昨年11月頃から一部のデジタル製品以外は購入出来なくなってしまいました。上の方の言う通りカスタマセンターはすいませんだけです。