株式投資でしたら各大手銀行からできます。NZX が認めた証券会社もありますが、銀行からの方が便利ではないかな、と思います。
https://sorted.org.nz/guides/saving-and-investing/shares
こちらに良い情報がありますのでとりあえず。

信託投資でしたら Investment Fund/Managed Fund と呼ばれており、これも大手銀行でしたらどこでも始めることが出来ます。まぁKiwi Saverと同じなわけですが資金の出し入れが自由ですね。
https://sorted.org.nz/guides/saving-and-investing/investment-funds

ちなみに Sorted というサイトはNZ政府が貯蓄/投資のアドバイスのために運営しているもので、多少くどいところはありますが役に立つ情報が色々とありますので参考になさるといいのではないでしょうか。

Lisaさん、情報ありがとうございます
ANZのメニューを見てもinvestment fund/ managed fundはすぐにはわからなかったですね。英語力の問題？
海外からでも電話で問い合わせできるようなので、大手銀行だとどこでも始められる、と言うことなので問い合わせてみようと思います。
Sortred、拝見しました
くどい、、、というか本当に基本的なことを説明してるので英語のリハビリに最適でした。別の意味でもありがとうございます。
NZがキャピタルゲインへの課税が無いという驚きの事実を知り、投資を始めたいと思います。
ありがとうございました！

NZ には確かにCapital Gain Tax は（基本的に）ありません。しかしながら、「配当金」には税金がかかります。Dividend かかるTaxは２種類ありResident Withholding TaxとInputation Credit です。後者は一律28％と非常に高く、これの調節はTax Returnで行います。またInvestment Fund (PIE Fund)の配当にはPIRというTaxがかかり、これはReal Timeでの課税ですので、後々取り戻すことはできません。そこで御自分のTax Rateを正確に選ぶ事が重要になります。
詳しくはこちらから。

https://www.ird.govt.nz/income-tax/withholding-taxes/resident-withholding-tax-rwt#:~:text=If%20you%20do%20not%20choose,on%20the%20type%20of%20fund

https://www.govt.nz/browse/tax-benefits-and-finance/tax/tax-on-investments-savings/

Tax Returnは毎年７月7日締め切りでIRDにアカウントがあればオンラインでの申請が可能です。
https://www.ird.govt.nz/

自分は毎年＄200～300のTax Returnがありますので、ワインとスモークサーモンに使ってしまいます（笑）