ソレント泊ではどうでしょう。

過去二回カプリに行った事があり、二度とも５月半ばでしたが、初回は２泊島に宿泊したにもかかわらず洞窟は見られませんでした。
二度目にはポジターノに数泊しまして、そこから日帰りし晴れて洞窟を訪れる事ができました。
ナポリはサンタルチア港前のホテルに一泊した経験しかないので詳しくはないのですが、
もしナポリそのものにあまり拘りがないのであれば、いっそソレントを起点にする手もありかと思います。
ソレントからカプリへはナポリからより近いですし、ナポリからの船便が悪天候で欠航した時でも、ソレント発着便は大丈夫な事も多いそうです。（地形の関係で荒れが少ないそうです）便もたくさんありました。
ソレントからだとポンペイやナポリへも、また時間があればバスでポジターノあたりまで行く事も可能です。
ただ車窓の風景を見るだけでも素晴らしいです。
ソレントは宿泊施設も多く充実しているようです。
ただ、街歩きという点ではナポリの方が魅力的でしょうかね。
それと、ポンペイに行くのであれば、できればナポリの考古学博物館も訪れられたら良いとは聞きますよね。
ポンペイのレプリカの、本物が展示されているそうなので（私はポンペイだけで満足できましたが）。

ナポリに泊まってもソレントでも、十分に可能なスケジュールかとは思います。
あとはお天気に恵まれる事をお祈りしています。どうぞ良いご旅行を。