市内へは24:00前後まで公共交通手段はあります

まだ間に合うのでしょうか?

20分で外界に出られるとして、
Airport Expressは、22:40, 22:52, 23:04, 23:16, 23:28, 23:40
23:52, 00:04, 00:16, 00:30, 00:37, 00:48まであります。
九龍駅および香港駅着は20-25分後です。九龍駅からの中心部でのシャトル
バスの最終が23:12なので、22:40以外の電車では接続不能で、そのさいは
美蓮さんが指摘しているMTRで逆行するしか方法はありません。
九龍駅から歩けるという人もいますが、いくら安全な香港とは言え、深夜
ですし、しかも人が歩くような構造になっていないし、方向もわからない
ので、タクシーしかないでしょう。JordanならK1バスです。

空港からのバスは24:00までありますから、のんびり行くには良いでしょう。

問題の宿泊施設ですが、清潔で快適というのは個人差が激しいので難しい
のですが、極端は話し重慶大厦でも快適と感じるかたならば、市内にさえ
入ってしまえば問題なしでしょう。

香港は狭い街で、大抵はMTR駅に近い場所にホテルがあります。
空港からバスで行けるところか、移動しないでそのまま居続けるのなら九龍
側かセントラル付近の宿で良いと思います。

翌日移動するのなら、パンダホテル(Panda Hotel悦来酒店)などが空港へ
のシャトルバスを出しているので便利なのですが、深夜では無理でしょうか。