効果が果たしてあるかどうか

かかるであろう費用と手間と、犯罪抑止効果を釣り合わせてどちらに重きをおくかということなのでしょう。

今回の事件は通り魔がたまたま新幹線内で発生したような例なので、荷物検査を乗車前に導入したとしても、代わりに駅コンコースなどで実行されていたら意味がないとも言えます。
日本よりも遥かにテロの危険度が高い欧州ですら、荷物検査は限られた高速鉄道でしか実施されていないので、日本で果たしてできるでしょうか。
人口が激減する５０年後なら可能となるでしょうけど、現実的に今の乗客数などを考えたら無理でしょう。
抑止効果という面でいえば、イタリアのように人が多く集まる場所にカラビニエーリが銃を持って立っていると、多少はその効果があるかも知れません。警察ではなくて自衛官を各地に配置するなど無理でしょうかね。あといつも思うのですが、銀行入り口に金属探知機を設置すべきでは。
もちろん新幹線改札に即座に危険物に反応するような精度の良い検知システムを開発して設置できれば良いと思いますが、そのようなものが開発可能か否か、どうなのでしょう。

しかし個人的にはロンドンみたいなあらゆるところに監視カメラがある社会は気持ちが悪いです。日本もそうなりつつあるようですが。
よく言われていることですが、凶悪犯罪自体はそれほど増えていないので、過剰反応するのも良くないとも思います。（詳しくは犯罪白書を見れば分かります。）