1923年11月12日，十里洋場上海灘，發生了一件令人震驚的大事。掌管8000警察的上海市警察廳廳長徐國樑，被暗殺大王王亞樵派人暗殺。徐國樑有午飯後泡澡的習慣，當天他泡澡出門，突然有人在背後就是一槍，徐國樑應聲倒地，隨後死在醫院。暗殺策劃者王亞樵此役後一戰成名，從此開始他開掛的殺手生涯。當時盧永祥的軍閥勢力強大，好事的人就把盧小嘉、孫文之子孫科、張作霖之子張學良和段祺瑞之子段宏業稱為“民國四公子”。倒不是他們個個都風度翩翩，而是指他們這幾人都是世家公子。

當時盧永祥的軍隊已經控制了上海，許多重要部門也被盧永祥換成了他的人，唯有警察局長徐國樑是塊反骨，帶著自己8000警察，不聽從於他。

盧永祥本屬段祺瑞皖系軍閥，段祺瑞下臺後他就成為皖系軍閥領軍人物，霸佔著上海這個全國經濟中心。其他派系那裡肯放過他。1924年，盧永祥與直係軍閥江蘇督軍齊燮元爆發江浙戰爭，盧永祥很快失敗，於是通電下野，投靠奉系軍閥張作霖。

失去盧永祥庇佑的盧小嘉，開始學會了低調做人，再也不敢招搖過市，他和黃金榮的仇恨讓他也不敢在上海居住。據說後來盧小嘉移居臺灣，一直做進出口生意，雖然沒有之前那麼風光，卻也衣食無憂生活富足。60年代末，盧小嘉死在臺灣。