1863年6月13日，石達開所部在安順場大渡河畔全軍覆滅，但石達開遠征軍此時並未完全消亡，尚有賴裕新和李福猷兩支餘部仍在堅持和清軍戰鬥。
賴裕新部 賴裕新是金田起義時就參加太平軍的老革命，是石達開最為忠實的部下和遠征軍後期最為得力的干將。自1859年底石達開在江西分全軍為五旗，賴裕新就掌軍中旗，其後一直率領中旗作戰。在1862年11月，石達開就命賴裕新率中旗進軍川西，吸引入川作戰湘軍的防守，以掩護大部隊入川。1862年11月15日賴裕新率中旗從貴州郎岱廳出發，繞了個大彎，於1862年12月31日，由雲南巧家渡過金沙江，進逼寧遠府（今西昌），沿途有川、滇失業群眾數萬人加入太平軍，賴裕新部達到了4萬餘人。
為配合石達開主力順利挺進四川，1863年3月19日中旗部隊離開西昌沿安寧河西岸小路急速北進，穿過瀘沽後直逼越西。3月23日晚，中旗大隊向越西發動進攻，但狡猾的敵人在中旗必經之路臘關頂山上安設了滾木擂石，此山海拔雖不算高，但嶺谷落差大，滾木擂石的威脅很大。3月24日，當中旗大隊進入白沙溝時，滾木擂石俱下，賴裕新在組織部隊進攻時為滾木擊中，當場犧牲，但中旗士兵仍大部分奮勇殺出。中旗部隊在推舉唐日榮和楊遠富為新統帥後繼續北進，並在3月31日搶佔大樹堡，並以布匹連船為浮橋，中旗大部分部隊順利渡過河，渡河後仍繼續北進。一路攻擊前進至滎經、天全、邛州（今邛崍）、大邑、崇慶、溫江、郫縣、羅江、三臺而至平武，復從平武山內進入甘肅文縣邊界的畢口才擺脫清軍追擊，部隊一度距離成都只有數十公里，但一路被清軍尾隨追擊，去成都無疑是送死！
後聞知英王陳玉成派出由扶王陳德才率領的西征大軍到了陝西漢中，中旗殘部向陝西進軍。終於在1863年秋，唐日榮率領的中旗幾千人馬和啟王梁成富的西征大軍在陝西褒城會師，由此這一部太平軍在歷經了千險萬苦後又匯入了大部隊。後在1864年正月，隨扶王陳德才回救天京失敗後，中旗又在遵王賴文光的率領下和捻軍合併，一直奮鬥到了捻軍失敗才告終。
李福猷部 李福猷的身世因史料缺乏，較為模糊。據清軍公文推測，他可能是廣西一支天地會起義軍首領，可能是石達開的同鄉或者舊識，加上他有勇有謀，頗受石達開信任，是遠征軍後期石達開軍中僅次於賴裕新的重要將領。
1863年4月，石達開搶渡金沙江西進時，命李福猷率領三萬人進軍貴州，回攻川東以作疑兵。李福猷也和賴裕新一樣，很好地執行並完成了石達開佈置的任務，正是由於這兩支疑兵的作用，使得石達開率領的主力才得以在1863年3月24日從米糧壩輕鬆渡過金沙江後直奔大渡河二區。後李福猷經雲南鎮雄入貴州畢節、遵義、務州，於8月20日攻克黔江，準備按原計劃與石達開主力配合作戰，直到此時才得知石達開率領的本軍早在兩個月前就已經覆滅，原定進取成都的計劃無法實現了。李福猷部打算取道湖南迴歸天京，但在湖南境內被湘軍一路追擊，屢戰屢敗，無奈退回到廣西后又是一敗再敗，最後退回了廣東北部老家連州，被鄉紳團練曾慶襄等人誘捕，全軍覆滅，李福猷也於1863年12月在廣州英勇就義。