1870年8月22日，當曾國藩在天津查辦教案時，南京發生了轟動全國的巨案，兩江總督馬新貽遇刺身亡。
據野史說，馬新貽被刺前數日，忽然接到一份公文，也不知為何署印章，拆開一看，並無文書，但畫死馬一匹。馬新貽大驚失色，寢食不安。8月21日，這是督署月課武職的日子，因雨推遲到第二天舉行，總督馬新貽親臨校場檢閱。校場在督署西邊，有箭道可達署後便門。馬新貽檢閱完畢，步行由箭道回署，將入便門，忽見有人跪在道邊，“求助川資”，原來是同鄉武生王鹹鎮。馬新貽沒好氣地說：“已助兩次矣，今胡又來？”話還沒說完，忽然看見一個身穿短衣清兵模樣的人，快步走到馬新貽面前，打千請安，右手隨即從靴筒中取出閃閃發光的一柄短刀向馬猛刺。行刺者自稱張文祥，並不逃跑，束手就擒。馬新貽被刺成重傷，不治而亡。
馬新貽是兩江總督、朝廷重臣，行刺總督，這在清朝200多年來，還是頭一遭，於是人情洶洶，訛言朋興，朝廷更是大為震驚。案發三天後，即嚴令江寧將軍魁玉督同司道各官趕緊嚴訊，務必究出行刺緣由及有無主使確情。可是張文祥供詞閃爍，無法定案，朝廷無奈，又派漕運總督張之萬前赴金陵，會同審辦，連日熬審。張文祥供認，過去因攔轎告狀，馬新貽拒不受理，後開小押店，又被嚴禁，因怨成仇，謀圖行刺，等等，此外，“堅不吐實”。如此重案，朝野上下，人言藉藉，如不迅速結案，朝廷臉面無光。天津教案辦得差不多，朝廷即令曾國藩回任兩江，“趕緊嚴加審訊，以期水落石出”。同時，命刑部尚書鄭敦謹為欽差大臣，協助曾國藩辦案。
曾國藩深知案情重大，心中沒底，赴任前試圖窺探慈禧太后的態度，便上奏“恭請陛見”，得到允准。1870年10月30日，慈禧太后在養心殿召見了他。
太后問：“馬新貽這事豈不甚奇？”
國藩對：“這事很奇。”
問：“馬新貽辦事很好？”
對：“他辦事精細和平。”
僅此寥寥數語，不冷不熱，不痛不癢，頗令人玩味。不過，曾國藩還是心領神會。朝廷雖然諭旨一道接一道往下發，措辭一次比一次嚴厲，骨子裡並不是十分重視，其中的隱情，是一個讓人猜不透的謎。
既然慈禧太后定下基調，曾國藩辦起這件十分棘手的案子也就容易多了。曾國藩辦事一向比較嚴謹，可是處理張文祥刺馬案，顯然有些粗疏了。這也是看朝廷眼色行事而已。既然朝廷要求國藩把“刺馬案”查個“水落石出”，國藩當然要有所交待。1871年3月19日，即為欽差鄭敦謹送行這一天，上了一個《複審兇犯行刺馬新貽緣由》的摺子，上報復審張文祥刺馬緣由。大致情況是這樣的：
曾國藩等親自審訊，得知張文祥是河南汝陽縣人，1849年間，變賣家產，換得本錢做氈帽生意，到浙江寧波販賣。在這裡，遇到羅法善，一交談，才知倆人原是同鄉，漸漸地來往多了起來。張犯因為在寧波做放印子錢的買賣，便娶了羅法善的女兒為妻，生育一男二女。
咸豐年間，張文祥靠開典當小店為生，僱了一個叫陳養和的人在店裡幫工。1861年太平軍將攻寧波，張文祥把衣服、銀兩以及洋錢數百元裝入箱子，交給羅氏，要她帶著子女出城避亂，張文祥與陳養和留在城裡守店。當時，有個叫陳世雲的人和張文祥是老相識，在太平軍中擔任後營護軍，太平軍攻陷寧波時，暗裡差使王樹勳到張文祥店內保護，門口插了一面太平軍的旗幟，另貼一紙條，以免財產被搶。當太平軍在寧波站穩腳跟，便邀張文祥一起參加，還威脅陳養和一同前去。
後來，陳世雲帶張文祥一起攻打諸暨縣包村，陳世法被包村團練擊斃，張文祥倖免，曾將這一訊息告知陳養和。後陳養和逃出太平軍，張文祥繼續留在侍王李世賢隊下當後營護軍，隨軍至安徽、江西、廣東、福建等地。
1864年10月間，太平軍陷漳州，時金彪被俘，張文祥一問，原來是同鄉，便為他求情，免其一死，並將時金彪留在自己的住所。張文祥見太平軍敗局已定，暗與時金彪商議一起逃跑。1865年1月間，乘便溜之大吉，投到提督黃少春軍營，要獻計破敵立功，該營以二人沒有可靠的擔保人不肯接收，給了盤纏打發他們回原籍。張文祥走投無路，便同時金彪由廈門到了福州。
1865年春，時金彪經人引薦，到浙江巡撫馬新貽署中當差，張文祥則在福州當兵。不久，他搭海船回到寧波，得知妻子羅氏被吳炳燮霸佔，並騙去銀錢，便到鄞縣衙門告狀，鄞縣透過審訊得知羅氏私自改嫁，便判決羅氏由張文祥領回，銀錢無憑無據，無法追究。張文祥於心不甘，又因窮困潦倒，無法生活，即在老相識王老四、陶孝揚、吳建工、武德沅等，以及王老四的熟人龍啟法、李沅和、楊中和等的資助下，又開店營生，並幫忙銷贓圖利。後張文祥同龍啟泫等來往漸熟，便隨龍啟法、王老四、李沅和、李海、楊中和乘坐陶湘幗海船，一共七人往定海一帶行劫，未能得手。龍啟泫等人便投到南田大股海盜那裡入夥，張文祥仍舊回到寧波。
到1866年初，浙江巡撫馬新貽巡查邊境到了寧波，張文祥企圖借巡撫大人的威力，來搞垮吳炳燮，隨即寫下狀紙攔轎喊冤，請求巡撫大人為他追回銀錢。結果，馬新貽不予理睬，擲回狀紙。吳炳燮得知此事，洋洋得意，和別人說起，作為笑料。不久，吳又尋機勾引羅氏私奔。張文祥告到知府，知府批交知縣，將羅氏追回交給張文祥。張文祥憤怒已極，便逼迫羅氏自盡。
這年10月間，張文祥與龍啟沄、王老四在酒店裡相遇，傾訴告狀非但沒有得到巡撫的批准，反而遭到吳炳燮的欺辱，現已家破人亡等情況。龍啟法也向他說起，從前投入南田大股海盜中，不幸被馬巡撫派兵追捕，陶湘幗、李沅和、李海、楊中和等均被殺死，自己和王老四僥倖逃脫。龍又誇讚張文祥講義氣，可為眾朋友報仇，自己也可以報仇雪恥了。張文祥經他一激，當即同意為朋友行刺馬新貽。決意已定，就此分手。
1867年8月間，張文祥獲悉陳養和在湖州新市鎮做買賣，生意不錯，於是將子女託付給妻嫂羅王氏照管，自己到新市鎮找到陳養和，想合夥開家小押店。陳養和告訴他，馬巡撫已出了告示，禁止開小押店，人多可開當鋪，如果一定要開押店的話，也只能小做。張文祥於是租了房屋開起張來，把羅王氏及子女一起接到了新市鎮。當地地痞流氓見張文祥這店是違法開的，便經常前來敲詐勒索，弄得張文祥連本帶利全賠了進去，因而窮而愈憤。
1868年3月間，張文祥到了杭州，得知時金彪在巡撫衙門當差，暗自慶幸，便找到時金彪，託他在衙門裡給謀個差使，其他就沒有多講了。時金彪以馬巡撫升任閩浙總督，不便代謀差使，念及舊情，將張文祥留在署中款待兩日。張文祥沒找到機會下手，只好又回到新市鎮。
1869年10月1日，張文祥聽說馬新貽調任兩江總督，即藉口訪親探友為名來到南京。當時，時金彪已隨新任布政使李宗羲進京。正愁沒辦法混到總督署內，忽然看到督署牆上貼有陰曆每月二十五日考核武弁的榜文，自以為得計。10月29日，張文祥到箭道窺探，見總督散課時左護右擁，又見總督身穿棉衣，恐怕刺他不死，未敢妄動。心中盤算，等來年夏季衣衫單薄的時候再下手不遲。於是，再度折回新市鎮。
1870年5月問，張文祥暫時在陳澱甲等人的店鋪內幫忙。到了7月7日，由新市鎮上船，8日下午到蘇州搭換船隻，9日開船，16日抵金陵，17日進城，先住在朱定齋的客店裡，等到考課日期到時往箭道窺探偵察。後輾轉住到周廣彩飯店，暗暗將小刀磨得鋒利。8月21日，張文祥一早去校場附近等候馬新貽的出現，哪知因雨延期，推遲了一天。
次日，兩江總督馬新貽在督署右箭道演武廳檢閱考核武弁。按老規矩，應課武弁可帶隨從，允許一般老百姓出入觀看。馬新貽檢閱完畢，走出演武廳，準備由西角門回署。張文祥則在角門外偏南的地方等待。恰在這時，馬新貽的同鄉王鹹鎮跪在道上請求資助，被巡捕葉化龍等攔住。馬新貽繼續往前走，剛到西角口，張文祥立即拔出隨身所帶小刀，乘眾人沒有防備的時候，口裡喊著冤枉，撲向馬新貽，用刀猛刺，結果刺中馬新貽右肋偏下的地方。前督臣被刺傷後，大呼來人，差役方秉仁急忙上前將張文祥捉住，奪獲兇刀。中軍副將喻吉三聞訊趕來，與差役一起將張犯捆綁起來。前督臣馬新貽救治無效，於第二天身亡。
儘管曾國藩將張文祥刺馬緣由，繪聲繪色上達朝廷，但案子卻沒有任何突破，仍然是魁玉、張之萬審理的結果，只不過重新梳理了一下。當時魁玉、張之萬的摺子上呈後，朝廷就感到疑竇叢生，如此大案，張文祥所供挾恨報仇，以及受龍啟泫指使等情，“恐尚有不實不盡”，令人難以信服。而且，張文祥被擒時，口稱“養軍千日，用軍一朝”，這話像長了翅膀，很快傳到了北京，戶科掌印給事中劉秉厚等上奏朝廷，據此認為，刺馬絕不是張犯一人挾仇逞兇，幕後必然有人主使，這是毫無疑問的，請求朝廷飭下曾國藩，嚴加審訊，徹底根究，一定要挖出幕後之人，為馬新貽洗冤。還說，如果以張犯一人挾恨報仇，或藉故以大化小，匆匆結案，將不足以服人心而肅綱紀。
案情的關鍵在此，曾國藩當然迴避不開。所以，他在奏摺中輕描淡寫，解釋說，就“養兵千日，用在一時”，屢經審訊追查，該犯堅持說乃是因為受了龍啟沄等人的幫助，讓他為朋友復仇，發洩自己的忿恨。該犯以前確實受過龍啟沄等人的恩惠，既然龍啟沄等指使他報仇，所以被擒時才口出此言，也是很自然的，此外並沒有其他人主使，也沒有知情同謀之人。然而，按張文祥供詞來定案子，刺馬的動機太過於單純輕微，當然不足以服人。曾國藩如此含混奏結，無疑是在藉故以大化小。
張文祥刺馬，全國上下，傳聞紛紛，更可怕的是，它涉及到統治的內部了。當時有個叫王家璧的太常寺少卿，上奏朝廷說：臣在陝西聽說，江蘇巡撫丁日昌之子犯了案，應歸馬新貽查辦，丁日昌託人求情，馬新貽不領情，所以導致出這場禍變。陝西在偏僻的西陲，尚人言藉藉，江南就更不用說了。按理說，丁日昌身為巡撫大臣，其子所犯的案子並不比此案重大，何至於縱子膽大妄為？但是使人不能不產生疑問的是，前雲南巡撫徐之銘就有指使何有保殺害陝西巡撫鄭爾恆的事情，路人皆知，可是至今無人檢舉揭發，罪犯也未受到應有的懲罰，不足以警告企圖效法的人。
丁日昌本來是個虛偽陰險的小人，江南大小官員很多，此事不懷疑他人，唯獨懷疑該巡撫之子，難保事出無因。或是其子妄為而該撫不知，或者人人知道他赴天津協助曾國藩查辦教案，指使刺馬不會被人懷疑，總而言之不得其詳。還有，臣等都是馬新貽的同僚，聽到馬被害的訊息，無不義憤溢於言表，只有丁日昌好像不知道有這回事，令人費解。因此，建議將丁日昌之子原犯案件統統交給會審大臣，破除情面，秉公查辦。
問題既然提了出來，曾國藩也就不能不作個答覆。不過，1871年2月2日，朝廷給曾國藩、鄭敦謹一道“寄諭”說，王家璧所奏，僅僅得自傳聞，而且丁日昌之子丁惠衡前因不能約束家丁範貴閒遊妓館，已經由丁日昌自行奏明交馬新貽審擬奏結，用不著再提審訊問了，繼續審查“有無另有主使之人”。朝廷有此命令，曾國藩就好交待了。3月19日，他專門上了一個《復奏馬新貽被刺一案犯供無主使實情片》，說什麼：丁惠衡不能約束家丁一案，先由其父丁日昌奏交馬新貽審查辦理。馬新貽據範貴等供詞定案，並未將丁惠衡傳訊，僅請將丁惠衡交部議處。嗣後，丁日昌自請將其子革職。
就是說，丁惠衡一案事先的舉報揭發，以及事後的從嚴革職，均由丁日昌自行奏辦，用不著向馬新貽求情，這是顯而易見的。至於此案有沒有另外的主使人，臣等將張文祥熬審20餘日，據該犯堅持說，如果另有主使人，他完全可以據實供出，這樣既可以減輕罪名，又可以免受嚴刑拷打之苦。臣又將張文祥的子女親戚以及好友武定幗等調來，要他們從旁設法勸誘其招出實供，結果是既與丁惠衡一案毫無牽涉，也沒有任何另外主使之人。因此此案去年的原審案情，與今年的再審情節沒有什麼不相符合的地方。太常寺少卿王家璧所奏，得自傳聞，沒有再議的必要。
曾國藩深感案情重大而複雜，越審越可怕，趕緊結案。他在給朝廷的奏摺中說，再三審訊，該犯還是堅持以前的口供，已熬審20餘日，該犯屢次絕食，只剩下最後一口氣，奄奄待斃，如旦夕喪命，反而讓他逃脫殘酷的死刑，所以應該迅速了結此案。
結案並不難，張文祥膽敢戕害重臣，這是對清朝統治者的藐視，“情同叛逆”，何況張文祥實屬“漏網發逆”，又與浙江南田海盜有勾結，凡此都是大逆不道，“罪大惡極”，理應凌遲處死。1871年4月3日，曾國藩將張文祥押赴刑場，凌遲處死，並在馬新貽靈柩前摘取張文祥的心進行祭奠，以伸張國法而告慰忠臣英靈。沸沸揚揚半年多的“刺馬案”，總算落下幃幕。不過，話又說回來了，國藩經辦此案，粗疏含混，對張文祥這樣刺殺朝廷重臣的要犯，竟始終不敢用刑，名義上怕用刑萬一“瘐死獄中，誰執其咎？故始終不敢用刑”，實際上還不如說是怕逼出幕後主使人。正因為如此，承審大員孫衣言、袁保慶拒絕畫押結案。
曾國藩辦案粗疏，當然是有意的。他畢竟是老謀深算之人，他從慈禧太后冷漠的態度，已嗅出此案絕不是一件簡單挾恨報仇的謀殺案，它涉及內部的矛盾與鬥爭。當時還有另一種說法，說馬新貽1847年進士，以知縣分發安徽即用，1863年授安徽按察使、布政使，1864年升浙江巡撫，1866年擢閩浙總督，仕途通達，1868年竟代曾國藩總督兩江兼通商事務大臣，“必有為之張目，隱倚以抗湘淮諸帥者”，如果這種說法可信，那麼，曾國藩就更有理由含混查辦，匆匆草草結案了。
張文祥處心積慮，奮不顧身行刺馬新貽，“非深仇不至此也”。無論“漏網發逆”、洩憤雪恥，還是仗義為友報仇的俠義行為，都難免有所疏漏，難以自圓其說，必有幕後主使者無疑。“主使人”究竟是何人？這是一個謎，最大的可能是丁日昌，朝野上下，議論紛紛，可是朝廷何以不讓追究？曾國藩何以不敢追究？既如此，說“刺馬案”與丁惠衡案沒有牽連，有誰肯信？
再從慈禧太后冷漠的態度看，馬新貽不僅結怨了同僚，而且失寵於清廷。失寵的原因是什麼？有人說他對傳教士過分親近，這是有道理的。馬新貽對傳教士“極友好”，甚至傳說他在上海受洗人教，這未必是事實，但他的親教政策，的確獲得洋教士的交口稱讚，認為“這在中國當時的官場中很難得的”，但卻引起中國人的反感。
1870年4月，陳國瑞來到南京，在布政使梅啟照的支援下不遺餘力地謀劃攻擊洋人，印出大批小冊子，散發傳教士殺小孩的駭人新聞。馬新貽和江寧知府立即來個全城戒嚴，逼得陳國瑞逃到天津，洋人執意要他的頭顱，說他是天津教案的罪魁禍首。經曾國藩的極力辯解，才算安然無事。而馬新貽上奏朝廷，極力為自己的親教行為辯護，斥責天津官員的嚴重失職，放任其“橫行霸道”。馬新貽沒有領會到朝廷為維護國體保護天津官員之意，火上澆油，慈禧當然惱怒。“那些被嚴厲斥責的人是決不會放過他的”，結果，馬新貽被刺。沒過多久，江寧知府在衙門裡懸樑自盡，又衍生出了一樁公案。當時教會認定：“南京總督和南京知府之死，是因為他倆曾阻止陷害教會而與要人結下了怨仇，我們雖找不到其他不容置辯的證據，但當時南京、上海的人們都是這樣認定的。”
看來，馬新貽之死，他的親教政策也是一個誘因。馬新貽身後之典，備極恩榮，特詔加太子太保，入賢良祠，以總督陣亡例予恤，安慶、南京、杭州、荷澤建立專祠，獎之唯恐不力。這樣做的目的，旨在堵教會之口，以免引起外交上的麻煩。
總而言之，張文祥刺馬案絕不是一般性的案件，而是一起極為複雜的政治謀殺案，案子的真相如何，因曾國藩在朝廷的暗示下含混結案而終於未能“水落石出”，甚至凌遲處死的是不是“刺馬”真兇，都很值得懷疑，這實在是個謎。這樁歷史公案，是被慈禧太后和曾國藩聯手造成了。