龔遂是西漢著名的循吏，所謂“循吏”，就是那些奉公守法、清正廉潔、愛民如子的好官。
龔遂 “為人忠厚，剛毅有大節”（見《漢書·龔遂傳》），因通曉經術擔任了昌邑國的郎中令。當時的昌邑王是漢武帝的孫子劉賀，這個劉賀年少貪玩、品行不端，整天胡作非為，龔遂“內諫爭於王，外責傅相，引經義，陳禍福，至於涕泣，蹇蹇亡已” ，總是苦口婆心勸說劉賀，甚至多次當面指責劉賀的過失。劉賀因此很懼怕龔遂，每次見到龔遂就掩耳而走，並說：“郎中令善於讓人感到羞愧。”
劉賀這個人雖然品行不端，但是運氣不差。公元前74年，漢昭帝駕崩，因昭帝無子，劉賀被選為了皇位繼承人，成為西漢王朝的皇帝，龔遂也隨劉賀一起到了長安。
劉賀即位後，依然驕橫放蕩，只顧尋歡作樂，將龔遂的規勸置若罔聞。僅僅在位27天后，劉賀終因胡作非為被大將軍霍光廢黜。劉賀從昌邑國帶來的臣子都被問罪，誅殺達200多人，只有龔遂與中尉王陽二人因多次規勸劉賀才得以免於一死，但還是被剃去頭髮判處四年徒刑。
劉賀被廢以後，漢武帝的曾孫劉詢即位，是為漢宣帝。數年之後，渤海郡因連續多年遭遇天災，導致強盜橫行，民不聊生，朝廷更換了幾任太守都不能治理，讓宣帝十分頭疼。宣帝決定選拔一個有才能的人去擔任太守，就讓大臣們舉薦。大臣們一致推薦龔遂能勝此任，宣帝就召見了龔遂。
龔遂這時候已經70多歲了，“形貌短小”，宣帝見龔遂其貌不揚，只是一個瘦弱的老頭，心中有些看不起他。便問龔遂：“平息強盜有什麼計策？”龔遂回答說：“渤海郡瀕臨大海，遠離中原地區，沒有受過聖人教化，那裡的百姓飢寒交迫，而官吏們卻不體恤他們，所以才使陛下的良民淪為強盜。如今陛下派臣去，是想讓臣戰勝他們，還是安撫他們呢？”
宣帝聽後臉色大變，說：“之所以選擇賢良的官吏，自然是想要安撫他們。”龔遂說：“臣聽說平息亂民，就像理順亂麻，不可操之過急。臣希望朝廷不要拘束臣的行動，讓臣到任後，一切隨機處理。”宣帝答應了他，於是派人護送龔遂到渤海邊界。
渤海郡的官吏們聽說新太守要來上任，就帶著士兵到邊界來迎接龔遂，龔遂將護送和迎接的人都打發回去，同時下達了一道命令：“悉罷逐捕盜賊吏，諸持鋤鉤田器者皆為良民，吏毋得問，持兵者乃為盜賊” （見《漢書·龔遂傳》）。意思是說，罷免渤海郡內所有追捕強盜的官吏，並強調凡是手中拿鋤頭、鐮刀等農具的人都是良民，官吏們不得過問，而手中拿兵器的人才是真正的強盜。
龔遂的這道命令，乍看起來似乎很武斷，有些不講理，但是它的效果卻是非常明顯的。強盜們聽說了龔遂的命令，就立即解散了，紛紛丟掉刀槍、箭弩，拿起鋤頭、鐮刀種田去了。等到龔遂單獨乘坐驛車來到郡府時，困擾渤海郡多年的強盜問題竟然就這樣解決了。
龔遂畫像
其實，對於因饑荒而被迫淪為強盜的人來說，他們也不想做盜賊，但是以前的官府對他們緊追不捨，他們上船容易下船難。龔遂正是看到了這一點，明白這些人的苦楚，才頒佈了政令：只要是拿農具的人都是良民，拿武器的人才是盜賊。這就等於宣佈了以往的事情一概不予追究，只要能放下武器，就給他們改過自新的機會。這樣做或許不公平，但是特殊的事情也只能用非常手段。
經過龔遂幾年的治理，渤海郡成為了一個富庶的地方，民風淳樸，路不拾遺。後來因為龔遂年紀太大，宣帝將他召回朝中，任命他為水衡都尉，主管上林禁苑，屬於清閒的官職，龔遂最終老死在了官位上。