身健康狀況不佳為由請求辭職，帶著家人返回原籍福州。幾個月後，林賓日病情好轉，但林則徐仍然面臨著家庭經濟的壓力，不得不重新考慮重返官場。

道光二年（1822年），在座師曹振鏞和房師沈維鐈的幫助下，林則徐再次北上，準備補官。道光帝對林則徐的政績十分認可，特別召見並表揚了他，並於同年四月破格任命他為浙江省道員。林則徐到任後，被委派為本科監試，並很快被調往江蘇淮海道任職。在此期間，他還兼任浙江鹽運使，協助浙江巡撫帥承瀛整頓鹽政，成效顯著。

道光三年（1823年），林則徐晉升為江蘇按察使。在這個新職位上，他大力整頓吏治，改革司法程式，親自審理案件，甚至深夜微服出行，親自驗屍，力求公正。在短短四個月內，他幾乎解決了江蘇所有積壓的案件，贏得了“林青天”的美譽。同年夏季，江蘇遭遇洪水災害，社會動盪，林則徐採取了一系列積極措施，如勸平糶價、禁止囤積、減輕賦稅、救濟饑民，有效穩定了局勢。

道光四年（1824年），為了解決水患問題，林則徐提議暫時使用官款疏浚河道，並得到了批准。然而，就在他準備前往工地視察之際，母親陳氏去世，林則徐不得不返回原籍守孝。次年，江南高家堰發生決口，林則徐奉旨前往監督修復工作，順利完成任務後因勞累過度患上瘧疾，再次回到原籍休養。

道光六年（1826年），林則徐被任命為兩淮鹽政，但他以身體原因拒絕了這一任命。直到道光七年（1827年），他才出任陝西按察使，並署理布政使事務。不久後，陝西南部遭遇水災，林則徐留任原職，前往災區檢視災情，安排災民生活，並參與了縣城重建工作。

道光八年（1828年），林則徐因父親去世再次返回福州守孝。在此期間，他積極參與地方建設，與當地官員和鄉紳合作，重新疏通了福州的小西湖

道光十年（1830年），林則徐結束為父守喪的期限後，北上京城覲見皇帝，並等候新的任命。在這段時間裡，他與多位同僚和朋友在北京進行了交流與聚會，其中包括張維屏、潘曾瑩、黃爵滋、彭蘊章、周作楫等人。這些社交活動不僅增進了彼此間的友誼，也為他在官場上積累了更多的人脈資源。

同年六月，林則徐被任命為湖北布政使，並於七月離京赴任。僅僅幾個月後，即同年十一月，他又被調任為河南布政使，並於次年（1831年）二月正式到任。在河南任職期間，林則徐面臨了嚴峻的財政挑戰和自然災害問題。他受命清理河南各州縣的懸款，解決長期以來財政上的遺留問題。同時，由於沿長江一帶發生嚴重水災，糧食短缺導致大量災民流離失所，林則徐積極應對，不僅在河南採購糧食支援災區，還向江蘇督撫陶澍和程祖洛提出建議，鼓勵商人自行採購糧食，以解決糧荒問題。

由於他在河南的出色表現，林則徐於道光十一年（1831年）七月被調任為江寧布政使。在赴任途中，他親自前往災區考察，詳細瞭解災情，並提出了包括倡捐、煮賑等一系列具體措施，旨在解決災民的生存問題。這些措施得到了兩江總督陶澍的支援，並奏請朝廷予以實施。

同年十月，由於欽差大臣朱士彥的推薦，林則徐被任命為總司江北賑撫事宜。由於政績顯著，道光帝對林則徐的工作給予了高度評價，並於同年擢升他為河東河道總督。面對這一重任，林則徐決心“破除情面”，“力振因循”，親自冒著嚴寒天氣，徒步巡查數千裡的河道，檢查治水用的商梁秸，並繪製了詳細的黃河形勢圖作為施工參考。他的嚴謹態度得到了道光帝的高度讚揚。

道光十二年（1832年）二月，林則徐被調任為江蘇巡撫。在此任上，他與兩江總督陶澍合作密切，共同推行了一系列旨在改善民生、提高行政效率的改革措施。