閻書堂聽了閻錫山的建議，覺得兒子的志氣宏遠而可行，特別對閻錫山提出要到太原去的想法，認為是擺脫債務有益後生的一舉兩得的高招，於是欣然答應了兒子的要求。這就引出了浪跡省城的一段經歷。對此，山西省政協文史資料研究委員會與定襄縣政協文史資料研究委員會合編的《閻錫山與家鄉》一書作了如下繪聲繪色的描述：

過年以後，父子二人眼看在村裡待不下去了，便決定南下太原。他父親打發他先到陳家營他堂舅那裡借路費，被堂舅數落了一頓，他一氣之下走了，不再借錢。又跑到宏道鎮向在那裡做買賣的叔父閻書典借錢。閻書典不但不借給，反而說：“好漢做事好漢當，自己跌倒自己爬，你們的商號賠塌了，還想把我也累倒嗎？”閻錫山碰了一鼻子灰，又找到他本家叔叔閻書康。閻書康當時也在宏道鎮店鋪裡當店員，雖然賺錢不多，但一聽父子倆要借錢外出躲債，就十分痛快地拿出僅有的幾個錢來，遞給閻錫山，還再三囑咐說：“回去趕快叫你父親往省裡跑，不要走大路，要繞河北（滹沱河北面）各村走，不要叫人家攆上。”他在閻錫山父子極端困難的時候，以小小店員的力量，盡力設法安慰和救濟他們，所以閻錫山父子感恩戴德，始終不忘。

閻錫山回家後，因見盤纏不多，又悄悄拿了他繼母的一副銀鐲子，帶在身邊。他岳父徐一敬又資助了他一些錢，他妻子徐竹青也把自己做針線活積攢下的一點錢給他湊了數。於是便與父親連夜背了行李動身出發。走到南作村口（距離河邊村十里）時，天已矇矇亮，只見一輛鐵軲轆車從村裡走出來，車上除趕車的外，什麼東西也沒拉。他父親走近前打問，才知道趕車的叫薄吉福，要到太原拉廢紙。因為去時車是空的，可以順便拉客人。

閻錫山的父親知道自己錢少，就央告說：“我們父子倆輪流坐車，算一個人的路費行不行？”薄吉福一問是河邊村的，就說：“怎麼不行？快上車吧。”於是，把行李放在車上，閻錫山的父親也上了車，閻錫山跟在車後步行。走了一陣，閻錫山的父親下了車，讓閻錫山坐在車上；又走了一陣，閻錫山下了車，閻錫山的父親又上了車。薄吉福心裡不過意，就和閻錫山的父親說：“讓娃娃（指閻錫山）也上（車）來吧！”閻錫山的父親摸摸衣袋，忙說：“算了吧，他年輕走得動。”薄吉福知道他是惜錢，就說：“我只收一個人的車錢還不行？”說著，把牲口叫住，停了車，讓閻錫山上車。閻錫山怎麼也不上，一股勁地說：“我能走，我能走。”薄吉福是個急性人，一聽生了氣，就說：“你看你這後生，白讓你坐車還不坐？鄰村上下的，又不是外人。”閻錫山看看他父親，他父親看看薄吉福，一句話不說。閻錫山見父親不放話，就一直站著不動。薄吉福又催了幾次，閻錫山的父親才讓他上了車，父子倆都非常感激薄吉福。

走到忻州後，閻錫山的父親怕太原花銷大，就把閻錫山留在“成鈺東”藥鋪。因為過去有交往，“成鈺東”藥鋪的掌櫃就讓閻錫山在店裡幫忙，混口飯吃。　閻錫山的父親一個人到了太原，落腳在柴市巷“榮慶棧”，靠東求西借過日子。後來，經同鄉介紹，與人合夥包攬土木工程。過了一段時間，又在巡撫衙門“稿房”（負責管理收發公文）裡找了個閒雜差事，生活才有了著落，把閻錫山也叫到太原。

以上描繪，儘管不乏虛構之處，但基本上反映了處於困境中的閻氏父子的心路。閻錫山到太原後，首先隨父親拜望了同鄉魏老五（名仰微），經魏介紹，在太原市最繁華的柳巷“裕盛”商號當夥計。這裡活不重，但很忙。由於生活艱苦，不久閻錫山得了傷寒病，無人