有兩個人被髮被氈突然來到王重陽的面前，和他一起喝酒，酒喝完了，兩人就拿了個壺，在甘河裡面裡舀河裡的水叫他喝，結果王重陽覺得這河水喝起來比他沽來的酒醇味還好，他感覺遇上異人了，後來得知這兩個人是呂洞賓和漢鍾離也來度他的，兩人傳給王重陽仙訣和秘術後就飄然而去。這就是王重陽“甘河遇仙”的故事，甘河鎮的這座橋也被後人稱之為“遇仙橋”。除了“甘河遇仙”的故事，還自稱遇到過王玄甫、劉海蟾，並且和他們四人有過約定，這個約定就是把人間這個傳道的事情了結之後和他們四人會聚。叫“師真之約”。王重陽臨去世時，就囑告弟子們不要悲傷，自己是赴“師真之約”去了。後來，全真教的弟子們就把王重陽和呂洞賓、漢鍾離、王玄甫、劉海蟾並列供奉，敬之為全真“五祖”。

三年後，自稱丹成悟道的王重陽，親手填封了“活死人墓”，來到劉蔣村（今陝西省戶縣祖庵鎮），搭建了一個茅庵，開始在村裡傳道。

王重陽在劉蔣村傳道，並沒有追隨者。因為他在南時村（離劉蔣村很近）挖穴墓時，就自號“王害風”、“王瘋子”，村裡人也確實把他當成了瘋子。因為他挖墓穴，稱居處為“活死人墓”等等，在常人看來，這都是瘋癲的舉動。更何況他出身豪門，家境鉅富。卻拋妻離子，捨棄財富，來到劉蔣村住在墓穴裡過苦日子（儘管王重陽自稱是“神修”）。就是在當今一切向錢看的社會氛圍下，依現在世俗的眼光看來，依然也只有瘋子才能做出這樣的事情。王重陽在村裡傳道，村裡人覺得他是更瘋了。不僅沒人追隨他，反而惹得村民們恥笑。金世宗大定七年（1167年），王重陽燒掉茅庵，拿了一個鐵罐作食具，東出潼關，一路乞化去了東海（今山東一帶）開始了傳教生涯。

王重陽第一個度化的大弟子為寧海州（今山東牟平）人馬鈺，馬鈺在家中為其建了庵堂，王重陽命名此庵為“全真堂”，全真教由此而名。此後，王重陽先後在文登、寧海、福山、登州（今蓬萊）、萊州（今掖縣）傳到講法。建立三教七寶會、三教金蓮會、三教三光會、三教玉華會、三教平等會等宗教社團，弟子多達數千人。其中最有名望的弟子馬鈺、孫不二、譚處端、劉處玄、丘處機、郝大通、王處一被後來的全真教弟子們敬奉為“全真七子”或“七真”，和“五祖”連稱為“五祖七真”。

王重陽自稱遇到過呂洞賓、漢鍾離、王玄甫、劉海蟾四人之事聽起來也許令人不以為然，當年劉蔣村沒人追隨他，就是沒把他說的這些話當回事兒。但是王重陽做為一介平民，一不靠官府，二不靠勢力，三不靠錢財，短短兩年左右的時間，就在山東打出了一方天地。這裡面固然有社會和時代的原因，也有全真教教義所蘊涵著一些令人信服的合理成分。但其學識和個人魅力也是不容忽視的一個重要因素，王重陽飽讀詩書，善於隨機施教。出口成章。傳世著作有《重陽全真集》，內收傳道詩詞約千餘首。另有《重陽立教十五論》、《重陽教化集》、《分梨十化集》等，均收入明《正統道藏》。

這其中最令人稱奇的，莫過於王重陽對未來的預知能力。有關王重陽對未來的預知能力的事例很多。其中最著名的有兩件事，一是王重陽準確的預知自己的壽命。二是準確的預知出其未來七大弟子的姓氏。王重陽五十三歲時，就題過一首詩：“害風害風舊病發，壽命不過五十八。兩個先生決定來，一靈真性誠搜刷”。就預測到自己的大限為五十八歲。金大定九年十月，王重陽率弟子馬鈺、譚處端、劉處玄、邱處機西歸。客居汴梁（今河南開封，金人稱“南京”），已知不永，與金大定十年（公元1170年）正月初四這一天，作《竹杖歌》詩一首示於四弟子，詩曰：“一條竹杖名無著，節節生輝灼灼，偉矣虛心直又端，裡頭都是靈丹藥。不搖不動自閒閒，應揚隨機能做作。海上專尋