國內“泛亞洲主義”思潮興起，很多人認為中國和日本應該聯合起來對抗西方國家。當時中國政府高層持此種論調的不在少數，因而導致中國政府的對日政策也出現了一定的矛盾。一方面中國積極備戰，一方面也向日本做出了和平談判願望的姿態，吳佩孚在面對國會質詢時也委婉的說：“……苟國際演變不斬絕我國家生存民族復興之路，吾人應以整個的國家與民族之利益為主要物件，一切枝節問題當可為最大之忍耐；復以不侵犯主權為限度，謀各友邦之政治協調；以互惠平等原則，謀各友邦之經濟合作”，表示“和平未到絕望時期，決不放棄和平；犧牲未到最後關頭，決不輕言犧牲”。另一方面，他又宣佈“和平有和平之限度，犧牲有犧牲之決心”，若到了和平絕望的時期和犧牲的最後關頭，“即當聽命國民，下最後之決心”，“抱定最後犧牲之決心，而為和平最大之努力，期達奠定國家復興民族之目的”。他的這種措辭反映出北京政府的對日政策已進入一個過渡期，出現了新的動態。

日本方面敏銳地嗅出了中國政府隱含的變化，當然不肯放過機會。日本一直擔心遭到中美兩國的夾擊，想要擺脫這一局面，而日本此時國內也是參戰的呼聲益高，日本政府也不敢明目張膽的和中國進行公開談判。因此雙方都開始了私下的秘密接觸。

吳佩孚作為中國政府的掌舵者，他在與日本交往方面具有較長期的經驗，他也清楚地意識到自己使命的意義：他希望能夠與日本取得暫時妥協，為中國的戰備爭取時間，他不止一次的對幕僚們說：“如能再爭取兩三年的時間，則我們戰備的工作便得以完成，即可傾全力對外。”

為了實現這一目標，吳佩孚秘密安排手下與日本政府進行兩國政府間的秘密外交交涉，以求全盤調整兩國關係，竭力緩和一觸即發的情勢。

中國和日本連續進行了4次秘密會談。會談中，中國方面表示，中國人對日本人本無怨恨，之所以出現如今愈演愈烈的仇恨心理，是由於此前日本歷屆政府推行侵略政策之結果，造成眾多糾紛，影響兩國關係大局。如今歐洲戰爭全面爆發，亞洲地區當以維護和平穩定為宗旨。日本方面則表示，中國和日本作為亞洲最強大的國家，應該攜手並肩，為和平建設亞洲做出貢獻。

雙方一開始的“和平誠意”都讓對方感到有些意外，此後的秘密談判也很順利，雙方很快便達成了一致意見。最後將各自的談判結果交由本國政府。…；

對於中國來說，日本和蘇聯都是中國的敵人，只是威脅程度不同而已。表面上看，同是亞洲國家的日本似乎要比咄咄逼人的蘇聯更能夠相處。因此在30年代，中國一直在爭取與日本改善關係，以避免蘇聯和日本聯合起來威脅自己。但從日本對中國的生硬態度上，中國人看到的卻是日本政治家的短見和那點想讓中蘇互相殘殺的可憐伎倆。現在日本總算意識到了之前的錯誤，因而雖然在國人眼中，中國和日本雖然還是不共戴天的仇敵。但兩國政府高層卻畢竟務實一點。於是在1940年12月5日，雙方秘密簽訂《中日互不侵犯條約》。

這份有效期為10年的條約規定，締約雙方不得向對方進行侵略或攻擊；締約一方不得幫助與另一方交戰的第三國；也不得參加反對另一方的國家集團。在這些放之四海而皆準的條款外，中國和日本還透過了《秘密附屬議定書》，規定了兩國在亞洲太平洋地區的勢力範圍。

締約雙方代表在簽字完畢後舉杯慶賀，氣氛輕鬆愉快。在東京，興高采烈的日本外交大臣近衛文磨將這一好訊息第一時間報告給了日本天皇裕仁。因為對日本人來說，這一秘密條約使他們避免了兩線作戰的不利境地，為解決英國、美國和荷蘭在亞洲的殖民地鋪平了道路，日本人至此可以放開手腳的大幹一場了，這怎麼不能讓日本人欣喜若狂呢？