然而，當(dāng)時對日作戰(zhàn)的失敗形勢已是不可逆轉(zhuǎn)了。在遼東半島失守后，清政府被迫簽訂了喪權(quán)辱國的《馬關(guān)條約》。一月末，祖父隨聶將軍駐守山海關(guān)。這時祖父因?qū)θ兆鲬?zhàn)勇敢有功，已從五品提升為聶軍軍械局督辦。

　　祖父曾兩次被派往日本考察軍事。第一次是1895年4月，祖父作為武官隨裕庚出使日本考察軍事。父親這樣告訴我們："裕庚是爺爺在武備學(xué)堂的老師，很器重爺爺。爺爺在日本大開眼界，認(rèn)識了幾位日本的軍事人才，向他們學(xué)習(xí)。還考察了日本的現(xiàn)代軍事科學(xué)及訓(xùn)練方法和理論。回來后整理出版了好幾本兵書。"

　　作為甲午戰(zhàn)爭的親歷者，戰(zhàn)敗的教訓(xùn)使祖父早有改練新軍的思想，所以到了日本，他特別注意考察現(xiàn)代軍事。日本軍隊(duì)的訓(xùn)練、裝備、戰(zhàn)術(shù)等，都是他考察、學(xué)習(xí)的目標(biāo)。我父親曾經(jīng)提到："爺爺對裕庚說：'如今是洋槍洋炮時代，大刀長矛怎么和人家打，所以甲午才打敗仗。學(xué)生以為中國必須練新軍，都得變，不變則亡……'裕庚很同意爺爺?shù)南敕?，說朝廷里現(xiàn)在也有人有這個想法。"第二次，清政府派祖父與朝廷官員鐵良、風(fēng)山赴日再次考察軍事。通過兩次考察，祖父在現(xiàn)代軍事科學(xué)上的認(rèn)知都有很大提升。

　　赴日考察后所寫的兵書，曾送給聶將軍和蔭昌（字午樓，當(dāng)時是武備學(xué)堂的總辦）。蔭昌也是祖父的老師，他非常賞識祖父的才干以及祖父寫的幾本兵書。

輔佐袁氏編練新軍

　　1896年末，清廷決定任用袁世凱去小站督練新軍。祖父在武備學(xué)堂的老同學(xué)王士珍、段祺瑞等都到了小站，這使得祖父非常動心，但又感苦惱。這是因?yàn)樽娓鸽m然很想去小站參練新軍，但因聶將軍對祖父有知遇之恩，盡管聶將軍也很明白編練新軍的道理，祖父不忍提出離開的要求。我父親提到："后來還是蔭昌大人推薦，袁世凱一再向聶將軍要人，聶將軍才把爺爺送去了小站。臨走時，兩人是揮淚而別。"

　　到了小站，袁世凱親切禮貌地接待了祖父。有記載說袁世凱視祖父的幾冊兵書為"鴻寶也",并說"學(xué)界之子無逾公者".祖父與袁世凱生于同年，并長袁數(shù)月（袁生于1859年9月16日，即清咸豐九年八月二十日）。袁世凱擅禮賢下士，不久便對祖父以"四哥"相稱，并把新軍操練、營務(wù)等事完全放手交給了祖父與徐世昌、段祺瑞、王士珍、張勛、段芝貴、阮忠樞等人。祖父在小站很努力，又和王士珍、段祺瑞合編了二十三冊新的練兵教科書，這些兵書成為清末我國軍事學(xué)校編練新軍的主要教材。三人在袁世凱手下做出了成績，連德國教練都表示贊賞，后來這三人被稱作"北洋三杰".

　　父親回憶說："在小站，爺爺真是長了中國人的志氣。當(dāng)時是請了幾個德國的軍官做教練，德國人很傲慢，看不起中國軍官。他做的不對，爺爺和他講理，他想動手，被爺爺?shù)氖勘糇?，他還把爺爺告到了朝廷，不過最后還是叫他走人了。"

　　對此，一些史料中是這樣記載的：當(dāng)時小站練兵請了幾個洋人教官，其中有個德國人叫曼德，此人非常傲慢，也是被其他清朝官員慣壞了。一次他喝多了酒，起晚了，耽誤了原定的訓(xùn)練計(jì)劃，當(dāng)時祖父和士兵們冒著寒風(fēng)在操場上等，他遲遲不來，祖父就去找他，他不但不認(rèn)錯，還蠻橫地要動粗，被士兵摁住，但沒有打他。他卻惡人先告狀，通過德國公使到朝廷去告祖父。當(dāng)時的袁世凱也很擔(dān)心，后來祖父建議讓英國記者在報(bào)上揭露真相，致使輿論大嘩，促使朝廷下決心明確外國教練的職責(zé)，并解除了與曼德的合約，趕走了這個傲慢的德國人。通過這件事，袁世凱的威望大增，同時也對祖父更加器重。

　　小站練兵在中國現(xiàn)代軍事史上有著極為重要的地位，它不但開創(chuàng)了我國軍事現(xiàn)代化的歷程，而且培養(yǎng)了一批軍事家和政治家。民國初年，包括總統(tǒng)、總理、總長以及眾多軍事將領(lǐng)，都是從小站練兵場上走出來的，亦即形成了當(dāng)時以袁世凱為首的"北洋系".

　　從小站練兵直至1909年袁世凱被隆?；侍蠛蛿z政王載灃以"患有足疾"為由勒令"開缺回籍養(yǎng)疴"暫時趕出政治舞臺為止，祖父一直在袁世凱幕下任職，主要為其主持軍事教育。1901年，袁任直隸總督編練常備軍，其自任軍政司督辦，委祖父為教練處總辦，并兼"練官營"、"保定將弁學(xué)堂"、"保定速成武備學(xué)堂"總辦等職；1903年袁為清廷練兵處會辦大臣，又委祖父出任"軍學(xué)司正使"等職，祖父在北洋集團(tuán)中的地位及威望也來源于此。史料上記載祖父"北洋各學(xué)堂造就之眾至數(shù)千人。今之上而統(tǒng)帥，下而校尉，內(nèi)而部曹，外而幕職，凡北洋出身者，非同學(xué)即其門下士也".

　　小站練兵以后，袁世凱的地位不斷上升，祖父亦隨之先后擔(dān)任了北洋行營將弁學(xué)堂督辦、練兵處軍學(xué)司正使、保定北洋陸軍師范學(xué)堂督辦和署正黃旗蒙古副都統(tǒng)兼陸軍貴胄學(xué)堂總辦等要職，同時還受到了清廷多次嘉獎。

　　對于袁世凱對自己的賞識、提攜、重用，祖父多次表示"受恩深重".袁世凱無論是在清朝末年，還是民國初年，對祖父一向十分倚重，許多重要事情都是依靠祖父為他完成的。

　　我曾聽父親這樣講過："你爺爺在貴胄學(xué)堂當(dāng)總辦時，上學(xué)的都是蒙古和滿清的貴族，學(xué)堂里還附設(shè)'王公講習(xí)所'.定期聽課的都是王公大臣，濤七爺（載濤，溥儀之叔、攝政王載灃的胞弟）他們也去聽過課。有些八旗子弟懶得念書，不好好學(xué)，別人不敢管，你爺爺不怕，就拿鞭子抽他們。"這件事給我留下了很深刻的印象。