清朝在袁世凯小站练兵以前，有过三种军制：最早的是“旗兵”和“绿营”，到了 曾国藩组织乡团后，所谓湘军、淮军，官式名称叫做“勇营”。
旗兵是清王朝的原始军制。最初只有四旗，以旗的颜色别类，分黄旗、白旗、红旗、 蓝旗；以后增加了四旗，为镶黄旗，镶白旗、镶红旗、镶蓝旗。乃把原来的黄、白、红、 蓝称为正黄旗、正白旗、正红旗、正蓝旗编为左翼，镶黄等四旗编为右翼，这就是清入 关前的原始兵力，总称“两翼八旗”。后来由于蒙古的归附，又缩了“蒙古八旗”，原 有的则称“满州八旗”。入关后因明军投降和整编。复有“汉军八旗”。这廿四旗总兵 数共28万人。
清统一中国后，把旗兵中最基本的部队编为“禁旗”，禁旗都是在长白山下打天下 的子弟兵，他们负责北京警卫和国防责任，等于是中央军。其余汉、蒙、满等廿四旗约 20万人，则分别驻防于各省及重要城镇，以为镇伏汉族的武力，称为“驻防八旗”。
旗兵驻防的防区开始时非常谨严，那是为了对汉人加以镇压，所以八旗官兵都是携 带家眷，分驻中国本部各省，防区共8处，有的设驻防将军，有的设副都统，有的设城守 尉。国防要地和关外则有防区25处，设都统和副都统，如密云副都统、热河都统之类。
旗营的官兵是世袭制度，生而食粮，数传之后，腐败已极，竟有列名行伍而不识弓 弩为何物。光绪中叶，外侮日亟，满族有远见的王公大臣，乃有整顿旗营之议，派遣八 旗子弟出洋留学，如荫昌、良弼等都是。同时积极整理各省驻防旗兵，挑选精壮编成 “八旗练营”；有“洋枪兵队”、“洋枪马队”、“备练马队”、“洋枪步队”等编制， 聘任教官为新式的训练。可是八旗子弟娇养已惯，满洲人当年勇武矫健的风气已经完全 丧失，所以整顿自整顿，旗营的腐化已至不可救药的程度。
比“旗营”稍后组成的清军，是“绿营”，绿营和旗营同称为“经制兵”，就是国 家的军队。
绿营的制度完全仿照明代，官兵全部是汉族，因为所用的旗子颜色是绿的，所以称 为绿营。最原始的编制全为明朝的降军以及收编的队伍，经过整编后也很像样。清廷因 为这支军队熟悉内地的地理人情，用之镇压汉人非常有效，一般市井之徒，遂得借绿营 以达到骑在人民身上的目的，因为只要考中武科，就可为绿营官长，虽不识之徒也无所 谓。
绿营归兵部所辖，全国兵营可分为“在京”和“在外”两种。“在京绿营”由步军 统领（即九门提督）统辖；下分左右两翼，各设总兵，总兵之下则为城防营，有副将、 参将、游击、都司、守备等官。另有一部分在京绿营，分属于漕运总督，专任护漕之责， 其职务等于护路警察。至于“在外绿营”则直属各省，由总督或巡抚节制调遣，所以各 省督抚的官衔有“节制军务兼理粮饷”一项，就是指绿营。绿营统兵的军官有提督、总 兵、副将、参将、游击、都司、守备、千总、百总、外委等。军队编制以营为单位，设 管带一人，每营500人。全国的绿营总数共约50万人。绿营到了清末，饷给过薄，乃多虚 额，检阅时则以雇佣市井无赖充数，武官由捐纳出身，军队缺额在半数以上，腐化已极， 以致太平天国军兴，势若破竹，绿营乃遭淘汰。
旗营、绿营既成废物，曾国藩招募土著编练“勇营”，就是后来名重一时，镇压太 平天国的湘军和淮军。由于这场战争的表现，勇营竟取得国军的地位，加以旗营形成虚 设，绿营仅存形式，所以勇营就成为清廷镇内御外的唯一武力。勇营的部勒方法，为明 代戚继光的遗规，以弓矢刀矛为武器主力，鸟枪火统为辅助。淮军李鸿章延英人戈登编 练洋枪队，是为中国采用新式军械的开始。
勇营军纪很坏，掳掠奸杀，视为惯常，曾国荃所统之兵尤甚，攻入南京时竟至全城 为墟，一个小兵都身怀巨万；而清廷当时爵赏太滥，所以太平天国战事结束后，勇营之 腐败，至于不堪言状。而湘、淮两军将领也都恃功而骄，数次对外战争，一败涂地，尤 其是甲午战争，淮军卫汝贵全军覆没，旧军之劣点，完全暴露，于是清廷才下决心汰除 旧军编练新军。
由于旗营、绿营都已腐蚀已极，而勇营也只是昙花一现，甲午战前，清廷有识之士 已警觉到清军的不堪一战，所以李鸿章在直督任内乃锐意摹仿西法练兵，办了一个天津 武备学堂，由戈登代为购置新式枪械，聘请德国军官为教练，由满人荫昌为总办。可惜 军事教育和军队组织并不能配合，因此天津武备学堂毕业的学生，被分派到淮军的各军 去担任教习，教练新操，而军队指挥权则仍旧在旧统帅手中，一切战略战术依然陈旧， 因此甲午之战，淮军一败涂地，淮军中最有名的盛军统领卫汝贵全军覆灭。这时清廷上 下恍然大悟，仅只是西法练兵还不够，整军经武必需彻底的大改革。于是两江总督张之 洞首先练自强军于吴淞，聘用德国教官，一切规模体制全部仿效德军。另一方面在北洋 指派胡燏棻练定武军十营，假小站旧日周盛昆、周盛渤所统领盛军的营地为练兵场。盛 军原在小站屯田，所以有完整的营房和已开垦的稻田，由于盛军覆没于中日甲午之役， 因此小站也随之荒废，定武军即以此为营房。
编练新式陆军的同时，清廷在各省组织了巡防营。巡防营是挑选旧绿营和勇营的精 壮，另招募民丁，编组而成，其性质系以保卫地方，如警察保安队，其编制分为马队和 步队，马队全营设官、弁、兵、夫共189名，马135匹，每营分为“中”、“左”、“右” 三哨。步队全营设官、弁、夫共301名，每营亦分为“中”、“左”、“右”三哨。巡防 营在各省均有，且因地方之需要，划分为若干路，以“中”、“前”、“左”、“右”、 “后”或“东”、“西”、“南”、“北”、区别之，每路各设统领一员。步、马各营 则设管带和哨官等统率之，还有训练新式枪操的，则设教习一职。
巡防营的章制当然是不符合战术原则，不过倒是一支经过了新式训练，并使用新式 武器的军队，可是由于分子的来源良莠不齐，而带兵官又多为旧武官或是候补道（当时 的候补道，有办法的则遇缺即补，所以人们称为万能候补道），对于新式军事知识一无 所知，因此巡防营乃变成有名无实，和勇营的昙花一现差不了多少。
巡防营一直存在到辛亥时候，各省纷纷独立，乃把巡防营改为师旅或警备队、保安 队。唯一例外的是新疆，直到民国21年（1932年）仍有巡防营存在。
光绪廿一年（1895年）十月，醇亲王奕譞、庆亲王奕劻和军机大臣翁同龢、李鸿卓、 荣禄会商奏请改革军制，逐步训练新军以代替完全不能“保清卫国”的绿营，于是便在 北京附近训练新军。这时直隶总督是王文韶。清廷最初是派长芦盐运使胡燏棻到小站练 兵，这支军队命名“定武军”，聘请德国人汉纳根担任教官。几个月后，胡燏棻迁调为 芦汉铁路督办，于是满清政府改派袁世凯以浙江温处道头衔，留在小站接统定武军，改 名为“新建陆军”。定武军原有4000余人，袁接统后便扩充为7000人，成立了“新建陆 军督练处”。
保荐袁世凯督练新军，也是由醇亲王奕譞、庆亲王奕劻、军机大臣翁同龢、李鸿章、 荣禄联名专折，摘录如下：
“窃查欧洲各国专以兵事为重，逐年整治，精益求精，水师固其所长，陆军亦称骁 勇。中国自粤捻削平以后，相沿旧法，习气渐深，百弊丛生，多难得力，现欲讲求自强 之道，固必首重练兵，而欲迅期兵力之强，尤必更革旧制。臣等于去岁冬月，军事方殷 之际，曾请速洋队，仰蒙简派广西臬司胡燏燏棻会同洋员汉纳根，在津招募开办，嗣以 该洋员拟办各节，事多窒碍，旋即中止。另由胡燏棻练定武军十营，参用西法，步伐、 号令均极整齐，虽未尽西国之长，实足为前路之导。今胡燏棻奉命督造津芦铁路，而定 武一军接统乏人，臣等公同商酌，查有军务处差委，浙江温处道袁世凯，朴实勇敢，晓 畅戒机，前驻朝鲜颇有声望，……相应请旨饬派袁世凯督练新建陆军，假以事权，俾专 责任，现先就定武十营，步队三千人，炮队一千人，马队二百五十人，工程队五百人以 为根本，并加募步队二千人，马队二百五十人，共足七千人之数，即照该道所拟营制饷 章编伍办理，每月约支正饷银七万数千两，至应用教习洋员最失紧要，应由臣等咨会出 使德国大臣与德国外部选商聘订。……果能著有成效，尚拟逐渐扩充……”
袁世凯受任主持训练新军事宜，从此开始了他灿烂的一生，这就是小站练兵。
当时积极促请清廷重整陆军的，以胡燏棻和袁世凯最力。胡曾将英使所交来的《应 时练兵说帖》求宁波王修植编修代拟条陈。王文辞敏捷，对新政研究有素，遂写成两稿， 第一稿是以英使说帖为蓝本，第二稿是加以文字的煊染。胡以第二稿送至京师督办军务 五大臣庆亲王和荣禄，胡因得练定武军十营；袁世凯闻听胡练兵的经纬，乃日日趋访王 修植，并和王修植、张锡銮、孙宝琦、潘克俊四人结成盟兄弟。当时北京侯家巷的名妓 为沈四实、花媚卿、花宝琴、林枝笙、赛金花等。袁逐日在大实班宴会，借以肆应王修 植，求王代拟一个练兵条陈，王乃把曾代胡拟的第一稿，即英使练兵说帖交袁。袁的为 人在重要关头极细腻，得王交来之稿，早晚朗诵，紧记要点，然后缮正，求荣禄代奏。 荣向袁逐条详询，袁亦逐条对答如流。荣大为激赏，乃携袁谒见醇亲王和庆亲王，袁亦 对答如流，较胡燏棻能抓住要点，加以胡是绍兴人，官话不如袁流利，因此袁遂得瓜代 胡在小站练兵。
小站距离天津70里，原名新农镇，是天津到大沽火车站中间的一个小站，本来很荒 凉，只因铁路修筑后，新农镇成为一个小站，是铁路必经之地，所以渐趋热闹，小站这 个新地名也逐渐代替了新农镇这个旧地名。
这个地方早先曾由李鸿章所辖的一部分淮军驻扎。淮军们曾仿古屯田法，凿川引水 以种禾稻，屯军前后历时20年，淮军散后，小站的军营便变成了废垒。
这一年袁世凯只有37岁，清廷建练新军的工作，给他制造了一条呼风唤雨、腾云驾 雾，培植自己势力，取清朝江山而代之的捷径。
这时候，清廷鼓励各省建练新军，各省督抚都争先恐后地网罗国外或国内知名的军 事人才，充当练兵机构的实际主持人。袁世凯学曾国藩、左宗棠、李鸿章，以文人而 “知兵”，他曾写过一本兵书，又在朝鲜表现了他是文武全才，所以李鸿章很赏识他， 西太后的宠监李莲英也被他买通。当他主持“新建陆军”督训工作后，他和其他各省督 抚最大的不同地方，就是他的幕僚长并不是一个新的军事人才，又丝毫没有战功，而是 一个长于诗词歌赋翰林出身的徐世昌。袁除了请徐世昌担任参谋而外，并请唐绍仪担任 文案。
袁世凯虽自认文武全才，但他毕竟没有军事的实际知识，而他所选的文武两大幕僚， 也都不懂军事，因此网罗实际负责带兵和练兵的干部，便不能不找寻真正的军事人才。 前面曾提到天津有一个武备学堂，是李鸿章创办的，武备学堂的总办是旗籍道员荫昌。 袁世凯便请荫昌推荐军事人材，荫昌推荐了在武备学堂毕业的学生冯国璋、段祺瑞、梁 华殿和王士珍。
袁世凯这个时候极需军事干部，所以当荫昌介绍了这几个武备学堂毕业的学生来见 他后，他立即派冯国璋为步兵学堂监督兼督操营务处总办，段祺瑞为炮兵学堂监督兼炮 兵营统带，王士珍为讲武堂总教习兼工程营统带。步、炮、工兵学堂都是附设在新军里 面的随营军事学校，因此这三个军官既要带兵，又兼管训练，所担任角色的吃重可以想 象；同时亦可看出袁世凯在这时所能吸收的军事人才是多么稀少零落。由于王、段、冯 三人成为袁世凯建练新军的三根支柱，于是他们就分别得到龙（王士珍）、虎（段祺瑞）、 狗（冯国璋）三个绰号，另外对他们三个人的总称是“北洋三杰”。这北洋三杰的出身， 各自不同：
王士珍字聘卿，直隶正定县人，他的出身最为特殊。他家境贫穷，先为人放牛，随 后投入朝阳镇总兵杨瑞生的旗下为马弁。杨瑞生是湖南湘潭人，以洪宪祸首闻名的杨度 便是他的侄儿。王士珍虽姓王却不叫士珍。有一年聂士成编练武卫新军，曾向杨瑞生调 用军事人才，杨瑞生开了一张名单，保荐一批干部，其中一名是守备王士珍，不料王被 保后因病告退，回籍养病。恰好这位王马弁为人能干，立志向上，杨总兵因保单已送出， 缺了王士珍便叫王马弁冒充王士珍，顶名前往武卫新军报到。他到武卫新军后不久，又 由武卫新军选送到武备学堂受教三年，曾经参加过甲午中日战争，战后随聂士成驻军芦 台。他一直冒用王士珍之名，而真的王士珍却晚年潦倒，落到在杨瑞生家中做烧饭司务。 段祺瑞字芝泉，是安徽合肥人，在武备学堂毕业后，曾奉派去德国研究军事。冯国璋字 华甫，是直隶河间县人，出身秀才，在武备学堂步兵班毕业，曾供职于聂士成的武卫军， 后来再度进入武备学堂研究战术。梁华殿到小站仅很短一段时间，也许是他功名无份， 在一次夜间操作中，失足跌到水中淹死了。如果他在，北洋三杰也许会变成北洋四杰了。
袁世凯认为清军所以不能一战，有基本的原因，就是在一切编制和组织上都不能符 合时代，所以须从基本的军制上革新，参用西法，认真训练。因此他获准精练1．2万人， 作为新建陆军的基本武力。其中包括步队八营，共8000人；炮队两营，共2000人；马队 两营，每营500人，共1000人；工程队一营，计1000人。合共1．2万人。以步队为主，炮 队为辅，马队巡护，工程队供临时调遣。在编制上分为两翼，设统领二人，下设分统、 分领训练，每分统统辖步队二千，炮队二千，马队一千。其组织如下：
新建陆军步队营，设统带官兼一员管辖全营，帮统带官一员，管带领官四员，哨官 12员，哨长24员，督排哨长四员。
新建陆军炮队营，设统带官一员，管辖全营。帮统兼左翼领官一员，管辖三哨。副 领官兼哨官三员，哨长九员，各管重炮二尊。管查炮马哨长一员，帮统兼右翼领官一员， 管辖三哨。副领官兼哨官三员，哨长12员，管查炮马哨长一员，帮统兼接应马炮队领官 一员，管辖三哨。副领官兼哨官三员。哨长九员。管查炮马哨长一员。
新建陆军马队营，设统带官一员，管辖全营。帮统官一员，领官兼一哨官四员，哨 官八员，哨长12员。
新建陆军工程营，管带官一员，帮带官一员，委员一员，管理桥梁司队官一员，木 工四队，铁工一队，水工二队。管理地垒司队官一员，筑工四队，石工一队，筐工二队， 土工二队。管理电雷司队官一员，雷兵三队，管理修械司队官一员，修炮铁工一队，修 枪铁匠二队，修械木工一队。管理测绘司队官一员，测绘一队，印化兵一队。管理电报 司队官一员，工匠一队。
新建陆军督练处，督练官一员，稽查全军参谋军务营务官一员，执法营务官一员， 督操营务处一员，督队稽查先锋官14员。另教习处洋教官13员，翻译13员，粮饷局总办 委员一员，管理采买制造委员二员，军械局总办委员一员，收发军械委员二员，军医局 正医官一员，副医官一员，还有转运局、侦探局等。
新建陆军须账篷2400个，全部用外国帆布制造，每一名士兵均备洋制雨衣、雨帽和 洋毯，每哨有洋表，双筒望远镜和指南针。每二营有行军电台。每官长有督队腰刀一把， 手枪一只。这就是小站练兵时的军队组织。
袁世凯是在光绪二十一年（1895年）十月领旨，以浙江温处道统领定武军。他得旨 后即布置一切，由北京起程，遄赴小站就职。他先修缮淮军旧驻的废垒，把营基扩充， 同时请求改定武军为新建陆军督练处以正名，派遣副将吴长纯等往准、徐、鲁、豫各地， 开具格式，选募壮丁；又派都司魏德清等到新民厅选募骑兵，购买马匹；还有关于武器 的规格。他觉得定武军虽只是4000人，可是所使用的枪炮完全没有划一，有的日造，有 的俄造，有的德造，式样既旧，款式又杂，于是他请求军务处发给新式划一的步枪、骑 枪、速射炮等。
光绪廿一年十一月六日，新军获准编成，编制中分步兵为左右两翼，左翼二营，由 速射炮队、重炮队、骑兵队接应；右翼三营，由炮队接应。分骑兵为四队，选拔宿将和 学生督率营伍，研究操法。工程营分为修械、桥梁、地垒、雷电、电报、测绘六司。此 外还请了更多的德国军事教官，以及日本和美国军事教官，并在军营中成立一个德语学 堂以教德语，因为新军训练工作仍以德国军事教官为主。其他附属单位还有：粮饷局、 军械局、转运局、洋务局等。
由于小站练兵完全新式，名目既多，化钱也不少，因此被一般守旧人物所攻击。光 绪廿二年（1896年）御史胡景桂上章参劾，认为小站兵事浪费国帑，清廷乃派荣禄到小 站详细检阅，同时考查训练进步情形。荣禄当时是慈禧的红人，他视察得非常仔细，也 因此更深一步赏识袁的才干，和他所练新军的成就。
荣禄的报告到了慈禧和光绪手中，这两位最具权威的人物也对袁有了深刻的印象。
光绪这时锐意革新，虽然他还不知道应该怎么做，但他能接受新的事物、新的建议。 袁世凯因为练新军颇有成绩，加上他过去在朝鲜的种种作法，使光绪开始对这个小小道 员有了好感。
慈禧也对袁有了认识，因为她对于荣禄的话是言听计从的，荣禄曾亲自看过袁的练 军工作，并且对袁甚有好评，则袁的能干有为是必然的了。
小站练兵给了袁世凯表现能力的机会，有了建立羽翼的条件，也使他获得那时代最 有权势的人对他的重视。
光绪廿五年（1899年）二月，荣禄再度莅临小站点校新建陆军，对于新军的规模、 训练、精神以及所操演的阵形都极表满意，并且大为激赏。他告诉袁世凯说已经奉了慈 禧的密旨，授权他在北洋组织一支崭新的军队。在他心目中，认为这支新军应该以新建 陆军为模范，他令袁世凯就编组北洋新军向他提出具体的计划。
袁世凯费了三天的时间拟就新军的军制和组织，一切仿效新建陆军，共为五军，每 一军共辖八营：计步兵五营，炮兵一营，马兵一营，工兵一营，另附一个学兵营。每营 设一个统带，统带率四个领官，每个领官领一队，每队250人，所以每营是1000人。规定 每营兵士必须足额，饷粮按人发给，足食足兵。
荣禄立即接受了袁世凯的献议，将这个新军订名为“武卫军”。武卫军分为五个军， 为：武卫前军，武卫后军，武卫左军，武卫右军，武卫中军。荣禄担任武卫军的统帅并 兼统武卫中军，以马玉昆统武卫前军，聂士成统武卫左军，袁世凯统武卫右军，董福祥 统武卫后军，每军九千余人。武卫右军即由新建陆军改编而成，是武卫军中最完整，最 精锐的部队。武卫中军则是重新招募，以旗丁为主，一切规模俱参照新建陆军，所以人 数也有1万人，而且都是年轻精壮的。武卫前军，武卫后军，武卫左军这三支部队则是以 燕陇旧军改编，如董福祥的武卫后军就是由甘军改编，所以旧勇营的习气和组织仍然存 在，非常散漫。荣禄虽然限令他们就地整编，可是整编工作却很迟慢。
武卫军成立后，袁常往来北京和天津，他的圣眷日隆，慈禧特赏他在西苑门内骑马 和乘坐拖船，这些特权都是对一个大臣的无比殊荣。