“左右羽林军”可以说是“北衙禁军”之首，它的产生比较复杂。它可以说是唐朝第一支真正意义上的“北衙禁军”，它的独立建制，标志着北衙禁军独立并壮大的过程的开始。
“北衙禁军”指的是屯驻于宫城以北，以保卫皇帝和皇家为主要职责的皇帝私兵；与国家军队“南衙府兵”相对。
北衙禁军是伴随着军队国家化的完成而出现的，是皇帝私人需求凸显的产物。真正意义上的北衙禁军形成于贞观十二年，以招募制和私属化为基本特色，这两个特点决定了前期北衙禁军发展的整体思路。
宗时，于玄武门置“左右屯营”，成份混杂，统属复杂；唐高宗龙朔二年，改“北门玄武门左右屯营”为“左右羽林军”；垂拱元年五月十七日羽林军正式独立建制，取消了以往以南衙诸卫将军检校羽林军的制度，羽林军正式升格为行政系统上独立的北衙禁军，定额兵士六千人。
两朝羽林军的建立和官署的完善使北衙禁军在建制上脱离南衙十二卫，这种走向与同时期“关中本位政策”的瓦解以及皇权的强化紧密相连。
这一时期，北衙禁军开始大规模消解府兵的职任和人员，在中央宿卫方面承担了主要角色。
再往后，北衙禁军成分越来越复杂，除了“北衙六军”，还有“神威”、“英武”、“射生”和著名的“神策军”。
值得一提的是，“左右羽林军”在天时期，曾被改称“左右羽林卫”。
实行“卫所制”军籍世袭，卫所兵有定籍，兵农合一，屯守兼备。
卫所极其庞大复杂，分为直属皇帝的“亲军京卫”和“五军都督府”下辖的卫所。
皇帝亲军上直“二十六卫”中，有“羽林左卫”、“羽林右卫”和“羽林前卫”。
这时的“羽林”，只是一种名号了，只是为诸多皇帝亲军中的一支所安的好听的名号而已，并无特别之处。
大将军各一人，正三品；将军各三人，从三品。掌统北衙禁兵，督摄左右厢飞骑仪仗。
大朝会，则周卫阶陛。巡幸，则夹驰道为内仗。凡飞骑番上者，配其职。
有敕上南衙者，大将军承墨敕，白移于金吾，引驾仗官与监门奏覆，降墨敕，然后乃得入。
长史各一人，从六品上；录事参军事各一人，正八品上；仓曹参军事各一人，兼总骑曹事；兵曹参军事各一人；胄曹参军事各一人。
自仓曹参军以下，皆正八品下。司阶各二人，正六品上；中候各
…。。