府兵之名始见于西魏，但西魏的府兵还是带军籍的私兵，士兵要随将领之姓，是将领的私属。北周时，开始吸收均田制的农民当兵，府兵开始向国家化方向发展。隋朝建立，推行军队国家化自然是制度建设的主攻方向，所以，府兵制彻底与均田制相结合。凡是军士，都可以分到一份田地，军人不再有特殊军籍，完全归属乡村的坊里管理，虽然军府还在，但已经成为分得土地的军士（实际上是农民）平时训练和服役的管理机构，从此形成了寓兵于农、兵农合一的军事制度。
唐代进一步完善了府兵制，设置诸道折冲府，管辖府兵。折冲府分上、中、下三等，各设专职军官若干、军曹若干，负责平时的训练，每年上级机关点校检阅一次。上府辖府兵1200人，中府1000人，下府800人。平时就编成军队组织，十人为火，火有火长；五火为队，队有队长；两队为旅，旅有旅帅；三旅为团，团有校尉。自队长以上，皆有官阶。士兵训练和入伍（上番）时，按编制行动，由折冲府的军官率领。府兵21岁服役，60岁退役，在这期间都要为朝廷当兵服役。府兵除了平时集中训练以外，主要任务就是到京师和边境服役，又叫“上番”。按服役地点的远近，决定服役的方式，如果500里内，则一个府分成五组轮流服役；如果1000里，则分成七组轮流，余类推，每年服役1个月。如果恰好赶上战争，那么就得延长，以后来的服役量折补。府兵上番，须自备武器装备和粮食，只有超过规定上番时间的时候，才由国家提供粮食。府兵每3年选1次，挑选的时候既要考虑家产，又要考虑被挑民户的男丁多寡，一般是考虑多财和多丁的。
府兵是唐朝初年的基本军事力量。按道理，府兵的选点应该按人口的分布平均分布，但实际情况却是，军府大部分集中在关中地区，也就是说，关中地区的人，构成了唐朝初年军队的大半。“（唐）太宗列置府兵，分隶禁卫，大凡诸府八百余所，而在关中者殆五百焉，举天下不敌关中，则居重驭轻之意明矣。”（《资治通鉴》卷228《唐纪44》）实际上，不仅府兵大部分是关中人，军队的将领也大部分是关中人。泛而言之，唐朝立国，实行所谓“关中本位”，从皇帝到勋臣基本上都出身关中。可以说，关中人是那个时代的统治人群。当然，我们不排除这里有关中人膂力强劲、高大威猛的因素。因为那是一个胡汉杂处、人口素质因游牧民族混杂而得到极大提高的地区，所以多出一点军人，自然也是可以理解的，但比例如此不均衡，恐怕就是统治的地缘因素了。事实上，也许只有关中来的军队，皇帝才能放心得下。
应该说，府兵制在唐初，还是比较有效的。在对付突厥的战争中，府兵发挥了很强大的战斗力。这是因为唐初的府兵，大部分是久经沙场的老兵。这些老兵在分给土地之初，既保有原来的战斗力和作战经验，同时又为分得土地感到鼓舞，所以制度才有如此的效能。从本质上讲，一个农业民族，想要使居民既做战士又做生产者，其实是有些难度的。即使勉强实行，效果肯定不如游牧民族那么好。在冷兵器时代，对于游牧或者游猎民族来说，马上的骑射功夫，平时和战时没什么两样，平时的生活游动性就很大，战争所需要的背井离乡、长期流动，对于他们来说是日常生活中平常的事。所以，游牧和游猎民族，一旦出现杰出的领袖，往往会以他们平时的生活组织为基础，建立牧兵合一的军事组织。这在对付汉民族的战争中，多半会比较有效。但是，作为农业民族的汉族，模仿这种制度对付游牧民族时，却常常力不从心。道理很简单，农业生产与打仗之间，相似之处太少，而且，农业生产所要求的不误农时，大量的劳动力投入，都与战争的要求背道而驰。背井离乡对于农民来说，是一种巨大的痛苦，完全不可能像游牧民族那样，将家庭驮在马背上，什么地方可以生活，就在那里安家。因此，我们可以说，唐初府兵的成功只是一个例外。
另外，军府过分集中于关中，使得关中人当兵成了一种职业，结果造成了两极分化。一方面，一般老百姓被频繁征发，“况复秦兵耐苦战，被驱不异犬与鸡。”（杜甫：《兵车行》）关中农田荒废，生产下降。本来富庶的八百里秦川很快就凋敝下来，地处关中的长安越来越依靠南方漕米的供应，由于运输不便，中央政府不得不多次到洛阳“就食”，关中的农民日益贫困化，大量农户濒于破产。另一方面，出身勋贵之家的府兵，由于往往派去做皇宫的守卫和皇帝的侍卫，很快就会升为军官，成为一般府兵的管理者。这些纨绔子弟，没有经历过战争，又只知道作威作福，使得府兵日子更加不好过。所以，富者雇人代替，而穷者难以应付，自备军械和口粮，也成为府兵日益难以承受的负担。上番的日子也越发难过，结果是大批关中农民逃亡，府兵越点越少，从三年点一次，到六年一次。到了开元年间，朝廷干脆停止了府兵的上番，府兵制名存实亡。
府兵停止上番之后，取而代之的是募兵制。
首先出现的是团结兵。团结兵是地方政府招募的军队，从武则天时代已经开始广泛出现，主要用于防范和镇压边境和西南少数民族。无论何人，只要骁勇都可以当兵。被招募以后，免去一切徭役和赋税，平时在家练习武艺，按时集中阅试，有事时则出征。其次是扩骑。系开元年间，由宰相张说的提议开始征召的。扩骑和团结兵一样，只要身体条件合乎标准，所有人都在被招募的行列。被选中以后，免除徭役和赋税，需要时则集中起来出征。团结兵和扩骑，跟府兵不同的是，不再严格隶属军府，出征也不用自备资粮，而且国家还发给一定数目的补贴。
如果说，团结兵和扩骑还不属于完全的职业雇佣兵，他们平时还属于老百姓，生活来源主要还是依靠平时所从事的行业，当兵的收入只占一部分的话，那么边防上的官健，则是一种以当兵为职业的雇佣兵。由于府兵逐渐无力自备资粮，于是在担任守边任务时，边境军镇开始用发补贴的办法，给予上番的府兵资助。这个制度逐渐发展到招募乐意长期在边防驻守的男丁（实际上是流民和半流民。后期则大量招募少数民族），由军镇发给衣食和金钱，形成了边境上的常备军，人称官健，属于完全意义上的职业雇佣兵。
在募兵制的发展过程中，团结兵和扩骑属于不完全的雇佣兵，而且多处在内地，时间一长，尤其是西南少数民族逐渐无事以后，也渐渐开始流于形式，武备废弛。但官健作为边境上的常备职业军人，由于不断地有战事（有唐一代，边帅生事，对外取攻击策略是一大特色），因而得到锻炼，本来职业军人的军事素质就要优于半职业兵，这样一来就更加精锐。而且唐朝盛时，皇帝经常对外扩张，结果是促使边境的军队不断扩展，边兵不但强，而且人数也不断增加。而内地，包括京师则武备废弛，府兵、团结兵和扩骑都走向了没落，百无一用。更重要的是，唐朝由于皇族的少数民族血统，所以根本不在乎用少数民族将领统兵——这个在其他朝代看来需要顾忌的问题。所以，长期以来，对王朝缺乏文化依附的少数民族出身的将领，随着军功的增加而官越做越大，在实行诸道节度使制度之后，许多边帅担任权力很大的节度使，造成了军事上内轻外重的危险局面。某些少数民族将领，刻意招募善战的少数民族为兵，形成自己的私人部队。如安禄山就招募几千少数民族壮士，组成自己的亲卫部队“曳落河”。最后，在外表上看起来唐朝的最强盛时期，开元天宝年间，爆发了“安史之乱”，蓄谋已久的胡人边帅终于发动了对朝廷的叛乱。当朝廷费了九牛二虎之力好容易将叛乱讨平时，已经元气大伤，而就此形成的边地藩镇割据也愈演愈烈、此起彼伏，最后，唐朝还是完结在军阀割据和农民起义的双重打击下。
