女真人是后起的游猎民族，其文化水平赶不上宋，就是比起契丹来也有相当大的差距。从某种意义上说，恰是由于契丹人与汉人接触时间比较长，汉化的程度比较高，所以才失掉了原来的锐气，被一个原来臣服于它的后起民族所击败。当女真人打败契丹人，进入辽国腹地的时候，他们还谈不上有国家组织，其社会组织基本上是氏族部落式的。其首领完颜阿骨打成功地将女真诸氏族部落联合起来，组成部落联盟，利用原来部落的军事组织猛安、谋克，带着草原和山林里的锐气，终于取代了辽国，成为宋在女真人国家的成长过程中，最先继承的是辽国的遗产。史传，当完颜阿骨打带兵进入燕京时，燕人迎他进入皇宫，但他不肯在宝座上就座，而是跟他的伙伴们握着拳头，坐在“殿之户限上”，接受燕人的投降，因为宝座只有一个，他想让伙伴们都坐。人家送他皇帝专用的黄盖，他却问有多少，想跟伙伴们一人一顶。（《三朝北盟会编》政宣上帙12《北征纪实》）这些从草原和山林里刚走出来的人，对于国家和制度还不了解。完颜阿骨打不让人向他跪拜、下属祝酒，不知道喊万岁，“唯祝百二十岁而已”。（《续夷坚志》卷2《历年之谶》）灭辽之后，才从辽人（包括在辽做官的汉人）那里，学了一些制度和规矩。原本连文字都没有的女真人，知道了什么叫“皇帝”，采用了一点礼仪，直到攻下宋都汴梁，得到宋室的法器仪仗，才略微知晓了一点皇帝的仪式排场。
灭辽后，女真人开始模仿辽国建立国家制度。打下燕京之后，他们先在广宁设置枢密院，粗创一个政府，由完颜阿骨打的儿子斡离不主掌。而后，控制云中的金军元帅粘罕也设了一个枢密院，女真人称之为“东朝廷、西朝廷”。加上设在上京会宁的朝廷，女真人等于设了三个中央政府。而且，所有女真官员，统称“孛堇”，或者叫“勃极烈”，即女真部落村寨首领。只是在孛堇头上附加另外的名号，以区别官的大小。显然，这是学习和模仿之初容易出现的混乱。女真人的军事民主体制，也不认为这种“多中心”有什么不妥。
在灭辽20余年后，到了金熙宗时代，女真人才开始系统地采用汉人的制度与官职。不过，金朝中央政府不设中书、门下两省，只有一个尚书省，尚书令为最高行政长官，其下为左右丞相和平章事，同为宰辅。下面就是作为执行机关的六部。因为金朝的决策体制始终没有摆脱原来部落会议的影响，由亲贵组成的“大臣会议”，才是真正意义上的最高权力结构，所以，只模仿汉制中作为执行机构的尚书省也就没有什么奇怪的了。到了后期，由于皇帝努力打击亲贵，将权力掌控在自己手里，大臣会议才开始萎缩，但替代物却是皇帝的近侍。最高权力由皇帝与近侍分享，尚书省只是一个执行机关。
金朝制度的另一个特色是，经常将中央机关以“行”的名义派到地方上去，比如“行尚书台”、“行司农司”，管理皇室宗亲的大睦亲府，也在地方上设置分司。
此外，金朝地方官制往往跟辽国类似，既有唐朝的官衔，如节度使、刺史等名目，也有宋朝的官衔，如知府、知州。名目混杂，将两套官制堆在一起，彼此的隶属关系往往不甚清晰。这也是为什么中央非得将直属机关延伸到地方的原因，因为这样才能确保某项事务的落实。
金朝虽然不像辽那样设置北面（总的）和南面（专门管理汉人的）两套官署，但双轨制的痕迹一直存在。金朝的皇帝制度一直就不稳定，皇位继承，始终在皇帝传子和贵族首领的推选传统之间摇摆，导致皇位争夺激烈，政局因此动荡不已。学了汉人的科举，却分设汉人和女真两套考试体系，女真试往往很随意。中央机构重要的职位一般都在女真人手里。地方也一样，除了县级之外，主官一般由女真人担任。长期以来，担任地方“亲民”之官的女真人往往不肯学习汉语，所以官衙里必须设置通事（翻译）。《建炎以来系年要录》（卷18）记载过这样一件事情，说是一个和尚告某富户欠债不还，官司打到燕京留守尼楚哈那里。富户贿赂通事，结果上堂时通事将和尚的诉状翻译成：天旱不雨，和尚想要自焚求雨，结果和尚被拖出去烧了。事实上这样的事情在中央政府也存在。据说，金熙宗统治末年，一次天变，皇帝以为不祥，下令大赦，让汉人的学士草诏。因文中有引自《尚书》的“顾予寡昧”和“眇予小子”之语，结果通事说，此汉儿骂皇上，寡是孤而无亲的意思。昧是不知人事，眇是瞎眼，小子为孩儿。惹得皇帝大怒，汉人学士因此丢了性命。（岳珂：《程史》卷12）事实上，女真统治者接受汉化多少带有不得已的意思。灭辽不久就仿照契丹文造了女真大字，当金熙宗推行汉官制的时候，又造了女真小字，意图就是力求保持自己的文化特色，在不得不接受汉文化的同时，另辟蹊径，建立女真的典籍文化系统。然而，女真半原始的文化毕竟敌不住先进得多的汉文化。而由上层生造出来的女真文字，又缺乏典籍和历史的支持，结果在举行女真科考的时候，不得不将汉人典籍翻译成女真文字。女真上流文化虽然在内涵上已经接受了汉化，但形式上却依然缺乏魅力。好学的女真人往往直接学汉文，而不学的则什么也不学。现在考古发现的女真人墓葬和遗迹，凡有文字的多为汉文，说明女真文字的生命力的确有限。文化上的双轨制是制度双轨制的根源，反映了女真人接受汉化的不彻底。事实上，在金朝，只有少数女真上层人士汉化程度较高，大量贵族和一般部落人众始终缺乏汉化的积极性，造成了女真人整体文化素质低下，无法比较充分地利用制度化成果，提供治国资源。
