元朝的中央行政机构的设置，基本上因袭金朝制度，实行一省六部制，只不过将金朝的尚书省换成了中书省。另外，负责军政的依旧是枢密院，但不像宋朝制度，枢密使与丞相同为宰辅。元朝的枢密院一般不涉及行政事务，而是专管军队，属于一个单独的系统。在基本行政架构之外，除了前人所设的各种附属性质的监、寺，元朝还设置有专门负责蒙古事务的机构，分管各部蒙古领地。除此以外，元朝的太后、皇后、诸皇子拥有各自的领地和事务。管理这些事务的机构，也都列为政府机关，与诸监、寺并列。元朝负责供应宫廷的器皿服饰的部门有好几个，其中管理工匠的部门将作院特别庞大，下设各种分门别类的手工业部门，分工特细，如专管玉器的玉局提举司、负责金丝工艺的金丝子局等等。负责文翰等事的专门机构也有好多，有翰林兼国史院，有蒙古翰林院，还有秘书监、集贤院、奎章阁学士院，这些机构主要用来安置各族（主要是汉人）的读书人，让他们起咨询或者点缀的作用。元朝还设置了专门管理宗教事务的机构，即宣政院和大禧宗桎院，这显然跟蒙古人对于宗教相对包容的态度，以及作为世界性大帝国、各种宗教大规模涌人的局面有关。
尽管机构繁复，但元朝的制度化程度并不高。即使核心机构，也存在几兴几废的动荡。为了强化税收，尚书省凡三次“复辟”，每当“复辟”发生，中书省的职权就悉数归到尚书省。这样一来，往往引起整个体系的反弹，结果再撤掉尚书省恢复旧制。这说明蒙古人建立的王朝政府，其实并不太担心其制度架构的不稳定，往往为了某项临时任务，或者临时动议，就能够将核心机构轻易变更。
元朝的中书省等于是最高宰辅机构。中书令为首相，其下为左右丞相（元代右为上）、平章政事，左右丞、参知政事以及参议中书省事。这个机构里，首相和左右丞相一般为蒙古亲贵垄断，其余的人员也以蒙古人和色目人为主，汉人和南人（南方汉人）很少在其中出现。汉人即使进入中书省担任要职，其地位也不高，甚至可以说，跟蒙古贵族比起来，他们只是奴才。汉人杨居宽和郭佑位为参知政事，但是同列的蒙古大臣居然可以叫人打他们的耳光。如果政务出了问题，首先被惩罚的就是汉宫。
元朝的六部机构特别庞大，是所有行政事务的总汇机关，只有兵部不负责军队事务，只管理与军事有关的工匠事，以及军粮的运输。其中户部和工部最为庞大，各辖十数司，工部所管的官营手工业尤其繁杂。但所辖各司的名称很有意思，往往以创始人的名字命名，如中山刘元帅局、深州赵良局等，反映了元人在制度设置上的随意性。
尽管元朝的中央政府，机构庞大、官员众多，但实际上它们只是执行机关。真正的决策者，往往在这个官僚体系之外，它们一个是忽里台会议，一个是怯薛集团。而以后者最为重要。忽里台大会前面已经提过，这是元朝皇帝作为蒙古大汗真正的决策机制。凡是重大事务，都要通过忽里台的商议和通过，没有一个皇帝敢于忽视忽里台的意见。但是，忽里台会议毕竟不常开，一般经常性决策，还是怯薛集团在起作用，或者是怯薛宰辅共同起作用。怯薛又叫怯薛歹，是蒙古大汗的亲卫。在成吉思汗时代，作为大汗的他就组织了一支一万人的卫队。他规定，所有蒙古部落那颜（首领）必须将自己的儿子中的一个派到他的身边做卫士。开始具有人质性质，后来由于怯薛地位高，待遇好，所以做怯薛的人都很忠实于大汗，变成了铁卫队。这种卫士，蒙语叫做“怯薛歹”。这些卫士对铁木真极其忠诚，分成四队昼夜护卫着他。打仗的关键时刻，铁木真往往将怯薛派上去，几乎百战百胜。这些怯薛地位很高，一个一般的怯薛，地位甚至比千户长还要高。怯薛既是卫士，也是侍从。自铁木真开始，大汗自然要听忽里台会议上贵族的意见，但同时有事往往更乐意听怯薛的看法。就算是怯薛不参与决策，由于他们负有传递谕令、出纳王命的使命，所以，权力也大得很。各个要害部门，往往都设有怯薛监政，因为他们的地位有点类似于历代的宦官，深受皇帝的信任，可他们却比宦官地位尊贵，所以在政府中显得尤其跋扈。不仅如此，怯薛出身的人，在元朝被称为“大脚跟”，是最有来头的人，往往从卫士的位置上退下来，就担任最重要的职务。
忽必烈时代，在著名的奸相阿合马因政治斗争死后，忽必烈任用善于理财的汉人卢世荣担任中书省右丞，实际上负责中书省工作。几个月后，又因事将他下狱，在关了卢几个月后，忽必烈问近侍，对卢案处理的意见。近侍说，听人反映，卢世荣的罪已经定了，却还关在牢里，白白浪费国家的囚粮。于是忽必烈就下令将卢世荣杀掉，将他的肉喂宫里养的老鹰。由此可见元人为政的随意残忍和怯薛的分量。
