金建国之初,推行勃极烈制度。勃极烈是女真语,意思是“治理众人”,据满洲人说,即清代之“贝勒”二字异译,也就是官。金太祖以都(总)勃极烈即皇帝位,太宗以谙版(尊贵)勃极烈居守。其次则有国论(贵)勃极烈(相当于宰相)及左右国论勃极烈(相当于左右相)等,都是政府最重要的官员。所属各部长官叫孛堇,统领数部的叫忽鲁。以后随着辖区的开拓,金朝官制也不断变化。金熙宗即位后,废除勃极烈制,全面采用辽、宋官制。设三师(太师、太傅、太保)、三公(太尉、司徒、司空)、三省、六部、御史台、都元帅府、大宗正府、翰林院、太常寺等。值得注意的是,三省并不是各自分立,门下、中书二省地位低于尚书省,长官也由尚书省官员兼任。实际上是尚书省执政,中书省和门下省隶属于尚书省。到海陵王正隆元年(公元1156年)改革官制,金朝官制才大致固定。设置如下:
中央机构重要的特征是不设三省,以尚书一省为最高行政机构。尚书省设尚书令,是最高行政长官;左右丞相、平章政事(一度废除),相当于宰相;左右丞、参知政事,相当于副宰相。不过尚书令地位过高,逐渐演化为荣誉职衔,真正统领尚书省的是左丞相。尚书省下又分左、右司,各有郎中、员外郎、都事,分管左、右司事务,并分察吏、户、礼三部和兵、刑、工三部。六部长官为尚书,下设侍郎、郎中、员外郎。地方如有重大变故,尚书省则向地方派出机构,称行台尚书省,也简称行省。天德二年(公元1150年)曾一度罢置,但不久恢复。行台尚书省设官与尚书省相同,惟不置令,级别也低尚书省一级。
中央其他机构大体可分为五类。
第一类是与军事相关的机构。枢密院是最高军事机构,长官是枢密使,下设副使、签书枢密院事、同签枢密院事。枢密院与尚书省下的兵部有相互制约的作用,枢密院是军队的统率机构,兵部则是军政事务的管理机构。总的来说,枢密院是受尚书省节制的。武卫军都指使司,负责守卫京城,长官是都指挥使。殿前都点检司,负责侍卫宫廷,长官是殿前都点检。军器监,主管修治兵器,长官为军器监。
第二类是与监察、谏议、司法相关的机构。御史台是最高监察机构,长官是御史大夫、副贰是御史中丞。下设侍御史、治书侍御史、殿中侍御史、监察御史。登闻检院,初隶御史台,负责向皇帝报告尚书省、御史台处理不当的事情。登闻鼓院,初时亦隶御史台,负责向皇帝报告御史台及登闻检院处理不当的事情。两院各设知院、同知院事。章宗明昌二年(公元1191年),登闻检院、登闻鼓院从御史台分出,自成独立机构。谏院是负责向皇帝进谏的机构,有左右谏议大夫、左右司谏、左右拾遗、左右补阙。审官院负责奏驳任命官员中的失误,设知院、同知院事。大理寺,负责司法刑狱,与宋制相同。
第三类是与经济财政相关的机构。金章宗时候,户部从尚书省中独立出来,改称三司,成为最高财经机构,长官是三司使,宣宗初年罢。劝农使司是主管农业的机构,长官是劝农使,宣宗时改为司农司。太府监是主管国家财用钱谷的机构。少府监是主管手工业生产的机构。都水监是主管水利工程等事务的机构。各监设监、少监等官。
第四类是与礼仪、教化、文翰等事务相关的机构。有主管礼乐、祭祀的太常寺,主管朝会、筵席、殿庭礼仪和监制御膳的宣徽院,主管纂修国史的国史院,主管学校的国子监,主管经籍图书的秘书监,主管校译经史的弘文院。这些机构设官大多与辽、宋相同。
第五类是为皇帝家族服务的机构。大宗正府是主管完颜氏皇族事务的机构,设判大宗正府事等官,金章宗时改为大睦亲府。卫尉司是主管皇后中宫事务的机构,设中卫尉、副尉、左右常侍等。宫师府是为皇太子专设的官署,有太子三太三少,下设詹事院,由詹事、少詹事总领东宫庶务。
金朝地方分路、府、州、县四级。有十九路,分以京为名的路和一般的路。金置五京:中都(今北京)、南京(今河南开封)、北京(今内蒙宁城县)、东京(今辽宁辽阳)、西京(今山西大同)。以这些京为名的路置留守司,主管一路政务,设留守、同知留守、副留守等官。又置按察司,主管一路司法监察,设使、副使。兵马都总管府,主管一路兵马,设都总管、副都总管等官。一般的路只设都总管府,主管一路军政。路的治所称府,府设府尹、同知、少尹等官。金的地方官制较为复杂,以诸京留守司留守带本府府尹兼本路兵马都总管为第一级,诸府府尹兼都总管为第二级,诸府府尹不兼都总管为第三级。州分节镇州、防御州、刺史州,分设节度使、防御史、刺史为长官,总领一州军政。县一级设令、丞、主簿、尉等。与县相仿的镇、城、堡、塞,各设知镇、知城、知堡、知塞,都是从七品小官。关津路口则设巡检,负责稽查奸伪盗贼。
与州县并行的还有猛安谋克制度。猛安谋克是女真内部军政合一的一种组织。金国建国前,猛安是作为部落和部落长的称谓,谋克是作为氏族和氏族长的称谓。各部落成年男子平日生产,战时参战。建国后,女真军由猛安(千夫长)、谋克(百夫长)逐级统领。在燕山以南、淮陇以北的广大地区,猛安谋克人户实行计口授田,保聚土地,无事耕作,有事战斗。猛安、谋克也就既是军事首领又是行政长官。宣宗以后,猛安谋克逐渐瓦解。