这个时代的，甚至在后世也不算落后，一无是处。
“杯酒释兵权”是人所共知的典故，但大家也知道若只是剥夺了那些宿将的兵权，而没有制度的的建设，依然会有新的军事将领拥兵自重。于是，宋太祖开始改革兵制，调兵、统兵权分离，调兵的不能统兵，统兵的不能调兵，如此就有效地消除了过去藩镇自雄、混乱割据的局面。
“兵符出于枢密，而不得统其众；兵众隶于三衙，而不得专其制。”也就是说枢密院与中书省分权，掌管兵符；“三衙”——殿前都指挥使司、侍卫亲军马军都指挥使司、侍卫亲军步军都指挥使司，分别统帅禁军、骑兵、步兵三个军种；而兵部最可怜了，仅仅负责后勤事务和管理地方的厢军。
在这种体制下，枢密院有调兵之权，却不掌管军队；三衙掌管军队，却无调兵之权；遇有战事，由皇帝任命大臣领兵出征，从而实现了“兵之权”与“握兵之重”的分离。这样一来赵匡胤以此强化了枢密院之权，用来分兵部之权——也就是削弱了相权，保证了皇帝对军队的完全控制。
当然宋代这样的兵制也不是说没毛病，是以牺牲效率为代价的，宋朝实行过更戍法，规定军队定期更换驻地，而将帅不随军转移，管理军队的不直接带兵打仗