永乐二年(1404)设北京兵马指挥司，定都北京后分设五城兵马司。即中、东、西、南、北五城兵马指挥司正6品衙门。各设指挥1人，副指挥4人，吏目1人。负责治安、火禁及疏理泃渠街道等事。相当于现在的北京市卫戍区及公安局。
明代的兵马司隶属于兵部。清代的兵马司隶属于都察院。据说，兵马司初设时，街区凡有水火盗贼及人家细故之或须闻之官者，皆可一呼即应，救火、巡夜，清廉为政，不取分文。但是到后来日久弊生，始而捕盗，继而讳盗，终且取资于盗，同盗合污，不得人心。光绪十六年（1890）就有大臣向皇帝禀奏，“京城地面捕务不力，请饬整顿”。光绪二十七年（1901）撤销五城兵马司，成立工巡局。光绪三十一年（1905）九月撤销工巡局，成立巡警部。北京设置警察总厅和内外城警察厅。此为北京警察设置之始。至宣统末年，北京设置派出所，当时，内城有二百零四个派出所，外城有一百三十六个派出所