武警部队的创建，经历了长期的历史发展过程。早在第二次国内革命战争、抗日战争、解放战争时期，就有了她的雏形。当时，为了开展对敌斗争、巩固革命根据地，党和政府先后在苏区、抗日根据地和解放区建立了不同名称、不同数量的执行公安保卫任务的人民武装，如警卫营、政治保卫队、警备团、保安团、公安队、武装警察总队等，主要担负警卫首长和领导机关，弹压叛乱，肃清特务汉奸，看押罪犯，维护治安等任务。随着解放战争的胜利发展和各级人民政府的相继建立，这支执行公安保卫任务的武装力量也逐渐发展和壮大。
1949年9月29日，中国人民政治协商会议第一届全体会议通过的《中国人民政治协商会议共同纲领》规定：“中华人民共和国建立统一的军队，即人民解放军和人民公安部队，受中央人民政府革命军事委员会统率，实行统一的指挥，统一的制度，统一的编制，统一的纪律。”当年8月31日，中央军委颁布命令，成立中国人民公安中央纵队。11月8日，于北京西苑举行中国人民中央公安纵队成立大会，朱德总司令亲临检阅。
1950年1月至5月，经党中央批准，公安部和各省、市、自治区公安厅（局），对原有的公安武装进行整编和扩建工作。1950年9月20日，中央人民政府人民革命军事委员会发布《关于成立公安部队领导机构》的电令，人民解放军公安部队领导机构宣布成立，公安部长罗瑞卿任司令员兼政治委员。
在此以后，这支部队的体制、名称有过多次变动和调整，曾先后称“中国人民解放军公安军”、“中国人民公安部队”、“中国人民武装警察部队”；有时归军事系统建制领导，有时归公安机关建制领导，有时实行军事系统和公安机关双重领导。
1982年6月19日，中共中央决定将人民解放军负担内卫执勤任务的部队移交给公安部队，同1973年、1975年移交的边防部队和县、市中队以及公安部门实行义务兵役制的消防警察统一起来，重新组建“中国人民武装警察部队”。1983年4月5日，中国人民武装警察部队总部在北京宣告成立。在武警部队的建制上、先后有基建工程兵的水电、交通、黄金部队以及森林警察和公安部警卫局列入武警部队序列。
1995年3月3日，国务院、中央军委《关于调整中国人民武装警察部队领导管理体制的决定》规定，武警部队属于国务院编制序列，由国务院、中央军委双重领导、实行统一领导管理与分级指挥相结合的体制。
1999年2月10日，国务院、中央军委决定、水电、交通部队由武警总部实施统一领导管理；黄金、森林部队由武警和国务院有关部队实施双重领导管理。