泰安人民公安机关始建于抗日战争初期，随着抗日根据地的创建和民主政权的建立而诞生。历经抗日战争、解放战争、社会主义革命和社会主义建设等时期，多次变动，几易其名，直至1985年泰安“撤区改市”，泰安市公安局成立。分为6个时期：
一、1938—1950年，中国共产党领导的泰山区、泰西区公安机关
自1938年起，泰西、泰山两区特委相继建立，至1950年5月两区合并，历时十余年。这一时期的公安工作亦按泰山、泰西两区分述。
1．泰山区公安机关
①1939年1月1日，中共泰山特委在莱芜县圣井村成立，下设政治保卫局，对外称军法处。11月改为泰山地委社会部。
②1939年9月9日，泰安、莱芜、章丘、新泰、淄川、博山、历城七县行政联合办事处在莱芜县常庄响水湾成立，设锄奸科。
③1940年3月31日，在七县联合办事处的基础上建立了“泰山行政专员公署”。同年10月，泰山专署成立公安局，辖泰安、莱芜、章丘、淄川、博山、新泰、泰宁、历城八县公安局。1941年5月，泰山地委社会部与公安局合并。
④1942年5月，鲁中区行政联合办事处成立，泰山专署公安局改称鲁中区第一（泰山）专署公安局，辖泰北、莱北、博莱、淄川、章丘、历城、益临边七县公安局。
⑤1944年初，泰山专署公安局与泰山军分区锄奸股合署办公，1946年6月分署办公。
⑥1948年7月20日，鲁南行署、鲁中行署及滨海专署、泰西专署合并为鲁中南行署，原鲁中区第一（泰山）专署改为鲁中南第一（泰山）专署。同年8月15日，组建鲁中南第一（泰山）专署公安局，辖泰安、莱芜、历城、章丘四县公安局。
2．泰西区公安机关
①1938年5月，泰西特委成立，下设保卫部，辖泰西、长清、东平、平阴等县保卫部。
②1939年1月，泰西特委改为泰西地委，特委保卫部改为地委社会部，辖泰西、肥城、长清、平阴、东平、宁阳、汶东等县。
③1942年6月，成立晋冀鲁豫边区第十六专署公安督察处，辖泰西、肥城、峰山、长清、平阴、东平等县公安局。
④1942年12月，晋冀鲁豫边区第十六（泰西）专署与十九（运东）专署合并称晋冀鲁豫边区第十六行政督察专员公署（泰运专署），两个公安督察处合并改为第十六专署公安督察处，辖泰西、肥城、长清、峰山、平阿、齐禹、筑先、宁阳、茌平、博平、东阿、阳谷十二县公安局。
⑤1944年5月，冀南、冀鲁豫区合并为冀鲁豫行署（中共平原分局），泰运专署改为冀鲁豫第七专署，公安督察处改为冀鲁豫行署第七专署公安督察处，辖泰西、肥城、峰山、长清、宁阳、齐禹、平阿、筑先、茌平、东平、博平、东阿、阳谷十三县公安局。
⑥1946年2月，冀鲁豫行署第七专署公安督察处改为冀鲁豫区第一行政区公安分局，辖泰西、肥城、长清、河西、平阴、宁阳、齐禹、筑先、茌平、东平、博平、东阿、阳谷十三县公安局。
⑦1947年4月，冀鲁豫行署发出通令，各专署公安分局改称公安局，冀鲁豫区第一行政区公安分局遂改称冀鲁豫区第一行政区公安局。
⑧1948年7月，冀鲁豫第一专署划归鲁中南区改为第七专署，公安局随之易名。1949年7月鲁中南区第七专署改为泰西专署，公安局改为泰西专署公安局，下辖泰西、肥城、长清、平阴、宁阳、东平、汶上七县公安局。
二、1950年5月—1967年1月，泰安专署公安处时期
1950年5月，泰山区、泰西区合并，成立山东省泰安专区行政督察专员公署，随之成立公安处，简称泰安专署公安处，驻泰城大关街东首（现泰安市公安局院内），处长姜铭安。设人事科、秘书科、侦审科、保卫科、治安科、劳改科，编制45人，下辖泰安、莱芜、新泰、泰宁、东平、肥城、宁阳、泗水、平阴、汶上、长清、历城十二个县级公安局。1952年9月，泰宁县改称徂阳县，公安局随即更名。1953年8月，泰安专区汶上县划归济宁专区，公安局一并划出。1956年3月，徂阳县撤销。1956年7月，泗水县划归济宁专区，公安局一并划出。1958年4月，历城县划归济南市，公安局随之划出。
1958年5月，泰安县析设泰山市。1958年11月，泰安专区与济南合并，泰安专区公安处与济南市公安局合并，机关迁驻济南市。11月29日，泰山市与泰安县合并建立泰安市（县级市），公安局改为泰安市公安局。1959年10月东平县划归梁山、汶上、平阴三县，东平县公安局撤销。11月建立新汶市，并成立新汶市公安局。1961年5月，泰安济南又分开，恢复泰安专署公安处。1963年4月18日,撤销泰安市,恢复泰安县。1963年5月，泰安市公安局改称泰安县公安局。1964年2月，劳改队（1952年称劳改科）划归省劳改局。1965年新汶市改为新汶县，公安局随之改为新汶县公安局。
三、1967年1月—1973年5月，“文化大革命”时期公安机关
1967年3月，公检法合并成立“泰安地区革命委员会保卫部”。1968年3月5日，成立“中国人民解放军泰安地区公安机关军事管制委员会”，简称“军管会”。在此期间“保卫部”与“军管会”并存，“保卫部”协助“军管会”工作。1969年1月“保卫部”解体。“军管会”先后更换过两批，第一批是济南军区工程兵部，第二批是济南军区200师，军管初期，公、检、法干部到界首“五七”干校改造，一切工作由军代表负责。军管会后期，公、检、法干部陆续撤回参与日常工作。
四、1973年5月—1980年10月，泰安地区公安局时期
1973年5月“军管会”撤销，公安机关恢复日常工作。1973年底，山东省公安局要求各地将公安处改为公安局，1974年1月，“泰安地区公安处”改称“泰安地区公安局”。
五、1980年10月—1985年5月，泰安地区公安处时期
1980年10月，根据上级指示，“泰安地区公安局”改为“泰安地区公安处”，处长仍由王善堂担任。1982年1月泰安县改称泰安市，1983年8月莱芜县改为莱芜市，1983年10月新汶市与新泰县合并为新泰市，三县公安局分别改称市公安局。1983年10月，汶上、泗水两县重新划归泰安地区，公安局随之划入泰安地区公安处。1983年1月，泰安地区公安处民警科转为现役，成立中国人民武装警察部队泰安支队。
六、1985年5月起，泰安市公安局时期
1985年5月，泰安地区改称泰安市，泰安地区公安处随之更名为泰安市公安局，局长张润兴。辖新泰、莱芜、肥城、宁阳、东平五县，原泰安市划分为泰山、郊区两区。汶上、泗水两县划归济宁，平阴县划归济南，三县公安局一并划出。1986年2月，成立泰山景区公安分局。1992年，莱芜市由县级市升为地级市，公安局随之划出。2000年，郊区公安分局随行政区划更名为岱岳区公安分局，新汶、肥城矿业集团公安处改为泰汶、陶山分局。2002年6月，成立高新技术产业开发区分局。
2003年，改建以后的泰安市公安局办公楼
