说起中国的直辖市，人们往往会提到“四大天王”：北京、天津、上海、重庆。
坊间经常出现关于“XX要升级为直辖市？”、“谁是中国第五个直辖市？”等相关猜测和讨论。直辖市是一种省级行政区划，对于发达城市来说，一旦升格为直辖市，将极大地提升城市的竞争力，人们都以夺得这一头衔为荣。
实际上，中国历史上曾经拥有过许多直辖市，曾一度达到十多座。然而，由于各种原因，这些直辖市都被撤销了。
在1927年4月13日，国民党新右派发动“四一二”政变后不久，国民党中央（武汉）批准了上海方面提出的《上海特别市市民代表会议政府组织条例草案》。这个草案开创了一个先河，明确规定上海特别市直隶于武汉国民政府，不受江苏省政府管辖。因此，上海被称为特别市。
这之前，1926年由孙传芳建立的淞沪商埠督办公署已经从江苏划出，成为上海特别市的前身。
在上海之前，民国时期也设立过一些“特别市”，但这些特别市或作为一处管理机构，或仍隶属于省级机构，没有真正直隶于中央。只有上海特别市的设立，以中央层面认可其直隶于中央政府的属性，可以说是“直辖市”制度的起步。
在南京国民政府正式建立后，它在特别市的设立上与武汉方面完全相同。1926年年底，国民党中央（武汉）通过了武汉市直隶于中央的规划，但实际批准和实施直到次年4月18日。所以根据实际设立的日期，可以说上海是中国第一个“直辖市”。
然而，无论是临时城市还是正式城市，都受到南京国民政府的影响，这两座城市的政府运作并没有持续很长时间，后来事实上停摆。
南京国民政府成立后，它在特别市的规划上与武汉方面完全相同。南京政府通过了《上海特别市暂行条例》和《南京特别市暂行条例》，规定沪宁为直隶中央不属于省县行政范围的特别市。
而后，特别市如雨后春笋般涌现。在北伐战争期间，1929年4月20日，南京方面决定将青岛设为特别市；4月27日，将武汉从湖北省辖市升为特别市，6月11日又将武昌划归湖北省，改为汉口特别市；10月26日，规定广州市改为广州特别市。
然而，这些特别市只是临时的，南京方面并未确认它们的归属，直到1929年。此后，直辖市的数量如雨后春笋般增加。
到了1937年，淞沪会战爆发，国民政府在1939年将重庆升格为特别市，并定为永久陪都。这标志着中国直辖市的格局在抗战结束前基本定型。
抗战胜利后，进入解放战争时期，国民政府恢复了之前的院辖市制度，并在1947年将广州、汉口、西安、大连、沈阳、哈尔滨六市升为院辖市。而在解放区，各省级政权也相继成立了直辖市。
进入1949年，中国的直辖市格局基本定型，除了一些局部的变动之外。直到1997年的重庆市设立，但这个重庆市已与曾经的重庆市版图大不相同了。在建国初期，中国对民国时期的院辖市基本保留，共有8座直辖市：北京、上海、天津、重庆、广州、武汉、西安和长沙。随着计划经济的推进，为了减少组织层次，增加工作效率，一些大区被撤销，省市开始撤销与合并。
1954年，中央政府决定撤销中央直辖市，并将其变为省辖市。此后除了天津市曾一度被降为河北省辖市，然后恢复原状，中国的直辖市格局长期未发生大的变化。
