1. 北洋政府时期（1911-1927年）——萌芽时期
中国直辖市的制度源于中华民国北洋政府于1921年市自治制中所称的特别市。1921年7月，北洋政府颁布了《市自治制》，把城市规格分成两种，一种是特别市，其地位相当于县，另一种是普通市，行政关系隶属于县。这一时期北洋政府治下的特别市，计有北京特别市，津沽特别市，淞沪特别市，青岛特别市，汉口特别市。北京特别市属于首都，地位特殊，直接受北洋政府内务总长监督，地位相当于直辖市，省级单位。津沽、淞沪等特别市，行政级别相当于县。
2. 民国南京政府时期（1928-1949年）——院辖市（直辖市）正式设立时期
1928年7月，民国南京政府通过北伐完成除东三省之外全国形式上的统一之后，民国南京政府公布了《特别市组织法》，决定将南京和人口在百万以上的城市，以及在政治经济文化上具有特殊定位的城市设为特别市，直属南京国民政府管理。该法还规定，各省会城市和人口在二十万以上的城市，以及人口在十万以上的具备重要地位的城市，设置为“市”，相比特别市，其为普通市，本质上可称为“省辖市”。至1929年底全国计有南京、上海、北平、天津、青岛、汉口、广州共7个直隶中央的特别市。
1929年底中国共有7座特别市（地图来自地球知识局）
1928年10月南京国府实施“五院制”以后，各特别市由原来直接隶属国民政府改隶为行政院，特别市改成“院辖市”或“直辖市”。广州、北平、天津、汉口四市，均在院辖市和省辖市之间各种徘徊，升升降降。截至1937年7月全面抗战爆发，直隶南京行政院的院辖市（直辖市）计有南京、上海、北平、天津、青岛等五个。
1937年7月中国共有5座院辖市（地图来自地球知识局）
1937年7月，淞沪会战爆发，国民政府定重庆为战时首都。1939年将重庆升格为院辖市。1947年将广州、汉口、西安、大连、沈阳、哈尔滨六市升为院辖市，其中广州、西安、沈阳三城市特殊，兼具院辖市与省会的双重地位。截至1947年底，共有南京、北平、上海、青岛、天津、广州、大连、重庆、哈尔滨、汉口、西安、沈阳12个院辖市。
1947年中国共有12座院辖市（地图来自地球知识局）
3. 新中国改革开放前时期（1949-1977年）——直辖市变动频繁时期
1949年新中国成立，中国共设有12个直辖市：北京、天津、沈阳、抚顺、本溪、鞍山、南京、上海、武汉、广州、西安、重庆。东北4个，华北2个，华东2个，中南2个，西南1个，西北1个。12个直辖市，东北（全部在辽宁）就占据了4个。
1949年新中国建国初期共设有12座直辖市
1952年11月15日，南京市直辖市降为省辖市，设立为江苏省省会。1953年3月12日，旅大行署区设为旅大市，直辖市，由东北大行政区代管。1953年7月，哈尔滨市设为直辖市。1953年9月，长春市设为直辖市。1953年底，全国共有北京、天津、沈阳、抚顺、本溪、鞍山、上海、武汉、广州、西安、重庆、旅大、哈尔滨、长春14个直辖市。
1953年底中国共有14座直辖市（地图来自三海讲历史）
1954年6月，重庆、广州、沈阳、长春、哈尔滨、西安、武汉、旅大、鞍山、抚顺、本溪11个直辖市皆降格为省辖市，此时全国只剩下北京、天津、上海3个直辖市。
1954年被撤销的11座直辖市
1958年2月，天津直辖市降格为省辖市，设立为河北省省会。1967年1月，天津市从河北省分离，恢复直辖市。
1970年中国共有3座直辖市
4. 新中国改革开放后时期（1978-至今）——直辖市稳定时期
1967年天津市恢复为直辖市后，30年直辖市保持不变。1997年为了缓解四川人口压力和统筹三峡工程建设，将原重庆市、万县市、涪陵市、黔江地区合并为重庆市并升级为直辖市，至此中国共辖北京、天津、上海、重庆4座直辖市，直至今天未曾改变。
2022年底中国共有4座直辖市