台湾现今之行政区划成型于日据中期的1920年代，当时日本当局针对全台湾划分为台北州、新竹州、台中州、台南州、高雄州等五州以及花莲港厅、台东厅、澎湖厅等三厅。第二次世界大战结束、中华民国政府沿用既有之行政区划範围，将州、厅重新切分为数县，县之下的乡、镇则直接承袭日据时期之庄、街，边界无大幅调整。

然而，在政府迁台后一波调整中，将州辖市脱离县，改为与县同级的省辖市，埋下后来调整行政区的远因。在台湾光复初期，台湾人口最多的台北市人口也仅30万余（详见台湾城市历史人口），市的行政区比起市区大上许多。但随着半世纪的发展，至2010年人口超过百万的都会区就有五处，当年的行政区就显的过度狭小。期间虽有部份县的乡镇併入市，但仍有造成市区连绵至邻近县份但分属不同县市管辖之窘境。又由于省辖市与县所能获得之补助款不同，往往导致县市界两侧无论在基础建设、教育、交通有显着不同的情况，于是陆续有行政区大幅改制的呼声。

五都合併改制案确定后，各地仍有许多争议存在。其中最广泛讨论的是：五个“直辖市”的总人口将占全国60%以上，其他县市的资源会因大都市升格而被稀释并造成边缘化，城乡发展可能将有更大的落差。在“直辖市”内部方面，某些区域更不在都市化範围内，有五都总面积过大的质疑。

除此之外，地方性的争论也是不断。首先，遵照马英九先前提出之三都十五县政策，台北市、原台北县以及基隆市将进行合併改制为“直辖市”。然实际上仅台北县独立升格为新北市，“市中有市”的规划令人质疑为何要分治而不直接合併，而基隆市则有遭边缘化的争论。虽有建议于2014年进行三市合併，但至今仍未定案。另外根据最新中华民国《地方制度法》，省辖县市人口突破200万即有成为“直辖市”资格。然桃园县人口数已在2010年6月7日（五都改制正式生效前）突破200万人，因此有升格之呼声。最后中央以“準直辖市”之规定，準用该县相当于“直辖市”的编制与财税。但辖内仍有为何无法正式升格之质疑。

南部地区方面，台南一度提议将合併后市名改为“台南府”、“台南府市”或“新南市” 的构想，但行政院核定名称为“台南市”不变。另外由于改製造成既有自治乡镇市公所，改为不具法人身分、市政府派出机关区公所，在行政院于2009年6月通过后的一年余内，各县市部分民代据此而提出撤销案，但因法令无退场机制而未成，并随着2010年底的正式实施而消声灭迹。而屏东县则有併入高雄市的构想，但中央目前并无此计画。