夏商时期，市境属“淮夷”之地。西周分封诸侯，市境为州来子国所辖；春秋末期，诸侯纷争。周景王十六年（公元前529年）吴灭州来，市境属吴；随着楚国势力的扩张，位于淮河上游的蔡国被迫几度迁都，求救于吴。为便于吴蔡的相互援助，周敬王二十七年（公元前493年），吴国帮助蔡国迁都于州来，改州来为下蔡。
淮南
战国初期，周贞定王二十二年（公元前447年），楚惠王灭蔡，市境属楚。战国末期，，楚考烈王二十二年（公元前241年）迁都于寿 春，改寿春为郢，市境成为楚国的京畿之地。楚王负刍五年（公元前223年），秦灭楚。秦始皇帝二十六年（公元前221年），秦统一六国，市境淮河以南属九江郡（郡治寿春），凤台县及淮河以北属泗水郡。
汉高祖四年（公元前203年），刘邦封英布为淮南王，首置淮南国，都六（今六安），辖九江、庐江、衡山、豫章4郡。高祖十一年（公元前196年），英布获罪伏诛，改封刘长为淮南王，都寿春（今寿县）。
孝文六年（公元前174年），刘长获罪流放，死于途中。文帝改封城阳王刘喜为淮南王。孝文十六年（公元前164年），淮南国一分为三：淮南、衡山、庐江，分别封给刘长的3个儿子，长子刘安继任淮南王，都寿春。汉武帝元狩元年（公元前122年），刘安获罪自尽，废淮 南国，复为九江郡，治寿春。西汉时期，市境先后属淮南国、九江郡所辖，凤台县属沛郡下蔡县。
东汉时期，市境及凤台县均属九江郡所辖，分属寿春县、下蔡县。汉末，袁术据寿春改设淮南郡。入魏仍称淮南郡，治寿春。其后，魏文帝先后封其子曹邕及其弟曹彪为淮南王，明帝青龙元年（233年）移治合肥新城。其间，市境及凤台县均为淮南郡所辖。西晋初年，淮南郡迁治于寿春，市境为其所辖。永嘉乱起，淮河流域沦为战乱区，江淮郡县大批废弛，北人南迁。东晋咸和初年侨置淮南郡于丹阳郡于湖，市辖境则为侨置的南梁郡。
