公元前121年，汉武帝开辟了河西四郡，即武威、酒泉、张掖、敦煌四郡。武威，即武功军威之意，因此而得名。当时武威郡下属姑臧、张掖、武威、休屠、次、鸾鸟、扑、媪围、苍松、宣围10个县，治所在故臧。

元封五年(前106年)，分天下为13州，各置一刺史，史称"十三部刺史"。武威郡属凉州刺史部，凉州之名自此始。意为"地处西方，常寒凉也"。三国魏黄初元年(220年)，魏文帝置凉州，一直到西晋，姑臧均为凉州治所。东晋，十六国时期，前凉、后凉、南凉、北凉及唐初的大凉，都曾建都与此。

民国时期，凉州基本沿袭旧制，分别为甘凉道、督察区、专员分署所在地，辖武威、民勤、永昌、古浪、永登等县。

从民国十六年(1927年)年到民国十九年(1930年)凉州连续发生了地震、水灾、旱灾、兵灾和瘟疫等天灾人祸。

1949年9月16日武威解放，1985年6月19日，经国务院批准，武威县改为武威市，2001年7月27日，经国务院批准，设立地级武威市，原县级武威市改名为凉州区。

凉州区位于东经101°59′~103°23′，北纬37°23′~38°12′，地处甘肃省西北部，河西走廊东端，祁连山北麓，武威市中部。东面与内蒙古自治区接壤，西邻肃南裕固自治县，南连天祝藏族自治县和古浪县，北与永昌县和民勤县相接。

凉州区内地势呈西南高东北低，地貌类型分祁连山山地、走廊平原绿洲和腾格里沙漠三种，海拔1440~3263米，在大地构造上位于祁连褶皱系中的走廊过渡带。西南部是祁连山东段冷龙岭的前山地带，为走廊带的毛藏古凸起和莲花山凸起，山势降为中山、低山、丘陵和盆地，主要山峰冬青顶、莲花山、天梯山、第五山，海拔2000~3200米;东北部是河西走廊平原地东段，为走廊带的凹陷，呈西北-东南向延伸，按其成因和形态可分为冲积平原，冲积细土平原，海拔1500~2000米;东部是腾格里沙漠，海拔1500米以下。