海晏位于青海湖东北岸，是湟水河的发源地。北接祁连、门源县，东邻大通、湟中县，南与湟源、共和县接壌，西北与刚察县相连，两南毗邻浩瀚的青海湖。全县总面积4853平方公里，平均海拔3000米以上。海晏县地处祁连山系大通山脉西南侧，东北部高山连绵，西南部地势低缓。境内有甘子河、察拉河等内流河注入青海湖；湟水河发源于县境肯特达坂山南麓，流经县境东南入湟源、西宁。

自古以来，海晏就是一个多民族聚居的地区。史料记载，海晏地区汉代为先零羌、卑禾羌等诸羌牧地。汉平帝元始四年（公元4年）冬，王莽新政在青海湖北岸（今海晏县三角城）设置西海郡，辖青海湖东部广大地区。西海郡故城遗址呈正方形，内部布局与中原城市相似。西海郡故城出土的象征中央集权的“虎符石匮”是国家一级珍贵文物，上刻“两海郡虎符石匮□始建国元年十月突卯口工河南郭戎造”22个篆字。由此证明，从公元初年起中央政府就开始辖制青海湖周边地区。

汉和帝永元十四年（公元102年) 重修西海郡城（又称龙夷城），为曹魏属地。其后数百年间，先后为前凉、前秦、后凉、南凉、西秦、北凉、后秦辖地。北凉亡，地入吐谷浑国。隋炀帝大业五年（公元609年）海晏属西海郡宣德县。隋朝亡，吐谷浑复其故地。唐咸亨三年（公元672年），吐谷浑内徙，海晏地区归吐蕃王国。唐开元七年（公元719年），今海晏县地属安人军辖区。“安史之乱”后，为吐蕃“青海节度使”辖地。宋代，为河湟吐蕃晚厮哕政权属地。元代，为吐蕃宣尉使都元帅府辖地。明代，为两宁卫遥领的"塞外四卫"中的"罕东卫''辖地。明初为隆奔、巴沙等纳马藏族驻牧地。正德七年（公元1512年），东蒙古进入青海后，海晏遂为土默特蒙古游牧地。崇祯十年（公元1637），又为卫拉特蒙古和硕特部辖地。清雍正三年（公元1725年），青海蒙古族共分5部29旗，海晏境内置南左末旗（俗称群科旗）、南右后旗（俗称托茂公）、东上旗。

民国时期境内又增加南右首旗（俗称尔立克贝勒）、北中旗（俗称水峡贝子）、南左后旗（俗称阿克公）和察罕诺们汗旗。民国二十六年（公元1937年），设海晏设治局， 1943年正式建县，取意于"海晏河清"，地方承平之意。县人民政府建在今三角城镇，为省直辖县。

1949年9月11日海晏解放，1950年6月6 日成立湟源县海晏行政委员会，1951年6月19日恢复县制，成立海晏县人民政府，1953年12月隶属海北藏族自治州。1958年因国防需要，在海晏县建立我国第一个原子弹、氧弹研制基地。"两弹"基地服役35年，为国防作出巨大贡献后，于1993年正式退役。同年，海北州府迁至海晏县境内原国营221厂，更名西海镇，成为新的州府所在地。