皇甫嵩出身於將門世家，祖父皇甫旗曾擔任東漢扶風郡都尉，父親皇甫節曾擔任東漢雁門郡太守，叔父皇甫規曾擔任東漢度遼將軍。
皇甫嵩年輕時有大誌，文武雙全，喜歡閱讀《詩》《書》，擅長弓箭騎術；
他最初先後被州郡舉薦為孝廉、茂才，太尉陳蕃、大將軍竇武都曾先後征召他為幕僚，他都沒有就任。
漢靈帝劉宏以公車之禮征召皇甫嵩為議郎，不久又升任北地郡太守。
中平元年，黃巾軍叛亂，黃巾軍首領張角、張寶等人聚眾數十萬人，劫掠州郡，殘殺官吏，青州、徐州、幽州、冀州、荊州、揚州、兗州、豫州等州郡的百姓紛紛響應，朝野震動。
朝廷詔命各州郡修築城池，整頓器械，以防備黃巾軍進攻。
同年三月，漢靈帝劉宏主持朝議，皇甫嵩建議解除黨禁，拿出宮中藏有的錢財及西園中豢養的馬匹，以賞賜將士，激勵軍心。
“劉宏聽從，又詔命征召天下兵馬，選拔將領，任命皇甫嵩為左中郎將，持有節仗，與右中郎將朱儁等人一起討伐黃巾軍。”
“同年四月，皇甫嵩、朱儁各自統率一支軍隊，共計兵馬四萬人，前往征討潁川郡內的黃巾軍。”
“朱儁率領前軍與叛軍將領波才交戰，戰敗，皇甫嵩進兵據守長社城。”
“叛軍將領波才率兵圍城，皇甫嵩兵力不足，將士恐懼，皇甫嵩於是召集將士，表示用兵變化不在於士兵人數的多少，如今叛軍依草結營，可以采用火攻；”
“如果在夜裡發動襲擊，縱火焚燒敵營，叛軍必然大亂，到時再出兵攻擊，四麵合圍，就能取勝。”
“傍晚時分，皇甫嵩借助大風，下令全軍士兵都攜帶雜草等候出城，又命令精銳士兵率先出城潛入敵營外圍，縱火焚燒敵營，與城中的士兵舉火為號。”
“皇甫嵩趁勢擊打戰鼓，率軍進攻，叛軍受到驚擾大亂，紛紛四散奔逃。”
“同年五月，恰逢劉宏派遣騎都尉出城率軍前來，皇甫嵩與曹操、朱儁合兵一處，繼續對叛軍發動進攻，大破黃巾軍，斬殺敵軍首級數萬。”
“戰後，皇甫嵩因功封為都鄉侯。”
“皇甫嵩、朱儁乘勝追擊，繼續率軍進討汝南郡、陳國兩地境內的黃巾軍，追擊叛軍將領波才抵達陽翟縣，又在西華縣擊敗叛軍將領彭脫，黃巾軍殘部或投降，或潰逃，潁川郡、汝南郡及陳國境內的黃巾軍都被平定。”
“同年八月，皇甫嵩率軍在倉亭擊敗另一支黃巾軍，俘獲叛軍將領卜巳，斬殺七千餘敵軍首級。”
“當時，北中郎將盧植及東中郎將董卓率軍討伐河北境內黃巾軍首領張角，無功而返，劉宏於是詔命皇甫嵩進兵討伐河北境內的黃巾軍。”
“同年十月，皇甫嵩與張角之弟張梁在廣宗交戰，叛軍驍勇精銳，皇甫嵩不能取勝。”
“次日，皇甫嵩關閉營門免戰，以觀察敵人動靜，等到叛軍鬆懈之時，皇甫嵩連夜調兵發動攻擊，大破敵軍，斬殺張梁，斬獲敵軍首級三萬餘，被河水淹死的敵軍五萬餘人。”
“皇甫嵩又下令焚毀叛軍輜重車輛，俘虜叛軍家屬及部眾；”
“此時張角已經病死，皇甫嵩將其剖棺戮屍，並將首級傳示京師。”
“同年十一月，皇甫嵩又與巨鹿郡太守、右馮翊郭典合兵攻擊駐紮在下曲陽縣的黃巾軍，斬殺黃巾軍首領張寶，斬獲敵軍首級十萬。”
“皇甫嵩因功升任左車騎將軍，兼任冀州牧，晉爵為槐裡侯，封邑八千戶。”
“黃巾軍平定後，漢靈帝劉宏改年號為中平。”
“皇甫嵩又上奏，請求減免冀州地區百姓一年田地賦稅，以賑濟饑民。”
“劉宏采納，冀州百姓感激皇甫嵩，作歌謠以稱讚其仁德。”
“皇甫嵩討平黃巾之亂，名聲傳揚天下，而東漢末年，朝政廢弛，綱紀混亂，漢陽郡人閻忠以漢初名將韓信功高震主，最終被誅殺的事跡作為案例，奉勸皇甫嵩在冀州舉兵反叛，僭越稱帝。”
“皇甫嵩聽了深感恐懼，表示黃巾軍叛逆剛剛被剿滅，如果妄自居功自傲，舉兵反叛，必然走向滅亡；”
“自己恪守臣下的本份，忠於漢室，就算死了也能留下忠義的名節，傳於後世。”
“皇甫嵩拒用閻忠的計謀，閻忠逃走。”
“先前，湟中義從胡首領北宮伯玉與先零羌叛亂，以金城郡人邊章、韓遂為統帥，舉兵攻殺護羌校尉伶征、金城郡太守陳懿。”
“中平二年三月，北宮伯玉與邊章等人率領叛軍進攻三輔地區，朝廷下詔皇甫嵩移兵鎮守長安，討伐叛軍，以保衛漢朝皇室陵墓。”
“當初皇甫嵩率軍討伐黃巾軍首領張角時，經過鄴城，偶然看到中常侍趙忠的宅邸房屋僭越禮製，於是上奏朝廷，導致趙忠的宅邸被沒收。”
李白：皇甫嵩出身於赫赫有名的望族，其父皇甫節，曾任雁門太守，叔皇甫規，為一代名將。
對於將門子弟而言，弓馬嫻熟是其必修課和必備素質，而皇甫嵩在弓馬嫻熟的同時，還好《詩》《書》，這就是安定皇甫氏特彆的家族傳統，即兼善文武。
而且，這樣的出身也必然賦予皇甫嵩極高的功名期許和人格期待，這也是他以後成長為名將的重要原因。
成年後，皇甫嵩舉孝廉，任議郎，接著出任北地太守。
中平元年，黃巾起義爆發，河北、中原一帶遍地烽煙。
作為“天下之中”的洛陽人心惶惶。漢靈帝召集軍事會議，安排洛陽防衛。
皇甫嵩這時也已被調至洛陽，參與會議。
會上，他建議解禁黨錮，拿出宮內錢財、西園禦馬，以獎勵和充實軍隊。
漢靈帝采納了皇甫嵩的建議，並且將精銳的北軍近衛軍、三河騎士4萬餘人整編為兩軍，前往潁川，鎮壓黃巾軍。
左中郎將、持節皇甫嵩統帥其中一軍。
在潁川郡治長社縣，皇甫嵩被黃巾軍包圍。
這已經是另一支漢軍朱儁戰敗之後的事，漢軍情勢非常不利。
危難之際，皇甫嵩臨危不亂的大將之才顯現得淋漓儘致。
他安撫部下說：“兵有奇變，不在眾寡。”
然後設奇計惑亂對方，趁夜出擊，大獲全勝。
這是皇甫嵩對黃巾軍的第一戰，潁川、汝南等地得以平定。
接著，皇甫嵩率軍東進，在倉亭，擒斬黃巾軍將領卜已。
此時，董卓等剛吃完敗仗，是皇甫嵩力挽狂瀾，繼續進攻，擊敗了張梁，徹底扭轉了不利局麵。
然後，皇甫嵩率軍北上常山，擊敗張寶，摧毀了黃巾軍最後一支主力部隊。
烽火燎原的黃巾起義至此告終。其間戰功，皇甫嵩穩居第一。
“又有一次，中常侍張讓曾私下找到皇甫嵩，公開索要五千萬錢，皇甫嵩沒有答應。”
“趙忠、張讓兩人於是懷恨，在皇甫嵩討伐邊章等人時，趁機向漢靈帝劉宏進讒言，詆毀皇甫嵩征戰無功，耗費巨大。”
“同年七月，劉宏聽信讒言，征召皇甫嵩入朝，將其貶職降爵，收回其左車騎將軍印綬，又削減其封邑六千戶。”
“中平五年十一月，涼州人王國叛亂，舉兵圍攻陳倉，漢靈帝劉宏重新啟用皇甫嵩，任命他為左將軍，指揮前將軍董卓，各自率領兩萬人前往征討叛軍。”
“董卓建議快速進兵陳倉，解除叛軍的包圍，皇甫嵩沒有聽從，認為陳倉城雖然小，但是城池堅固，王國雖然兵勢強盛，難以攻破；”
“隻要敵人不能攻克陳倉，自己以逸待勞，不用調兵遣將就能取得勝利。”
“王國率眾圍困陳倉城，從冬天一直到次年春天，持續了八十多天，因為城池堅固，始終不能攻克。”
“中平六年二月，王國的叛軍疲憊不堪，果然自行撤退。”
“皇甫嵩率軍追擊，董卓認為窮寇勿追，困獸猶鬥，追擊王國的軍隊不能取勝。”
“皇甫嵩卻認為王國的軍隊已經喪失鬥誌，自己以精兵對陣疲憊之敵，定能大獲全勝。”
“皇甫嵩於是獨自率軍在前追擊，命令董卓率部作為後援。”
“皇甫嵩擊敗叛軍，取得大勝，斬獲敵軍首級上萬，王國逃亡被殺。”
“董卓羞愧不已，因此對皇甫嵩暗中忌恨。”
“中平六年，朝廷征召董卓入朝擔任少府，董卓沒有就職。”
“朝廷不能牽製董卓，加之漢靈帝病重，於是任命董卓為並州牧，其部下兵馬歸屬皇甫嵩統領。””
“董卓上奏，不願交出兵權。”
“皇甫嵩的侄子皇甫酈當時在軍中，他認為董卓心懷篡逆，包藏奸心，而且其人凶狠暴戾，將士都不歸附於他；”
“皇甫酈勸諫皇甫嵩起兵討伐董卓，以彰顯忠義，鏟除禍患。”
“皇甫嵩認為董卓固然有罪，但是討伐也需要得到皇帝的詔命，應該上奏朝廷裁決此事。”
“皇甫嵩於是上疏漢靈帝劉宏，董卓遭到劉宏斥責，因此更加怨恨皇甫嵩。”
“同年四月，漢靈帝劉宏去世，少帝劉辯繼位；”
“同年九月，董卓廢少帝劉辯，改立陳留王劉協為帝，是為漢獻帝。”
“初平元年，董卓專權，把持朝政；”
“當時皇甫嵩率兵三萬駐紮在扶風郡，與京兆尹蓋勳密謀討伐董卓。”
“恰逢董卓征召皇甫嵩入朝擔任城門校尉，打算趁機殺掉他；”
“皇甫嵩部下長史梁衍認為董卓妄自廢立皇帝，如今征召皇甫嵩入朝，必然加害於他；”
“梁衍勸諫皇甫嵩舉兵討伐董卓，迎接漢獻帝前往長安，同時與舉兵討伐董卓的袁紹等人的義軍東西呼應，必然能夠擊敗董卓。”
“皇甫嵩沒有聽從，於是前往京城。”
“皇甫嵩到達京城，果然被逮捕下獄，即將被誅。”
“皇甫嵩的兒子皇甫堅壽與董卓交好，他從長安逃到洛陽，歸附董卓，董卓設宴款待；”
“皇甫堅壽搶步向前，當眾與董卓爭辯，叩頭流淚，希望董卓能赦免父親皇甫嵩；”
“在座的人都受到感動，紛紛起身離席，幫助皇甫嵩求情。”
“董卓於是起身，拉著皇甫堅壽回到自己的座位上；”
“又下令釋放皇甫嵩，並任命他為議郎，後又升任禦史中丞。”
“初平三年四月，司徒王允、尚書仆射士孫瑞等人誅殺董卓；”
“朝廷任命皇甫嵩為征西將軍，不久又升任車騎將軍。”
“同年六月，董卓部將李傕、郭汜等人舉兵攻陷長安，殺死王允等人。”
“李傕、郭汜把持朝政，同年八月，皇甫嵩升任太尉。”
“同年十二月，皇甫嵩被罷免太尉之職，改任光祿大夫，不久升任太常。”
“興平二年，李傕、郭汜作亂，舉兵互相攻擊；”
“不久，皇甫嵩病逝，皇甫嵩死後，漢獻帝劉協下詔追授其驃騎將軍印綬。”
蘇軾：當皇甫嵩戰功威震天下的時候，漢陽人閻忠建議皇甫嵩自號稱王、奪取天下。
可皇甫嵩卻堅定地說要“委忠本朝，守其臣節”，拒絕了閻忠的建議。
理性來看，在當時的昏暗政局下，宦官專權，誹謗潮生，皇甫嵩統帥強勁的漢軍精銳，為將在外，更易招致猜忌，所以，閻忠建議不無道理。
但皇甫嵩還是堅守初心，即便橫遭非議，也無怨無悔。這是高風亮節的忠貞本色。
東邊的黃巾軍剛剛平定，西邊甘青一帶的羌人又起事了。
金城人邊章、韓遂帶領羌人，攻打三輔地區。
漢靈帝遂調皇甫嵩回鎮長安，保衛皇陵。
皇甫嵩率軍與涼州羌軍作戰，擊敗羌軍統帥王國，徹底平定了羌亂。
可是，此時的東漢政局翻雲覆雨，波譎雲詭。
漢靈帝駕崩，何進謀誅宦官，何太後不肯下詔，於是何進召董卓進京。
其間誅殺宦官、董卓把持朝政的過程，是史上少有的宮廷內亂。
而董卓嫉妒皇甫嵩，且兩人本有過節，所以，董卓準備對皇甫嵩下手，逮捕了皇甫嵩。
但由於皇甫嵩威望極高，且賴各種力量的救援，他才得免死，被任為禦史中丞。