10歲便能作文寫詩，張九齡呼為小友。皇甫冉于天寶十五年（公元756年）考中進士第一（狀元）。歷官無錫尉、左金吾兵曹、左拾遺、右補闕等職。為避戰亂寓居義興（今宜興），據說他所住村莊后來被稱為皇甫舍（今屬芳莊鎮）。因奉使江表，病卒丹陽，享年54歲。