開元中，薛據又中風雅古調科第一人，于吏部參選。他自恃才名，請授萬年縣錄事．吏曹請示執政，執政將許之，而諸流外官員見宰相，訴說赤縣錄事是應安置他們的職務，不該被進士奪去，于是遂罷。他欲為萬年縣錄事不成，任永樂縣(今山西芮城縣)主簿，秩滿改調涉縣(今河北涉縣)令。

薛據在開元、天寶時的行跡已難確考，但從他的詩中可知地曾游歷齊魯、梁宋及吳越等地。天寶十一年(752年)，薛據與杜甫、高適、岑參、儲光羲等同登長安慈恩寺塔。諸人皆有詩作．而薛據詩獨佚。從高適、儲光羲詩可知，當時薛據曾在長安任大理司直之職。

薛據于乾元二年(759年)授太子司議郎，這年杜甫在秦州，有《秦州見敕目薛三據授司議郎……》，杜甫詩中記載安史之亂后，薛據曾陷入叛軍之手，被困洛陽，又遭讒妬，至唐軍收復長安后，尚蒙冤屈，未被任用。

肅宗上元二年(761年)至代宗廣德元年(763年)，薛據曾任祠部員外郎，大歷初，任水部郎中。此后，他曾滯留“客居荊州，杜甫《寄薛三郎中據》云：“子尚客荊州，我亦滯江濱。”

《唐才子傳》說薛據“初好棲遁，居高煉藥。晚歲置別業終南山下老焉。” 薛據詩中也自云“弱年好棲隱，煉藥在巖窟。”晚年居何山煉藥，已不得而知，唯知其任水部郎中沒多久，于大歷三、四年(768、769年)去世。

薛據為人骨鯁，有氣魄，但一生多坎坷，仕途不得意，所以他在《古興》詩中說：“投珠恐見疑，抱玉但垂泣。道在君不舉，功成嘆何及。”怨憤頗深。

雖仕途不得意，但薛據在當時詩名極大，所以《封氏聞見記》云“開元中河東薛據自恃才名”云云，其時薛據才30來歲。《唐才子傳》說薛據“造句往往追凌鮑、謝。”在盛唐詩壇，薛據與杜甫、王維、岑參、劉長卿、高適等著名詩人相交游，受到諸名家的推崇與尊敬。一代詩圣杜甫盛贊薛據：“賦詩賓客間，揮灑動八垠。乃知蓋代手，才力老益神。”又稱贊他“文章開穾（上穴下奧），……新詩更憶聽”，并且擷薛據詩句入詩。劉長卿在詩中盛稱薛據“雄辭變文名，高價喧時議。下筆盈萬言，皆合古人意”。 高適也稱薛據詩文為“縱橫建安作”。由此可見薛據在盛唐詩壇的影響之大。所以，我們可以毫不夸張地說，薛據是盛唐詩壇當時即享有盛名的大詩人。