發奸擿伏

馬文升生于河南鈞州（今河南禹州市），后落籍虞城。祖上均未入仕，但馬文升幼時就顯示出對兵事的興趣。“嘗與群兒戲，十數為群，角之靡不仆”。

景泰二年（1451年），馬文升考中進士，授御史。先后巡按山西、湖廣，“發奸擿伏，有神君之稱”。服畢母親的喪事之后，擢遷福建按察使。福建任上，嚴懲當地貪暴狂徒馮某。離開福建時，閩人傳唱“馬使留來天有眼，馮公布去地無皮”以表示對他的稱頌。

軍旅生涯

成化元年（1465年），升南京大理寺卿。次年以父喪歸。

成化四年（1468年），西北土達滿四在距平涼千里的石城起兵反明，響應者甚眾，遠近震動。他們大敗官兵，明廷不得不采取大規模的軍事行動，調陜西三邊兵五萬人及京營兵進剿，以署都察院事的副都御史項忠總督軍務，起用馬文升，以右副都御史巡撫陜西，協助項忠。馬文升看到滿四軍有一個弱點：城中無水，糧儲漸乏，“若絕其芻汲，則釜魚當自斃矣。”果然，滿四軍日漸困乏，最后失敗。馬文升又建議項忠盡毀石城墻垣，以防后患。他在陜西巡撫任上七年多，先后加左副都御史、兵部右侍郎，逐漸成為處置邊事的專家。他的一項主要成就，是整頓與各部的茶馬貿易，換取番馬八千余匹。

成化八年（1472年），蒙古族叛亂，馬文升督兵追至黑水口，生擒平章鐵烈孫，戰功顯赫。可是，因宦官汪直與總制王越互相勾結，據為己功，反誣馬文升虛報戰功。憲宗不明真象，給予馬文升以“表奏不實，停俸三月”的處分。

成化十一年（1475年）春，馬文升代王越為總制，協調延綏、寧夏、甘肅三邊軍務，到十一月，即被召回朝中，任兵部右侍郎。

成化十二年（1476年），被派出整飭薊門至遼東邊備。遼東巡撫陳鉞，為人貪婪，待將士嚴苛。馬文升上疏言遼東事，多涉及陳鉞，兩人遂結怨。而陳鉞的后臺是權勢頗大的太監汪直。

成化十四年（1478年），發生陳鉞錯殺女真貢使、激變遼東之事。汪直打算親往平定，以立功顯名。太監懷恩建議派朝中大臣前往安撫，馬文升立即支持，并受委任。汪直提出派人同往，馬文升也沒有同意。這一來，又得罪了汪直。汪直后來與刑部尚書林聰等勘邊事，說遼東激變，是馬文升禁止邊方農器貿易所致。馬文升申辯無用，被下詔獄，謫戍重慶衛。馬文升在戍所滯留四年。汪直失寵后，他才復官。

成化二十年（1484年），再次被起用，以左副都御史巡撫遼東。這是他第三次赴遼東。由于他曾經論及陳鉞，因此受到歡迎，士卒“皆鼓掌喧舞”。

成化二十一年（1485年），馬文升進官都察院右都御史，總督漕運。淮、徐、和一帶饑荒，馬文升移調江南的十萬石糧及五萬兩鹽價銀予以賑濟。同年冬，馬文升入朝任兵部尚書。但方士出身的通政司左通政李孜省要推薦他人掌兵部，在憲宗面前做了手腳，于成化二十二年（1486年）將馬文升調任南京兵部尚書。

主持兵部

明孝宗即位后，馬文升被召為都察院左都御史，在朝廷的地位確定下來。出于對李孜省之流的厭惡，他提出：“巡城御史及兵馬司、錦衣衛逐一搜訪，但有扶鸞禱圣、驅雷喚雨、捉鬼耳報一切邪術人等，及無名之人，俱限一月內盡逐出京。”旋即又奉命提督十二團營。

弘治二年（1489年），馬文升改任兵部尚書。針對兵政廢弛的狀況，他采取了一些措施。例如，嚴格考核將校，有三十多人因貪賄怯懦被罷黜。這損害了一部分人的利益，有人甚至夜持弓箭等候其門，準備行刺，有人還寫書誹謗，射入東長安門內，這顯然都是有背景的活動。孝宗支持馬文升對京營的整頓，特批他金吾騎士十二人，以護出入。馬文升還提出，薊州、宣府、大同三鎮已有鎮守太監，不應再設分守、守備、監槍等內臣。據他統計，薊州有內臣九員，宣府有內臣八員，大同有內臣六員，共二十三員，“每員占用軍人，少則二三百名，多則四五百名，通計侵占已有數千”。“此等守備之數，委的無益于事，有擾于邊”，應當裁革。孝宗也依其議辦理。

哈密是回、畏兀兒族等少數民族居住的地區。明初派使者入朝，于其地設羈縻衛所，封其首領為忠順王、忠義王。憲宗時，土魯番部強大，據有哈密。明廷曾設法干預，沒有結果，似乎也就承認了現狀，將哈密衛遷往他處。早在弘治元年（1488年），土魯番部就誘殺朝廷所封的忠順王罕慎。弘治六年（1493年），又擒獲另一個忠順王陜巴，其首領阿黑麻自稱可汗，以兵掠周圍各部。主持兵政的馬文升主張興復哈密。他采納通事王英和指揮楊翥的建議，利用地處嘉峪關西南的罕東部，地處嘉峪關以西的赤斤、蒙古部等與土魯番部的矛盾，撫而用之。弘治八年（1495年），調罕東等部兵，夜襲哈密城。馬文升所推舉的陜西巡撫許進等率明軍隨后行進。土魯番守將棄城而去，明軍進入哈密。自明初以來，這是官軍第一次深入其地。這也是馬文升任兵部尚書以來，處置的最重大邊事。

弘治初年，馬文升和吏部尚書王恕是人望所歸，他們不但以人品服眾，而且對政事的議論極多。每一疏出，天下傳誦。王恕致仕，馬文升聲望更高。但推選吏部尚書，孝宗沒有用他。為此，他頗感不平，所寫詩中有“朝罷憑闌一黯然，獨將心事訴蒼天”句，發了一通牢騷。

弘治十四年（1501年），馬文升改吏部尚書，加銜至少師兼太子太師。在他之前，只有少數幾名尚書、都御史得到這一榮譽。

遭劾求歸

弘治十七年（1504年），面臨著次年的考察，孝宗召見負責考察的馬文升和都御史戴珊等議事。馬文升已七十九歲，行動不便，耳朵又背，孝宗對他講了兩遍，要他秉公黜陟。馬文升回答：“陛下圖治若此，宗社之福也。”然后被左右扶掖下階。

對于官員的考察進退，馬文升是很認真的。初任吏部尚書，他就對濫封傳奉官提出異議。傳奉官是不經過正常途徑，由皇帝親自傳旨任命的官員。成化時最盛行。孝宗初年統加裁革，但后來也加封賞，一次竟達八百人。馬文升說，減一官，朝廷省一官之費。武宗即位之初，他按照孝宗遺旨，裁去傳奉官七百六十二人。對于內外官員的考察，他也很嚴厲，一次汰罷朝覲官員二千余人。

考察不講情面，定會招致許多反對者，而在用人時也未必全無個人意氣。劉大夏是弘治朝另一名臣，就因為與馬文升對官僚的評價不同而引起矛盾。河南籍官僚劉宇為首輔劉健所器重，馬文升推舉他總制宣、大。劉大夏大概知道孝宗對此人的看法不佳，屢屢在朝中數其過失，當然也就牽連到薦舉人。侍郎王儼是劉大夏的姻親，馬文升抑制王儼，很難說不是因為劉大夏。

正德元年（1506年），劉大夏所倚重的副手、兵部侍郎熊繡被推舉為兩廣總督。熊繡不愿外出，也怨恨于馬文升。他們糾結在一起，又拉出與劉大夏為同鄉及同寅的閣臣李東陽，頓時形成一股反對馬文升的強大力量。御史何天衢首先發難，劾馬文升老衰。馬文升按照常規，被劾后乞去，疏凡二十一，武宗方獲準。

憤恚而卒

劉瑾專權期間，將一批反對派官僚定為奸黨。馬文升與其中一些人關系密切。正德四年（1509年），馬文升被削秩除名。

正德五年六月八日（1510年7月13日），馬文升去世，享年八十五歲。葬于州北大隗山麓。馬文升死后兩個月，劉瑾被捕入獄。朝廷還未聽聞馬文升的死訊，下詔命其“致仕復職”。聞其死訊后，為他輟朝一日，賜祭葬。追贈特進光祿大夫、太傅兼太子太傅，謚號“端肅”。

嘉靖（1522年—1567年）初年，明世宗朱厚熜又加贈馬文升為左柱國、太師兼太子太師。