雖有“漆室坐憂時事非”(《贈呂定子編修》)的感情，任官期間也曾對時政有所批評和建議，但思想比較迂闊保守，持儒家“內圣外王”（《復陳晝卿觀察書》）的觀念，以求索不倦的學者和矜尚名節的名士，終其一生。他承襲乾嘉漢學余風，治經學、史學，都有一定成就。又博覽群書，時有所評。其治學讀書所得，大都載入《越縵堂日記》，頗為世人所重。

李慈銘自言在創作方面“所得意者莫如詩”（《白華絳跗閣詩甲集至己集初定本自序》）。今傳已刻之詩起道光二十四年(1844)至同治十三年(1874)，共850首，主要反映了貧窘的學者與困頓的名士的生活與心境，山水風物、交游唱和的“登監閑適之篇”較多，至于“感憤切摯之作”（《越縵堂詩話》），也多是抒寫落拓不遇之感。直接觸及時事、反帝慨時的篇什，如《庚申八月感事》、《出大沽口感事》、《庚午書事》、《京邸冬夜讀書》等，為數寥寥。占有一定數量的涉及太平天國的詩篇，則表現了地主階級的立場。

李慈銘認為“學詩之道必不能專一家限一代。凡規規摹擬者，必其才力薄弱，中無真詣”。他主張內有所蓄。同時廣泛向前人學習，“汰其繁蕪，取其深蘊，隨物賦形，悉為我有”(《越縵堂詩話》)。他的詩大體遵循自己的主張，廣采諸家之長，以寫自身所遭之境，自心所生之感，創造一種“清淡平直，不炫異驚人”（陳衍《石遺室詩話》）的風格，如《自題霞川老屋圖》、《舟入青浦界作》、《初夏舟出徐山村至清水閘作》等。在文章方面，李慈銘認為“文體必本韻偶”（《書凌氏廷堪校禮堂集中〈書唐文粹文后〉文后》），強調駢文之美。此外，他的詞也有一些感懷身世之作。

李慈銘除經、史著述之外，刻有《越縵堂文集》12卷、《湖塘林館駢體文》 2卷、《白華絳跗閣詩初集》10卷及《霞川花隱詞》。尚有《杏花香雪齋詩二集》、《桃花圣解庵樂府》未刻。中華書局出版的《杏花香雪齋詩》10集，為吳道晉所輯。

李慈銘《越縵堂日記》 是清代很有名的日記，與《翁同龢日記》、王闿運《湘綺樓日記》、葉昌熾《緣督廬日記》齊名，并稱“晚清四大日記”。早在李慈銘在世時，《越縵堂日記》就被“士友多傳抄之”，同治、光緒間文人圈內甚至有“生不愿做執金吾，惟愿盡讀李公書”之語。李慈銘的日記之所以倍受學界青睞，一方面固然在于李慈銘本人的名望，另一方面則是由于日記本身的內容和價值。日記文字達數百萬言，對清咸豐到光緒近四十年間的朝野見聞、人物評述、名物考據、書畫鑒賞、山川游歷以及北京等地的社會風貌等內容均有翔實記述，足資后代學者參考借鑒；日記中記錄了大量的讀書札記，仿《四庫全書總目》之例，撰寫書籍介紹及評論，內容涉及經史百家；日記中還錄有李慈銘本人的詩詞、駢文作品，對于研究作者本人的文學創作頗具參考價值。胡適在他的日記中坦然承認自己重新提起寫日記的興趣是受了《越縵堂日記》的影響。當然也有人持相反的看法，魯迅在《怎么寫（夜記之一）》一文中說道：“《越縵堂日記》近來已極風行了。我看了卻總覺得他每次要留給我一些很不舒服的東西。為什么呢？一是鈔上諭，……二是許多墨涂，……三是早給人家看，鈔，自以為一部著作了。我覺得從中看不見李慈銘的心，卻時時看到一些做作”。《越縵堂日記》已列入臺灣國中國文教材之一。

《越縵堂日記》的出版經過極為曲折，前后歷時六十余年。1894年末，李慈銘病逝，遺留日記手稿七十余冊。當時，沈曾植、繆全孫等人曾極力推動將日記付梓，曾經師事李慈銘的樊增祥“以速刻自任，索最后一盒(日記)去，卒未刻”。1919年，在蔡元培、傅增湘、王幼山、王書衡等及學界二十余人的共同捐助下，商務印書館于1920年以《越縵堂日記》為其名影印出版了遺留六十四冊日記稿的后五十一冊。（內容為李慈銘1863～1889年間的日記）。《越縵堂日記》影印出版后，士林爭相一睹為快，譽之為“日記之大觀”、“掌故之淵藪”。魯迅在《三閑集》中說“《越縵堂日記》近來已極風行了”就是當時日記出版后的真實寫照。《越縵堂日記》出版后，蔡元培根據李慈銘的遺愿擬將剩下的十三冊日記（1854～1862年間日記）進行分類節錄出版，后經錢玄同倡議，仍將剩余的十三冊日記按前五十一冊之例于1935年由商務印書館線裝本影印出版。這便是《越縵堂日記補》。而樊增祥帶走的李慈銘暮年的日記手稿（1889～1894年記）則如泥牛入海，音信全無。盡管各時期都有熱心人士呼吁追尋，但始終沒有下落。直到1980年才有幸被發現。這宗重見天日的手稿后由北京燕山出版社于1988年影印行世，名《郇學齋日記》共九冊，至此，李慈銘日記始以完璧面世。