侍奉柴榮

曹翰年輕時任郡小吏，喜歡盛氣凌人，不被鄉里人贊譽。

后漢乾佑初年（948年），郭威（后周太祖）鎮守鄴地，與他談話后認為他是個奇才，讓他隸屬養子柴榮（后周世宗）軍中。

柴榮鎮守澶淵時，署任曹翰為牙校，柴榮入京任開封府尹時，留曹翰在澶淵節度府衙。適逢郭威臥病不起，曹翰不等到召見，就回京來見柴榮，秘密地對他說：“皇上有病，您作為儲君，不在宮中侍奉皇上的醫藥而在外廷處理政事，失去天下人的希望。”柴榮醒悟，立即入宮侍奉郭威，把府事托付給曹翰處理。

柴榮即帝位后，補任他為供奉官。曹翰隨柴榮參與高平之戰，參與謀劃軍務。不久升任樞密承旨，負責堵塞黃河決口。柴榮攻打南唐，留有一千多副鎧甲在正陽，不久俘得降卒八百人，編送回京師。當時曹翰正好從京師來朝見，經過正陽十幾里處遇到他們，考慮到降卒會搶劫兵器叛亂，就假稱詔令殺掉他們。見到柴榮時，曹翰把事情詳細匯報，柴榮熱愛不高興。曹翰說：“敵人因受困才歸降我軍，并不是心服，我軍所得兵器都在正陽，如果被他們劫走，這樣又生出一個淮南來。”因此，柴榮沒有責怪他。跟從柴榮征伐瓦橋關，班師時留他任知雄州。

柴榮病重時，諭令宰相范質等人任命王著為宰相，任命曹翰為宣徽使。范質因為王著嗜酒，曹翰狡詐而專斷，一并扣住不發任命令。改任曹翰為德州刺史。

戰功卓著

北宋初年，曹翰跟從趙匡胤征伐澤、潞二地，回朝后改任濟州刺史。

乾德二年（964年），趙匡胤親自征伐西蜀，曹翰改任均州刺史，澗谷深險，曹翰下令開鑿山石通道，部隊不久得以經過；詔令曹翰兼任西南諸州轉運使，從石門直接到歸州，糧草運轉不絕，由夔、萬前進與王全斌會師，成都得以攻克。當時全師雄擁聚十萬兵馬占據郫縣叛亂，打算窺伺成都，曹翰率兵與劉光毅、曹彬等會師討平他們。不久，軍校呂翰殺死武懷節，占據嘉州叛亂，曹翰及諸將攻奪嘉州。偵知叛軍大約三鼓時回來攻城，曹翰誡令知更慢些報更，到天明時還是二鼓，敵軍不集而潰，趁機打敗叛軍，劍南于是被平定。部隊回師后，升任曹翰為蔡州團練使。

開寶二年（969年），跟從趙匡胤征伐太原，又任行營都壕砦使。班師時，遇到黃河在澶州決口，詔令曹翰管理堵塞工役，曹翰拿出銀器來贊助工役費用，把自己所乘的白馬沉到黃河來祭祀。黃河又在陽武決口，曹翰再次督辦堵塞，都有成績。朝廷準備征伐南唐，命令曹翰率兵先到荊南，改任行營先鋒使，接著攻克池州。金陵被平定后，江州軍校胡德、牙將宋德明據城抵抗。曹翰率兵攻城，攻了五個月才攻陷，進城后屠城，殺南唐軍八百人。所搶掠的金帛上億元，假稱打算把廬山東林寺鐵羅漢像五百頭送到京城，趁機調動巨艦數百艘，裝載搶掠到的東西回朝。因功遷為桂州觀察使、判潁州。

攻克太原

太平興國四年（979年），跟從趙光義征伐太原，任攻城南面都部署。曹翰與崔彥進、李漢瓊、劉遇三位節度分部攻城，曹翰攻東北，而劉遇攻西北，與劉繼元對敵，城墻尤其堅固，劉遇想與曹翰換地方，曹翰說：“觀察使班次居下，應當在東北。”劉遇堅決要與他調換，幾天不能決定下來。

趙光義怕諸將不和，派人對曹翰說：“你智勇無雙，西北面非你不能進攻。”曹翰于是奉詔，筑起一座土山鳥瞰城中，幾天筑成，劉繼元非常害怕。軍中缺水，城西十多里山谷中有座娘子廟，曹翰前往祭祀，挖渠得水，人馬得到供水。又跟從太宗征討幽州，率領所部兵馬進攻城東南角，士兵們挖地時挖到一只蟹獻給他。曹翰對諸將說：“蟹本是水中物卻住在陸地上，是失所。而且蟹多腳，敵人的援兵將到，此城不可進拔的征兆，況且蟹者解也，難道要班師嗎？”后來果然應驗。

出任地方

太平興國五年（980年），跟從趙光義到大名，被任命為威塞軍節度，仍判潁州，又任命為幽州行營都部署。詔令他監督開鑿南河，從雄州到莫州，以便疏通漕運，打算筑大堤來保固河運。曹翰調遣徒役幾萬人，在漢境內砍伐巨木，派出五個騎兵，給他們五色旗各一為偵察兵，前面如果遇到丘陵、水澤、寇賊、煙火，就舉起旗子作為回應，又在邊境建立烽火臺，敵人疑惑不敢接近邊塞，得到幾萬根巨木來用，事情辦完后回到節度府。

曹翰在地方任官時間長，橫征暴斂，政事因此廢弛。趙光義因為他有功于國家，每次都寬容了他。遇到汝陰令孫崇望到朝廷，告曹翰私賣兵器，所作所為大多違法。詔令派遣御史滕中正乘驛馬前去審問，案結后，應當殺頭，趙光義寬宥他的罪過，只削去他的官爵，把他流放禁錮在登州。

雍熙二年（985年），起用任命為右千牛衛大將軍、分司兩京。

雍熙四年（987年），召他入朝任左千牛衛大將軍，賜給他錢五百萬，白金五千兩。

淳化三年（992年），曹翰去世，終年六十九歲，追贈太尉。

咸平元年（998年），追謚為“武毅”。