臧霸，字宣高，是泰山郡華縣人。他的父親臧戒，是縣裡的獄掾，也就是負責監獄的官員。有一次，臧戒根據法律，拒絕了太守想要私自殺人。太守大怒，下令將臧戒抓起來送到府上，當時押送臧戒的人有一百多個。臧霸當時十八歲，他帶著幾十個賓客在費縣西邊的山裡攔住了押送隊伍，把父親救了出來。押送的人沒有一個敢反抗，臧霸就帶著父親一起逃到東海，從此他以勇敢和強壯聞名。

黃巾軍起義的時候，臧霸跟著陶謙打敗了黃巾軍，被任命為騎都尉。後來，他在徐州召集了部隊，和孫觀、吳敦、尹禮等人一起聚集了很多人，臧霸當了他們的首領，駐紮在開陽。曹操去討伐呂布的時候，臧霸帶著部隊幫助呂布。呂布被抓住後，臧霸躲了起來。曹操到處搜尋，找到了臧霸，見了面後，曹操很喜歡他，就讓臧霸去招降吳敦、尹禮、孫觀、孫觀的哥哥孫康等人，他們都來投奔了曹操。曹操任命臧霸為琅邪相，吳敦為利城太守，尹禮為東莞太守，孫觀為北海太守，孫康為城陽太守，把青州和徐州的一部分地區交給臧霸來管理。

曹操在兗州的時候，徐翕和毛暉是他的將領。兗州發生動亂的時候，徐翕和毛暉都背叛了曹操。後來兗州平定了，徐翕和毛暉逃亡投奔了臧霸。曹操對劉備說，讓劉備告訴臧霸把這兩個人的首級送來。臧霸對劉備說：“我能夠立足，是因為我不做這樣的事。我受了曹操的救命之恩，不敢違抗他的命令。但是，成就王霸之業的君主可以用道義來勸說，希望將軍替我轉達。”劉備就把臧霸的話告訴了曹操，曹操嘆息著說：“這是古人的行為，而你卻能做到，這正是我的願望。”於是，曹操任命徐翕和毛暉為郡守。

當時，曹操正和袁紹對峙，臧霸多次帶領精兵進入青州，所以曹操能夠專心對付袁紹，不用擔心東方的戰事。曹操在南皮打敗袁譚的時候，臧霸等人去祝賀。臧霸趁機請求派子弟和將領們的父兄家屬去鄴城，曹操說：“你們忠誠孝順，難道還要靠這個來證明嗎？從前蕭何派子弟去侍奉高祖，高祖沒有拒絕；耿純燒燬房屋，帶著棺材跟隨光武帝，光武帝也沒有拒絕。我怎麼能改變這個傳統呢？”當時，東州很混亂，臧霸等人堅持正義，討伐暴徒，平定了海岱地區，功勞最大，都被封為列侯。臧霸被封為都亭侯，加封為威虜將軍。他還和于禁一起討伐昌豨，和夏侯淵一起討伐黃巾軍餘部徐和等人，立了功，被提升為徐州刺史。

沛國的武周當了下邳縣令，臧霸很敬重他，親自到縣令的住處拜訪。臧霸的部下從事總詷發現武周有不法行為，武周抓住了從事總詷的罪行，把他抓起來處死了，臧霸更加敬重武周。臧霸跟著曹操去討伐孫權，他第一個衝上去，兩次進入巢湖，攻打居巢，打敗了敵人。張遼去討伐陳蘭的時候，臧霸另外派兵到皖縣，討伐吳國的將領韓當，讓孫權不能去救陳蘭。韓當派兵來抵抗臧霸，臧霸在逢龍和韓當交戰，韓當又派兵在夾石攔截臧霸，臧霸打敗了他們，回到舒縣駐紮。孫權派幾萬人乘船駐紮在舒口，分兵去救陳蘭，聽說臧霸的軍隊在舒縣，就逃回去了。臧霸連夜追趕，到天亮的時候，已經追了一百多里，從前後夾擊敵人。敵人非常狼狽，來不及上船，很多人跳到水裡淹死了。因此，孫權不能去救陳蘭，張遼就打敗了陳蘭。臧霸跟著曹操在濡須口討伐孫權，他和張遼當先鋒。遇到大雨，大軍先到了，水漲了起來，敵人的船慢慢靠近了，將士們都很不安。張遼想撤退，臧霸阻止他說：“曹操明白事情的利弊，怎麼會拋棄我們呢？”第二天果然有了命令。張遼把這件事告訴了曹操，曹操很讚賞他，任命他為揚威將軍，賜予符節。

後來孫權請求投降，曹操回去的時候，留下臧霸和夏侯惇等人駐紮在居巢。

曹丕即位後，臧霸被升任為鎮東將軍，進爵為武安鄉侯，負責都督青州的軍事事務。等到曹丕正式稱帝后，臧霸又被進封為開陽侯，後來又改封為良成侯。他和曹休一起討伐吳國的軍隊，在洞浦打敗了呂範。之後，臧霸被召回京城擔任執金吾，這是一個地位非常高的職位，僅次於三公。皇帝對臧霸非常信任，每次有軍事行動，都會向他諮詢意見。

據《魏略》記載，臧霸還有一個名字叫奴寇。他的戰友孫觀，字嬰子；吳敦，字黯奴；尹禮，字盧兒。建安二十四年的時候，臧霸派了一支別動隊駐紮在洛陽。當時曹操去世，臧霸的部隊和青州計程車兵都認為天下將要大亂，於是都敲著鼓擅自離開了。曹丕即位後，任命曹休為青州和徐州的都督。臧霸對曹休說：“國家還沒有完全信任我啊！如果給我一萬人的步兵和騎兵，我一定能夠在長江以南橫行無阻。”曹休把臧霸的話告訴了曹丕，曹丕卻懷疑臧霸的軍隊之前擅自離開，現在卻這麼自信滿滿。於是，曹丕親自東巡，趁著臧霸來朝見的時候，奪了他的兵權。

明帝曹叡即位後，臧霸的封地增加了五百戶，加上之前的共三千五百戶。臧霸去世後，被追封為威侯。他的兒子臧艾繼承了他的爵位。據《魏書》記載，臧艾從小就以才華和理智著稱，擔任過黃門郎，後來又當過郡守。

臧艾的官職一直升到了青州刺史、少府。他去世後，被追封為恭侯。他的兒子臧權繼承了他的爵位。臧霸因為屢立戰功，他的三個兒子都被封為列侯，還有一個兒子被賜予關內侯的爵位。其中，臧霸的一個兒子臧舜，字太伯，後來在晉朝擔任散騎常侍。在《晉武帝百官名》中提到他“才思敏捷，見識卓越，能夠贊同時宜”。不過，這部《百官名》不知道是誰寫的，裡面對每個人都有評價。

臧霸的戰友孫觀也當過青州刺史，還被賜予符節。他跟隨曹操討伐孫權，在戰鬥中受傷去世。他的兒子孫毓繼承了他的職位，也當上了青州刺史。據《魏書》記載，孫觀，字仲臺，是泰山人。他和臧霸一起起兵，討伐黃巾軍，被任命為騎都尉。曹操打敗呂布後，讓臧霸去招降孫觀兄弟，他們都受到了厚待。他們和臧霸一起征戰，孫觀總是衝鋒在前，平定了青州和徐州的群賊，功勞僅次於臧霸，被封為呂都亭侯。他的兄弟孫康也因為戰功被封為列侯。他們在南皮和曹操會師，把子弟送到鄴城居住，孫觀被任命為偏將軍，後來又升任青州刺史。他在濡須口討伐孫權的戰鬥中，被流箭射中左腳，但他仍然奮勇作戰，不顧傷痛。曹操慰勞他說：“將軍受傷這麼重，但仍然勇猛無比，難道不應該愛惜自己的身體嗎？”後來，孫觀被轉任為振威將軍，但因為傷勢過重，最終去世了。