臧霸是泰山人，生于兖青徐边。当黄巾之乱爆发时，他加入陶谦的军队并立下了许多战功，最终被封为骑都尉。骑都尉是一种禁军官职，通常被视为类似于都督的军事职位，在一些方面甚至比太守更具有权力。
在黄巾之乱之后，很多骑都尉开始涌现，这些人包括丁原、公孙瓒、鲍信、沮授以及徐晃和张辽等五虎上将，这些人都是一方军阀或者左右军阀的强者。
通过这些名人的经历，可以看出在黄巾之乱后成为骑都尉的人都是有本事担任一方军阀或者左右军阀的强者。
臧霸在忠于曹操二征徐州的过程中表现得非常被动。当时陶谦需要靠青州小霸王刘备来救援，而在刘备接任徐州牧时，臧霸仍然没有动弹。直到吕布上任后，臧霸才展开了与他的合作关系。
我们很难知道臧霸在那个时期到底在想些什么。如果他是亲袁绍的派系，那么他就不应该与吕布合作;如果他是袁术的支持者，那么他也不应该支援刘备南下援助陶谦;如果他是大公孙联盟的成员，那么他当时应该亲自出击攻打曹操。因此，臧霸很可能只是一个忠于汉室的官员，而没有其他的想法。
最初，陶谦被曹操打败是因为他谋反了。作为汉官，臧霸没有理由去救援陶谦。但是，曹操也没有颁布敕令要求臧霸去帮助他。相反，吕布是朝廷任命的颍川太守，他在被曹操打败后撤退到了徐州。与陶谦和刘备私下协商担任官职不同，吕布代行徐州牧是合法的。
