公元7世纪起，耶路撒冷作为基督教的圣地一直处于穆斯林的统治之下，给基督徒的朝圣带来了很大的不便。1095年，教皇乌尔班二世(Urban Ⅱ)在法国克莱蒙召开的宗教会议上，号召进行十字军东征，夺回圣地耶路撒冷。教皇宣称，参加十字军的人，罪行都将得到赦免。1096年，第一次东征开始，所有人军服上都绣着十字，故称“十字军”。第一次十字军东征较为成功，占领了耶路撒冷，建立了耶路撒冷等4个基督教王国。1147年，为了解救穆斯林对基督教王国的攻击，第二次十字军东征发动。之后又陆续发动了8次，直到1291年才结束，基督教势力完全撤出了耶路撒冷等地区。纹章起源于12世纪，正是欧洲十字军的第一次东征与第二次东征之间，于是，有学者认为纹章起源于伊斯兰或拜占庭的习俗;又因为在古希腊罗马的军旗、皇帝标志及日耳曼人早期的符号中发现类似纹章的图案，因此也有学者将两者作为纹章的起源。
但现在学术界已经否定了这几种起源，普遍认为纹章产生于中世纪欧洲社会，背景是公元“1000年后封建社会的变化”与“11世纪末至12世纪前几十年军事装备的演变”。纹章是“中世纪盛期西欧文化的独特产物……在历史上并无直接的榜样”。这从纹章的两个词源中也可得到旁证。纹章(Wappen)一词起源于中古德语“Waffe”(武器)，其早期即作为武器的辅助工具使用。12世纪晚期，“Wappen”演变成“盾牌标志”的含义。16世纪时，“Waffe”(武器)作为战斗工具和“Wappen”(纹章)作为盾牌标志的含义才完全分开。纹章学(Heraldik)的词源是“Herold”，起源于法语和拉丁语，意即传令官，负有登记、检验比武的骑士纹章的职责。从这两个词的发展中，也可窥见纹章与当时的封建制度有着密切的关系。西欧在封建社会形成的过程中，产生了大量的骑士和采邑，贵族之间为了争夺领地，战争频繁。12世纪时，随着冶炼技术的发展和军事装备的改善，骑士全身都披戴了盔甲，戴上全罩式头盔，只露出双眼。
为了在战场上区别敌友，骑士们开始在盾牌和旗帜上画上特定的符号，这些符号逐步固定下来，由此形成了纹章。中世纪形成了独特的骑士文化。骑士崇尚忠诚、勇敢。骑士的纹章也多与骑士的战争经历相关。例如，布吕歇尔(Blücher)家族以两把钥匙作为纹章图案。据传说，这个家族的祖先是个勇敢的文德人武士。有一次，他跟从萨克森公爵狮子亨利远征罗德初，布吕歇尔家族出了一位名将——在滑铁卢打败拿破仑的普鲁士元帅格布哈特·莱布雷希特·冯·布吕歇尔(Gebhard Leberecht von Blücher)。 布吕歇尔家族纹章又如阿尼姆(Arnim)家族，其族徽是红底上两条白色的条纹。据传说，在一场针对弗里斯人(Friesen)的战役中，将军命令一个姓安海姆(Arnheim)的容克贵族去摧毁他与弗里斯军队之间的一座木桥，以保证不被弗里斯人追到。
安海姆勇敢地将桥的木板拆下，丢进水里。但当弗里斯人的军队追来时，仍剩下两块桥板。安海姆独自坚守阵地，直到援兵到来。后来他得到了荷兰领地作为奖赏，受封为骑士，并获得纹章。该家族纹章中两条白色的条纹象征了战斗中的两块桥板;纹章装饰有骑士头盔、斗篷、贵族冠冕和牛角。家族姓“Arnim”就是由“Arnheim”演变而来。又如巴瑟维茨(Bassewitz)家族以野猪为纹章。据传说，该家族的博恩·冯·巴瑟维茨(Bernd von Bassewitz)获梅克伦堡公爵册封，成为骑士。在一场战役失败之后，他在逃跑时，正好有一只野猪跟在后面，挡住了追兵，他因此获救。后来该家族纹章采用野猪图案，也许就是为了纪念野猪的救命之恩。骑士们也会将凶猛的猎物作为自己的纹章，以此彰显自己的勇猛。如据《马内塞抄本》记载，哈瓦特(Herr Hawart)家族的纹章是金底黑熊，图中描绘了哈瓦特将一支长矛插入黑熊胸膛的场景。
“能在战斗中打败一头熊在当时还是了不起的战绩，取得这一战绩者很有可能自豪地将熊头图案放到自己的纹章中。”这成为哈瓦特家族纹章的起源。在和平时期，骑士必须操练武艺，为随时可能爆发的战争做准备。君主会举行骑士比武大赛，骑士们参加时会登记纹章。骑士比武大赛诞生于法国，后来传到德国、英国等欧洲其他地区。“13世纪之前的比武大赛以实战训练为主，目的是以模仿战争的方式锻炼参赛者适应战场上的各种情况。13世纪以后，比武大赛向庆典和仪式型转变，参赛者往往借此表现自己的勇敢和武功技能，并更加侧重追求观众的赞赏。”尤其是获得贵族女性的青睐。《马内塞抄本》记载了13世纪后半期，骑士瓦尔特·冯·克林根(Walther von Klingen)参加比武的场景：他的长矛刺向对方，战马顶住对方马颈，即将获胜;看台上则站有5名贵族女性，目光都集中在他身上，露出赞赏的表情。他的盾牌和马的战斧上都画有黑底白狮的纹章，对方则是红黄条纹盾徽。
