Het wapenschild van Herzele is het 'gebiedswapen' van de oorspronkelijke Heren van Herzele. De oudst gekende is Franco (laatste kwart van de 11de eeuw). Met de dood van Seger van Herzele in 1384 sterft het geslacht uit. Het wapen moet dus logischerwijs tussen eind 11de en medio 14de eeuw in gebruik zijn geraakt.
Na Seger behoorde het domein Herzele aan andere adellijke families. Enkele, zoals de Ligne en de Lichtervelde, voerden een eigen wapen, al raakte de driehoekige gele band (keper) met rode achtergrond nooit helemaal in de vergetelheid.
Met een Koninklijk Besluit op 15 oktober 1912 promoveerde Koning Albert I het wapen van de familie van Herzele tot officieel gemeentewapen. Het kreeg in 1952 een plekje in de voorgevel van het gerestaureerde schepenhuis.
Na de gemeentefusie werd het wapen lichtjes aangepast. De punt van de gouden keper werd omhoog gehaald, zodat de hoek tussen beide 'benen' iets scherper is geworden.
