Living Sacrifice var ett av de första kristna death metalbanden tillsammans med Sacrament och Mortification. Bandet, vars namn är hämtat från Romarbrevet 12:1, bildades 1989 av Darren ”D.J.” Johnson (bas, sång), Bruce Fitzhugh (gitarr) och Lance Garvin (trummor). Senare anslöt sig Jason Truby till bandet på gitarr. De spelade in en demo, Not Yielding to Ungodly, som hamnade i händerna på Kurt Bachman och Joey Daub från Believer, som signade dem till R.E.X. Records. Bandet skulle göra sin debutspelning den 1 december 1989.
1991 släpptes Living Sacrifices självbetitlade debut på R.E.X. Records. Albumet spelades in på Catamount Recording Studio i Iowa med Kurt Bachman som producent. Albumet fick många jämförelser med thrash metal-grupper från den tiden, särskilt Slayer. År 1992 släppte Living Sacrifice sitt andra album Nonexistent. På detta album bytte Living Sacrifice från thrash metal till nedstämd death metal, och D.J. började experimentera med en death growl i sin sångstil. Medlemmarna har sagt att de var besvikna på upplevelsen av att göra detta album och att det var producentens fel. Producenten hade ingen tidigare erfarenhet av att arbeta med metalalbum och visste inte hur han skulle arbeta med bandet. Bandet hade först kontaktat Scott Burns från Morrisound Recording (Death, Atheist, Obituary), men skivbolaget uppgav att bandet var tvunget att ha albumet ute innan Cornerstone Festival 1992, vilket inte fungerade med Burns schema. Eftersom ingenjören inte kände till de rätta teknikerna försökte Johnson och Garvin arbeta med tekniken själva.
1994 släppte bandet ett tredje album, Inhabit, som av vissa anses vara det tyngsta av alla Living Sacrifice-album. På Inhabit återgick D.J. till en mer thrash-orienterad sång, djupare och lägre i tonen än hans sång på bandets debut. För att stödja albumet gav sig bandet ut på en turné med Malevolent Creation. Efter denna inspelning gick R.E.X. i konkurs och Living Sacrifice skrev på Solid State Records och försökte bredda sin publik.
Efter detta lämnade D.J. bandet för att följa en icke-musikalisk tjänst och Bruce tog över sången. Jasons bror Chris anslöt sig också som basist. Med denna nya besättning spelade Living Sacrifice in Reborn, deras Solid State-debut, 1997. Bandet började spela en blandning av groove metal och metalcore. Reborn anses vara den mest inflytelserika av alla Living Sacrifice-skivor och gav dem en större icke-kristen fanbase. Efter denna skiva lämnade Chris och Jason bandet och Jay Stacy hoppade in på basen, men ersattes senare av Arthur Green, tidigare i Eso-Charis. Cory Brandan spelade gitarr under en turné genom Norge och Sverige men ersattes sedan av Rocky Gray (som skulle fortsätta att spela trummor i Evanescence och We Are the Fallen och gitarr i Soul Embraced.)
I slutet av 1999 anslöt sig Matthew Putman till Living Sacrifice som slagverkare. 2000 spelade Living Sacrifice in sin femte fullängdsskiva, The Hammering Process, med ett mer rytmiskt sound – mer orienterat mot groove metal. Bruce sjöng även i en Evanescence-låt, ”Lies”. År 2001 släpptes A Tribute to Living Sacrifice. Albumet innehåller covers av många Living Sacrifice-låtar av andra metalband och tidigare medlemmar, samt en Living Sacrifice-låt från en delad EP, Metamorphosis, som släpptes 1993. År 2002 gick Living Sacrifice in i studion igen, vilket resulterade i albumet Conceived in Fire.
I juni 2003 ställde Living Sacrifice in resten av en av sina turnéer och meddelade att Living Sacrifice var på väg att upplösas.
Var och en av bandmedlemmarna hade andra åtaganden, såsom Lance Garvin och Rocky Grays Soul Embraced, och kände att det var dags att gå vidare. Enligt flera intervjuer var det bara tänkt att det skulle vara Bruce Fitzhughs sista turné, och efter att han lämnat skulle Cory Brandan Putman ta över Lead Vocals och Rhythm Guitar, och Bryan Gray, tidigare i The Blamed skulle ta över Lead Guitar.
I mars 2005 släpptes In Memoriam av Solid State Records. Det är ett ”best of”-album som innehåller tre ”nyskrivna och inspelade låtar av Lance Garvin, Rocky Gray och Bruce Fitzhugh”, två låtar från varje Living Sacrifice-album samt ”Enthroned”, en cover från 1998 av en låt som ursprungligen släpptes på Nonexistent från 1992. De tre nya låtarna är ”In Christ”, ”Killers” och ”The Power of God”. 2007 medverkade Bruce Fitzhugh på låten ”Sixteen”, på Demon Hunters fjärde album Storm the Gates of Hell.
Den 4 februari 2008 uppdaterades en nyskapad officiell MySpace-sida för att tillkännage bandets reformation. De meddelade också att de stödjer Demon Hunter i ”Stronger Than Hell”-turnén från den 26 maj till den 5 juli 2008. Den 10 juni 2008 släppte Living Sacrifice en sampler med två låtar, endast online, Death Machine. Samma dag vid Dallas, Texas-datumet av ”Stronger Than Hell”-turnén meddelade sångaren och rytmegitarristen Bruce Fitzhugh att bandet arbetade på en ny CD som de hoppades kunna släppa under 2009. Skivsläppet försenades av Solid State och kom så småningom ut den 26 januari 2010. En musikvideo till deras första singel från The Infinite Order, ”Rules of Engagement”, sändes den 22 december.
Bandets sjunde studioalbum, The Infinite Order, släpptes den 26 januari 2010 via Solid State Records. På albumet medverkar David Bunton från The Showdown, Joe Musten från Advent and Beloved och gitarristen Jason Truby. Albumet mixades och masteriserades av Andy Sneap, gitarrist från Hell. Spår tre refererar till frasen ”God is dead” av Friedrich Nietzsche. Deluxe-utgåvan släpptes i november och innehöll tre extra spår, två live-låtar och ett nytt spår.
2013, efter tre års turnerande, spelade Living Sacrifice in sitt åttonde album, Ghost Thief, som släpptes den 12 november 2013 på Solid State Records. Den första låten som heter ”The Reaping” hade premiär den 17 oktober 2013 på Solid State YouTube-sida. På albumet finns gäströster av Ryan Clark från Demon Hunter på ”Screwtape” och Dave Peters från Throwdown på ”Despair”. Titellåten, ”Ghost Thief”, hade premiär den 6 november 2013 på Revolver magazine hemsida. Living Sacrifice finns med på Killing Floor 2 Soundtrack. Bandet gjorde sina första spelningar 2017 på kryssningen ShipRocked tillsammans med band som Pop Evil, Breaking Benjamin, Papa Roach, Sevendust och Lacey Sturm.
Enligt den före detta sångaren DJ Johnson håller en vän till bandet på att utveckla en dokumentär om bandet. År 2017 släppte bandet ”New Day” på en välgörenhetssamling, We Bear the Scars. Spåret var ursprungligen tänkt att vara en del av The Hammering Process, men bandet och producenten Barry Poynter tappade bort spåret under mixningsprocessen. Bandets dokumentärfilm, 30 Years of Sacrifice, skulle debutera på bandets 30-årsjubileumsspelning den 28 mars 2020 och innehålla The Blamed och de tidigare medlemmarna Darren Johnson, Jason och Chris Truby, samt Embodyment och The Famine-trummisen Mark Garza på slagverk. På grund av COVID-19 blev dock premiären av dokumentären uppskjuten.