Living Sacrifice oli yksi ensimmäisistä kristillisistä death metal -yhtyeistä Sacramentin ja Mortificationin ohella. Yhtyeen, jonka nimi on johdettu Room. 12:1:stä, perusti vuonna 1989 Darren ”D.J.” Johnson (basso, laulu), Bruce Fitzhugh (kitara) ja Lance Garvin (rummut). Myöhemmin Jason Truby liittyi mukaan kitaristina. He nauhoittivat demon Not Yielding to Ungodly, joka päätyi Believerin Kurt Bachmanin ja Joey Daubin käsiin, jotka tekivät sopimuksen R.E.X. Recordsin kanssa. Yhtye esiintyisi debyyttikeikallaan 1. joulukuuta 1989.
Vuonna 1991 Living Sacrificen samanniminen debyytti julkaistiin R.E.X. Recordsilla. Albumi äänitettiin Catamount Recording Studiossa Iowassa Kurt Bachmanin toimiessa tuottajana. Albumi sai monia vertailuja tuon ajan thrash metal -yhtyeisiin, erityisesti Slayeriin. Vuonna 1992 Living Sacrifice julkaisi toisen albuminsa Nonexistent. Tällä albumilla Living Sacrifice siirtyi thrash metalista alasviritettyyn death metaliin, ja D.J. alkoi kokeilla lauluäänessään death-murinaa. Jäsenet ovat sanoneet, että he olivat pettyneitä kokemukseen tämän albumin tekemisestä ja että syynä oli tuottaja. Tuottajalla ei ollut aiempaa kokemusta metallialbumien tekemisestä, eikä hän osannut työskennellä bändin kanssa. Yhtye oli alun perin ottanut yhteyttä Morrisound Recordingin Scott Burnsiin (Death, Atheist, Obituary), mutta levy-yhtiö ilmoitti, että yhtyeen oli saatava albumi ulos ennen vuoden 1992 Cornerstone Festivalia, mikä ei sopinut Burnsin aikatauluun. Koska insinööri ei tuntenut oikeita tekniikoita, Johnson ja Garvin yrittivät hoitaa insinöörityön itse.
Vuonna 1994 bändi julkaisi kolmannen albumin Inhabit, jota jotkut pitävät Living Sacrificen albumeista raskaimpana. Inhabitilla D.J. palasi thrash-painotteisempaan vokaaliin, joka oli syvempi ja matalampi kuin hänen laulunsa bändin debyytillä. Albumin tueksi yhtye lähti kiertueelle Malevolent Creationin kanssa. Tämän levytyksen jälkeen R.E.X. meni konkurssiin, ja Living Sacrifice allekirjoitti sopimuksen Solid State Recordsin kanssa pyrkien laajentamaan yleisöään.
Tämän jälkeen D.J. jätti bändin seuratakseen muuta kuin musiikillista palvelutyötä, ja Bruce otti vokaalit haltuunsa. Jasonin veli Chris liittyi myös mukaan basistina. Tällä uudella kokoonpanolla Living Sacrifice levytti Rebornin, Solid State -debyyttinsä, vuonna 1997. Bändi alkoi soittaa groove metalin ja metalcoren sekoitusta. Rebornia pidetään Living Sacrificen levyistä vaikutusvaltaisimpana ja se toi yhtyeelle suuremman ei-kristillisen fanikunnan. Tämän levyn jälkeen Chris ja Jason jättivät bändin ja Jay Stacy tuurasi basson soittajana, mutta hänet korvasi myöhemmin Arthur Green, entinen Eso-Charis. Cory Brandan soitti kitaraa Norjan ja Ruotsin kiertueella, mutta hänet korvasi Rocky Gray (joka soitti myöhemmin rumpuja Evanescence- ja We Are the Fallen -yhtyeissä ja kitaraa Soul Embraced -yhtyeessä.)
Vuoden 1999 lopulla Matthew Putman liittyi Living Sacrificeen lyömäsoittajaksi.
Vuonna 2000 Living Sacrifice nauhoitti viidennen albuminsa nimeltä The Hammering Process, jolla oli rytmikkäämpi soundi – suuntautuneempi kohti groove metallia. Bruce lauloi myös yhdessä Evanescence-kappaleessa, ”Lies”. Vuonna 2001 julkaistiin A Tribute to Living Sacrifice. Albumi sisältää covereita monista Living Sacrificen kappaleista muiden metalliyhtyeiden ja entisten jäsenten toimesta sekä Living Sacrificen kappaleen vuonna 1993 julkaistulta split-EP:ltä Metamorphosis. Vuonna 2002 Living Sacrifice siirtyi jälleen studioon, jonka tuloksena syntyi albumi Conceived in Fire.
Kesäkuussa 2003 Living Sacrifice perui yhden kiertueensa loppuosan ja ilmoitti Living Sacrificen hajoavan.
Kullakin yhtyeen jäsenellä oli muita sitoumuksia, kuten Lance Garvinin ja Rocky Grayn Soul Embraced, ja he tunsivat, että oli aika jatkaa eteenpäin. Useiden haastattelujen mukaan sen piti olla vain Bruce Fitzhughin viimeinen kiertue, ja hänen lähdettyään Cory Brandan Putmanin piti ottaa haltuunsa päälaulu ja rytmikitara, ja Bryan Grayn, entisen The Blamedin, piti ottaa haltuunsa pääkitara.
Maaliskuussa 2005 In Memoriam julkaistiin Solid State Recordsilla. Se on ”best of” -albumi, joka sisältää kolme ”Lance Garvinin, Rocky Grayn ja Bruce Fitzhugh’n hiljattain kirjoittamaa ja äänittämää kappaletta”, kaksi kappaletta jokaiselta Living Sacrifice -albumilta sekä ”Enthroned”, vuoden 1998 cover kappaleesta, joka julkaistiin alunperin vuoden 1992 Nonexistent-levyllä. Kolme uutta kappaletta ovat ”In Christ”, ”Killers” ja ”The Power of God”. 2007 Bruce Fitzhugh oli mukana kappaleessa ”Sixteen” Demon Hunterin neljännellä albumilla Storm the Gates of Hell.
Helmikuun 4. päivänä 2008 päivitettiin juuri luotu virallinen MySpace-sivu, jolla ilmoitettiin yhtyeen uudelleenmuodostamisesta. He ilmoittivat myös tukevansa Demon Hunteria ”Stronger Than Hell” -kiertueella 26. toukokuuta – 5. heinäkuuta 2008. 10. kesäkuuta 2008 Living Sacrifice julkaisi kahden kappaleen mittaisen, vain verkossa julkaistavan samplerin Death Machine. Samana päivänä ”Stronger Than Hell” -kiertueen Dallasissa, Teksasissa pidettävällä päivämäärällä laulaja ja rytmikitaristi Bruce Fitzhugh ilmoitti, että yhtye työstää uutta CD:tä, jonka he toivovat julkaisevansa vuonna 2009. Levyn julkaisu viivästyi Solid Staten toimesta ja ilmestyi lopulta 26. tammikuuta 2010. Musiikkivideo bändin The Infinite Orderin pääsinglestä, ”Rules of Engagement”, esitettiin 22. joulukuuta.
Yhtyeen seitsemäs studioalbumi, The Infinite Order, julkaistiin 26. tammikuuta 2010 Solid State Recordsin kautta. Albumilla kuullaan The Showdownista tutun David Buntonin, Adventista ja Belovedistä tutun Joe Mustenin sekä kitaristi Jason Trubyn ääniä. Albumin miksasi ja masteroi Hell-kitaristi Andy Sneap. Kappale kolme viittaa Friedrich Nietzschen lauseeseen ”God is dead”. Marraskuussa julkaistu deluxe-painos sisälsi kolme lisäraitaa, kaksi live-biisiä ja uuden kappaleen.
Kolmen vuoden kiertämisen jälkeen Living Sacrifice nauhoitti vuonna 2013 kahdeksannen albuminsa Ghost Thief, joka julkaistiin 12. marraskuuta 2013 Solid State Recordsilla. Ensimmäinen kappale nimeltä ”The Reaping” sai ensiesityksensä 17. lokakuuta 2013 Solid Staten YouTube-sivulla. Levyllä kuullaan vierailevina ääninä Demon Hunterin Ryan Clark ”Screwtape” -kappaleessa ja Throwdownin Dave Peters ”Despair” -kappaleessa. Levyn nimikappale ”Ghost Thief” sai ensiesityksensä 6. marraskuuta 2013 Revolver-lehden verkkosivuilla. Living Sacrifice on mukana Killing Floor 2:n soundtrackilla. Yhtye esiintyi vuoden 2017 ensimmäisillä keikoillaan ShipRocked-risteilyllä Pop Evilin, Breaking Benjaminin, Papa Roachin, Sevendustin ja Lacey Sturmin kaltaisten yhtyeiden rinnalla.
Edellisen vokalistin DJ Johnsonin mukaan bändin ystävä on kehittämässä bändistä dokumenttia. Vuonna 2017 yhtye julkaisi ”New Day” -kappaleen We Bear the Scars -hyväntekeväisyyskokoelmalla. Kappaleen piti alun perin olla osa The Hammering Process -levyä, mutta yhtye ja tuottaja Barry Poynter menettivät kappaleen miksauksen aikana. Yhtyeen 30 Years of Sacrifice -dokumenttielokuvan oli määrä debytoida bändin 30-vuotisjuhlakonsertissa 28. maaliskuuta 2020, ja siinä esiintyvät The Blamedin lisäksi entiset jäsenet Darren Johnson, Jason ja Chris Truby sekä Embodymentin ja The Faminein rumpali Mark Garza lyömäsoittimissa. COVID-19:n vuoksi dokumentin ensi-iltaa kuitenkin lykättiin.