Living Sacrifice byla spolu se Sacrament a Mortification jednou z prvních křesťanských deathmetalových kapel. Kapelu, jejíž název je odvozen z Římanům 12,1, založil v roce 1989 Darren „D.J.“. Johnson (baskytara, zpěv), Bruce Fitzhugh (kytara) a Lance Garvin (bicí). Později se k nim přidal Jason Truby (kytara). Nahráli demo Not Yielding to Ungodly, které se dostalo do rukou Kurta Bachmana a Joeyho Dauba z Believer, kteří s nimi podepsali smlouvu u R.E.X. Records. Kapela měla 1. prosince 1989 odehrát svůj debutový koncert.
V roce 1991 vyšel u R.E.X. Records debut Living Sacrifice s vlastním názvem. Album bylo nahráno ve studiu Catamount Recording Studio v Iowě, kde jako producent působil Kurt Bachman. Album se dočkalo mnoha přirovnání k tehdejším thrashmetalovým skupinám, zejména Slayer. V roce 1992 Living Sacrifice vydali své druhé album Nonexistent. Na tomto albu Living Sacrifice přešli od thrash metalu k down-tuned death metalu a D.J. začal experimentovat s deathovým growlem ve svém vokálním projevu. Členové prohlásili, že byli zklamáni zkušenostmi z natáčení tohoto alba a že na vině byl producent. Producent neměl žádné předchozí zkušenosti s prací na metalových albech a nevěděl, jak s kapelou pracovat. Kapela původně oslovila Scotta Burnse z Morrisound Recording (Death, Atheist, Obituary), ale vydavatelství uvedlo, že kapela musí mít album venku před Cornerstone Festivalem 1992, což se neslučovalo s Burnsovým rozvrhem. Protože inženýr neznal správnou techniku, Johnson a Garvin se pokusili pracovat na inženýrské stránce sami.
V roce 1994 kapela vydala třetí album Inhabit, které je některými považováno za nejtěžší ze všech alb Living Sacrifice. Na Inhabit se D.J. vrátil k thrashovějšímu vokálnímu přístupu, hlubšímu a nižšímu tónu než jeho vokály na debutu kapely. Na podporu alba se kapela vydala na turné s Malevolent Creation. Po této nahrávce R.E.X. zkrachovali a Living Sacrifice se upsali Solid State Records ve snaze rozšířit své publikum.
Po této události D.J. opustil kapelu, aby se věnoval jiné než hudební službě, a Bruce převzal vokály. Připojil se také Jasonův bratr Chris, který hrál na baskytaru. V této nové sestavě Living Sacrifice nahráli v roce 1997 debut Reborn, který vydala společnost Solid State. Kapela začala hrát směs groove metalu a metalcoru. Reborn je považováno za nejvlivnější ze všech desek Living Sacrifice a získalo jim větší nekřesťanskou fanouškovskou základnu. Po této desce Chris a Jason kapelu opustili a Jay Stacy zaskočil na baskytaru, ale později ho nahradil Arthur Green, dříve působící v Eso-Charis. Cory Brandan hrál na kytaru na turné po Norsku a Švédsku, ale poté ho nahradil Rocky Gray (který později hrál na bicí v kapelách Evanescence a We Are the Fallen a na kytaru v Soul Embraced.)
Koncem roku 1999 se k Living Sacrifice připojil Matthew Putman jako hráč na bicí nástroje.
V roce 2000 Living Sacrifice nahráli své páté řadové album The Hammering Process s rytmičtějším zvukem – více orientovaným na groove metal. Bruce také zpíval v jedné písni Evanescence, „Lies“. V roce 2001 vyšlo album A Tribute to Living Sacrifice. Album obsahuje covery mnoha písní Living Sacrifice od jiných metalových kapel a bývalých členů a píseň Living Sacrifice ze split EP Metamorphosis, vydaného v roce 1993. V roce 2002 Living Sacrifice opět vstoupili do studia, výsledkem bylo album Conceived in Fire.
V červnu 2003 Living Sacrifice zrušili zbytek jednoho ze svých turné a oznámili, že se Living Sacrifice rozpadají.
Každý z členů kapely měl jiné závazky, například Lance Garvin a Rocky Gray’s Soul Embraced, a cítili, že je čas jít dál. Podle několika rozhovorů mělo jít pouze o poslední turné Bruce Fitzhugha a po jeho odchodu měl Cory Brandan Putman převzít hlavní zpěv a rytmickou kytaru a Bryan Gray, dříve působící v The Blamed, měl převzít hlavní kytaru.
V březnu 2005 vyšlo u Solid State Records album In Memoriam. Jedná se o „best of“ album, obsahující tři „nově napsané a nahrané písně Lance Garvina, Rockyho Graye a Bruce Fitzhugha“, dvě písně z každého alba Living Sacrifice plus „Enthroned“, coververzi písně z roku 1998, která původně vyšla na albu Nonexistent z roku 1992. Třemi novými písněmi jsou „In Christ“, „Killers“ a „The Power of God“.
V roce 2007 se Bruce Fitzhugh objevil v písni „Sixteen“ na čtvrtém albu Demon Hunter Storm the Gates of Hell.
4. února 2008 byla aktualizována nově vytvořená oficiální stránka na MySpace, kde byla oznámena reformace skupiny. Zároveň oznámili, že od 26. května do 5. července 2008 budou podporovat Demon Hunter na turné „Stronger Than Hell“. Dne 10. června 2008 vydali Living Sacrifice dvoupísňový, pouze online sampler Death Machine. Téhož dne na koncertě v texaském Dallasu v rámci turné „Stronger Than Hell“ oznámil zpěvák a rytmický kytarista Bruce Fitzhugh, že kapela pracuje na novém CD, které by měla vydat v roce 2009. Vydání alba bylo společností Solid State odloženo a nakonec vyšlo 26. ledna 2010. Videoklip k hlavnímu singlu z alba The Infinite Order, „Rules of Engagement“, byl odvysílán 22. prosince.
Sedmé studiové album skupiny The Infinite Order vyšlo 26. ledna 2010 u Solid State Records. Na albu se objevují hlasy Davida Buntona z kapely The Showdown, Joea Mustena z kapel Advent a Beloved a kytaristy Jasona Trubyho. Album mixoval a masteroval Andy Sneap, kytarista skupiny Hell. Třetí skladba odkazuje na větu Friedricha Nietzscheho „Bůh je mrtvý“. V listopadu vydaná deluxe edice obsahovala tři další skladby, dvě živé písně a novou skladbu.
V roce 2013, po třech letech koncertování, Living Sacrifice nahráli své osmé album Ghost Thief, které vyšlo 12. listopadu 2013 u Solid State Records. První skladba s názvem „The Reaping“ měla premiéru 17. října 2013 na stránce Solid State na YouTube. Na albu hostují Ryan Clark z Demon Hunter ve skladbě „Screwtape“ a Dave Peters z Throwdown ve skladbě „Despair“. Titulní píseň „Ghost Thief“ měla premiéru 6. listopadu 2013 na stránkách časopisu Revolver. Living Sacrifice se nachází na soundtracku ke hře Killing Floor 2. Kapela odehrála své první koncerty v roce 2017 na plavbě ShipRocked po boku kapel jako Pop Evil, Breaking Benjamin, Papa Roach, Sevendust a Lacey Sturm.
Podle bývalého zpěváka DJ Johnsona připravuje přítel kapely dokumentární film o kapele. V roce 2017 kapela vydala skladbu „New Day“ na benefiční kompilaci We Bear the Scars. Skladba měla být původně součástí alba The Hammering Process, ale kapela a producent Barry Poynter ji během mixování ztratili. Dokumentární film 30 Years of Sacrifice měl debutovat na koncertě k 30. výročí kapely 28. března 2020 a měli v něm vystoupit The Blamed a bývalí členové Darren Johnson, Jason a Chris Truby a bubeník Embodyment a The Famine Mark Garza na bicí. Z důvodu konání festivalu COVID-19 však byla premiéra dokumentu odložena.