Urodzony w Cezarei Palestyńskiej między 490 a 507 rokiem, Prokopiusz był gruntownie wykształcony i prawdopodobnie kształcił się w dziedzinie prawa. W 527 r. został doradcą i sekretarzem młodego generała Belizariusza, ówczesnego cesarskiego dowódcy w Mezopotamii przeciwko Persom. W tym charakterze towarzyszył Belizariuszowi w wielu jego kampaniach. Był świadkiem nie tylko działań perskich, ale także stłumienia zamieszek w Nicei (532), podboju królestwa Wandalów w Afryce Północnej (533-534) i – po okresie służby w Afryce Północnej (534-536) – pierwszej wojny z Ostrogotami w Italii (535-540). W 542 r. Prokopiusz przebywał w Konstantynopolu, gdzie zaobserwował początki straszliwej zarazy, która nawiedziła cesarstwo. Przypuszczalnie Prokopiusz nie dołączył do Belizariusza podczas jego drugiej kampanii włoskiej. Wydaje się, że do końca swojej kariery pełnił funkcje rządowe w stolicy.
W oparciu o swoje doświadczenia Prokopiusz rozpoczął w latach 540-tych formalną historię wydarzeń militarnych i politycznych swoich czasów, swoją Historię wojen, napisaną w doskonałej grece. Z ośmiu ksiąg dwie pierwsze opowiadają o wojnach perskich, które toczyły się od początku V wieku do około 550 roku. Kolejne dwie księgi opisują wojny wandalskie i późniejsze wydarzenia w Afryce Północnej do końca 540 roku. Trzy kolejne księgi opisują obie fazy wojen ostrogockich, od 535 do 551 roku. Uzupełniająca ósma księga obejmuje wydarzenia ogólnie między 548 a 554 rokiem.
W międzyczasie postawa Prokopiusza najwyraźniej uległa drastycznej zmianie. Pozornie chłodny osobiście dla Justyniana i jego żony Teodory, wydaje się, że przynajmniej podzielał aspiracje wczesnych lat ich panowania. Późniejsze klęski i rozczarowania przygnębiły go – jak się sądzi, proces ten nasilił się, ponieważ nie udało mu się uzyskać wszystkich oczekiwanych awansów. W związku z tym około 550 r. Prokopiusz napisał Nieopublikowane rozdziały (Ta anékdota), znane obecnie jako Historia arcana, czyli Historia sekretna. Wojny, historia publiczna i półoficjalna, były przeznaczone do obiegu. W tym sekretnym pamiętniku, nieprzeznaczonym do publikacji, Prokopiusz wylał swoje frustracje, ośmieszając i obrzucając wyzwiskami Belizariusza, jego żonę Antoninę, cesarzową Teodorę, a przede wszystkim samego Justyniana. Cesarz został przedstawiony jako złośliwy, pazerny, niszczyciel wszelkiego ustalonego porządku i tradycji, a w efekcie zły demon.
Prokopiusz, choć obiektywny i sceptyczny w sprawach religijnych, planował kościelną historię panowania Justyniana, ale dzieło to zaginęło lub nie zostało zrealizowane. W połowie lat pięćdziesiątych Prokopiusz stworzył jednak opis programu architektonicznego Justyniana, zatytułowany O budowlach. Dzieło to, podzielone geograficznie na sześć ksiąg, jest niekompletne, ponieważ brakuje w nim części poświęconej Italii.
Wydaje się, że Prokopiusz otrzymał wyższe stanowiska na dworze pod koniec życia. Ostatni raz słyszy się o nim w 559 roku, a data jego śmierci nie jest znana.