Nie wiemy wiele o świętym Tarsycjuszu. Był młodym Rzymianinem, akolitą, należącym do otoczenia papieża Stefana I, późniejszego męczennika. Posługa akolity była wtedy jednym ze święceń niższych, które dawało prawo klerykom usługiwania do Mszy św. Za cesarza Decjusza (249-251) nastąpiły jedne z najkrwawszych prześladowań chrześcijan. Znacznie ograniczono możliwości widywania się z uwięzionymi. Wskutek tego umacnianie chrześcijan Komunią św. przed ich męczeńską śmiercią stało się prawie niemożliwe. Każdy odważny kapłan, diakon czy dorosły chrześcijanin, gdy szedł do więzienia z Komunią św., narażał się na rozpoznanie i areszt. W tej sytuacji Tarsycjusz, chłopiec prawdopodobnie około dziesięcioletni, okazał gotowość chodzenia do więzienia z Chrystusem Eucharystycznym, sądząc, że z powodu młodego wieku uda mu się niepostrzeżenie dotrzeć do braci i sióstr skazanych na śmierć męczeńską.
Pewnego dnia, gdy szedł z Najświętszym Sakramentem ukrytym na piersiach, pogańscy rówieśnicy zaczęli zachęcać go, aby przyłączył się do wspólnej zabawy. On jednak zaczął uciekać przed nimi. Kiedy spostrzegli, że coś przyciska do piersi, zaczęli go gonić. Broniącego się powalili na ziemię, kopali i obrzucali kamieniami. Wyrwał go z ich rąk przechodzący obok żołnierz rzymski Kwadratus, chrześcijanin, ale po zaniesieniu do domu chłopiec zmarł na skutek zadanych mu ran. Wydarzenie to miało miejsce prawdopodobnie w 250 roku. Ciało Świętego zostało pogrzebane na cmentarzu św. Kaliksta.
Najstarsze księgi liturgiczne, pochodzące z przełomu VII/VIII w., nie zawierały wzmianki o św. Tarsycjuszu. Pod datą 15 sierpnia umieścił go Adon z Vienne (+875) w opracowanym przez siebie martyrologium. W dniu tym obchodzona jest jednak przede wszystkim uroczystość Wniebowzięcia Najświętszej Maryi Panny. Św. Tarsycjusz musiał więc pozostać w cieniu. W księgach liturgicznych do dnia dzisiejszego nie ma on swojego formularza.
Relikwie św. Tarsycjusza w 1675 r. przeniesiono do Neapolu, gdzie umieszczono je w osobnej kaplicy przy Bazylice św. Dominika. W ikonografii św. Tarsycjusz przedstawiany jest jako ten, który na swojej piersi niesie Najświętszy Sakrament, ochraniając Go swoimi rękami. Po reformie kalendarza liturgicznego wspomnienie św. Tarsycjusza przeniesiono na 21 listopada.