Fonti degne di fede attestano l'esistenza di un s. Erasmo, martire, vescovo di Formia, il cui culto era molto diffuso nella Campania e nel Lazio.

La più antica è il Martirologio Geronimiano in cui Erasmo è ricordato il 2 giugno S. Gregorio Magno alla fine del sec. VI, scrivendo al vescovo Bacauda di Formia, attesta che il corpo del santo era conservato in quella chiesa: "Formianae ecclesiae in qua corpus beati Herasmi martyris requiescit".

Lo stesso pontefice ricorda due monasteri dedicati ad Erasmo: uno a Napoli e l'altro posto "in latere montis Pepperi" presso Cuma.

Anche Roma aveva un monastero dedicato al santo sul Celio, nel quale fu educato da giovane il papa Adeodato I (m. 619) che poi, da pontefice, lo ampliò e lo arricchì di beni e privilegi.

Altri monasteri intitolati ad Erasmo erano presso Formia (detto anche di Castellone) e presso Itri "in valle Itriana".
Il nome di Erasmo, oltre che nei martirologi storici, donde è passato nel Romano, era inserito nel Calendario marmoreo di Napoli.

Nell'842, dopo che Formia era stata distrutta dai Saraceni, le sue reliquie vennero trasferite a Gaeta e nascoste in un pilastro della chiesa di S. Maria, dove furono rinvenute nel 917 dal vescovo Bono.

Da quel tempo Erasmo fu proclamato patrono di Gaeta e furono anche coniate monete con la sua effigie. Il 3 febbraio 1106 Pasquale II consacrò la cattedrale di Gaeta in onore della Vergine e di Erasmo.
Nel Medio Evo il santo fu annoverato tra i cosidetti santi Ausiliatori e invocato specialmente contro le epidemie, mentre i marinai lo venerano come patrono col nome di S. Elmo.
Sulla personalità di Erasmo purtroppo siamo male informati poiché la passio, compilata con molta probabilità verso il sec. VI, è favolosa e leggendaria, né può aver maggior valore una biografia attribuita, senza solido fondamento, a Gelasio II (1118-19).

Da questi scritti appare evidente come gli autori niente sapessero di sicuro intorno ad Erasmo se non ch'era stato vescovo di Formia ed era morto martire al tempo forse di Diocleziano.
Secondo la passio, dunque, Erasmo era oriundo di Antiochia.

Quando scoppiò la persecuzione era già vescovo e si nascose per sette anni in una caverna del monte Libano.

Ritornato in città fu arrestato e condotto al tribunale dell'imperatore che con lusinghe e tormenti cercò di persuaderlo a sacrificare agli dei; ma Erasmo rimase saldo nella fede e fu rinchiuso in carcere.

Liberato miracolosamente, si recò nell'Illirico dove in sette anni convertì quattrocentomila persone.

Arrestato ancora una volta per ordine di Massimiano, fu condotto a Sirmio dove abbatté un simulacro e convertì altre quattrocentomila persone, molte delle quali furono immediatamente uccise, mentre Erasmo, dopo essere stato ancora tormentato orribilmente, era rinchiuso in carcere. Fu liberato allora dall'arcangelo Michele che lo condusse a Formia, ed ivi sette giorni dopo placidamente morì.