Efrem urodził się około 306 r. w Nissibis (Mezopotamia). Jego matka miała być chrześcijanką. Z syryjskich pism Efrema łatwo dostrzec, że znał język i filozofię grecką. U boku biskupów Nissibis: Jakuba i Wologeriusza spędził Efrem większość swojego życia jako diakon. Wyręczał ich w głoszeniu kazań i w administracji. Należał do najzagorzalszych przeciwników herezji ariańskiej. Uczestniczył zapewne ze swoim biskupem w wielu synodach.
Gdy w roku 367 miasto zdobyli Persowie, wyemigrował do Edessy. Tu założył znaną szkołę i rozwinął pełną działalność kaznodziejską i pisarską. Prowadził także miejscowy chór katedralny. W trosce o zbawienie własnej duszy raz po raz udawał się na pustkowie, gdzie oddawał się modlitwie i uczynkom pokutnym. Dla zapoznania się z sytuacją Kościoła odwiedził pobliską Kapadocję i jej metropolitę, św. Bazylego Wielkiego. Następnie udał się do Egiptu, gdzie w Aleksandrii spotkał się ze św. Atanazym. W roku 372 powrócił do Edessy, gdzie 9 czerwca 373 r. oddał duszę Bogu. Cieszył się tak wielką czcią, że zaraz po śmierci jego grób stał się miejscem licznych pielgrzymek. Papież Benedykt XV ogłosił go doktorem Kościoła.
Był wybitnym egzegetą i kaznodzieją. Została po nim bardzo bogata spuścizna literacka. Składają się na nią dzieła egzegetyczne i apologetyczne, homilie, a przede wszystkim hymny - słynne Pieśni Nissybijskie. Jego hymny liturgiczne przetłumaczono na języki: grecki, ormiański, łaciński i wiele innych. Tematyka tych pism jest bardzo obszerna; mowa w nich o dziewictwie, postach, modlitwie za zmarłych, o ofiarnym charakterze Mszy świętej, o realnej obecności Pana Jezusa w Eucharystii. Wskazuje to na rozległą kulturę teologiczną Efrema. W wielu tekstach Efrem wyraża swe przywiązanie i cześć do Matki Bożej. Efrema nazywa się często "harfą Ducha Świętego". Z utworów pełnych żarliwości i poetyckiego natchnienia wyłania się osobowość wrażliwa, ciepła, o urzekającej pobożności. Jest największym poetą syryjskim, jednym z największych poetów chrześcijańskich. Czczony jako patron Asturii.

W ikonografii św. Efrem przedstawiany jest w stroju mnicha lub diakona. Jego atrybutem jest księga lub zwój oraz krowa. Rzadko występuje w sztuce religijnej zachodniej.