Иаков родился в Низибии, на границе Персии и Римской империи. Будучи сыном одного из областных князей Армении, он получил хорошее образование, но еще в ранней юности понял, что ему не нужны те почести, которые обеспечивают происхождение и образование, и потому предпочел жить в уединении. Летом он уходил в горы и леса, где питался тем, что удастся добыть, и носил простую одежду, самим сшитую.
За свою святую жизнь Иаков был удостоен от Бога дара прорицания и наделен чудотворной силой, и потому народ умолил его принять избрание в епископы. При императоре Максимине (235-238) он распространял христианскую веру среди язычников в Персии; участвовал в Первом Вселенском соборе, где обличил ересь Ария. Своими молитвами Иаков много раз защищал родной город Низибию от персидского царя Сапора. Однажды, когда город был в особой опасности, его спасли молитвы епископа: насекомые в таком изобилии напали на слонов и лошадей неприятельского войска, что произошло полное смятение и Сапор вынужден был снять осаду, тем более что ему еще показалось при этом, что сам император явился на защиту Низибии...
Святой епископ Иаков скончался в 350 году, и только через несколько лет после его смерти Сапору удалось покорить Низибию.