Болгарин Иоанн родился в 876 году в селении Скрином, неподалеку от Средца (София). После смерти своих благочестивых родителей он роздал бедным оставшееся после них небогатое имущество, а сам, приняв иночество, оставил родину и стал подвизаться в уединении на высокой горе, питаясь лишь дикими растениями и одеваясь в звериные шкуры. Как-то ночью на него напали разбойники и, избив, прогнали прочь. Тогда Иоанн скрылся в глубокой пещере. Здесь инока разыскал его юный племянник Лука, также горевший желанием подвижничества. Иоанн принял его с любовью и радостью, и некоторое время отшельники жили спокойно в посте и молитве. Вскоре их уединение разрушил отец юноши и, осыпав Иоанна ругательствами, увел от него своего сына. Огорченный Иоанн со слезами обратился к Богу и молился, чтобы Господь сам устроил спасение возлюбившего Его юноши, которого насильно возвратили в мир.
Пока Иоанн с тоской раздумывал об опасностях, ожидающих в мире неопытного юношу, и молил за него Господа, участь молодого подвижника была решена. Возвращаясь вместе с отцом, он по дороге был укушен змеей и умер. Пораженный гибелью сына, отец осознал свою вину и, вернувшись к Иоанну, рассказал ему о случившемся. По указанию Иоанна он похоронил своего праведного сына неподалеку от пещеры, и могила Луки стала любимым местом отдыха Иоанна.
В течении двадцати лет дикая пещера Иоанна одна была свидетельницей его подвига молитвенного общения человека с Богом. Отсюда Иоанн перешел в Рыльские леса, где поселился в дупле дуба и вел такую жизнь, какая была бы невозможна для обычного человека. Он провел здесь многие годы, не видя ни одной живой души, кроме диких зверей. Наконец его случайно обнаружили пастухи и повсюду распространили молву об Иоанне. Тогда многие стали приходить к нему и приводить больных, которых святой исцелял своими молитвами.
Известность угнетала Иоанна, и он, покинув свое дупло, и поселился на высокой, едва доступной горе. Здесь он провел семь лет под открытым небом, то стоя на ногах, то коленопреклоненный в молитве.
И многие люди, пожелав жить также, стали селиться неподалеку от подвижника. Когда отшельников стало много, а людской поток все не ослабевал, здесь устроили монастырь, а преподобного избрали настоятелем.
Преставился Божий человек Иоанн в 940 году.
Нетленные мощи Иоанна были перенесены в Средец. Когда же столицу занял венгерский король, извещенный о чудесах, творимых у мощей преподобного Иоанна, они с великими почестями были перенесены в Венгрию. Местный священнослужитель, услышав, что почитают великого неизвестного ему Иоанна, сказал: «Не знаю я этого святого, в древних писаниях он не поминается...». И вмиг онемел. Поняв несправедливость своих слов и усердно помолившись у раки преподобного о прощении, был исцелен. Совершались от мощей святого многие другие чудеса.