Приняв пострижение в обители святителей Антония и Феодосия, Поликарп ревностно старался подражать их высокой жизни. Благочестие, великая строгость и духовная рассудительность расположили к нему братию, и после смерти Акиндина (1164) Поликарпа избрали игуменом-архимандритом Печерской обители.
Великий князь Ростислав любил блаженного Поликарпа: каждую субботу и воскресенье Великого поста приглашал его к своей трапезе вместе с другими старцами, чтобы наслаждаться беседой; приходил и сам в обитель слушать его наставления. Как-то князь рассказал ему о своем желании удалиться от дел мирских, и рассудительный игумен объяснил князю его обязанности: «Князь, Господь требует от тебя иных подвигов – наблюдай правду в суде и оберегай землю Русскую».
В 1167 г. благочестивый великий князь Ростислав умер, и для Поликарпа наступило время тяжкой скорби. Из-за разногласий с митрополитом Константином по поводу введения поста в дни церковных праздников, предложенного Поликарпом и уже действующего в его обители, преподобный был осужден на заточение. Киевляне были убеждены, что с блаженным Поликарпом поступили несправедливо. Когда в 1169 году великий князь Мстислав Андреевич взял Киев и дозволил своим войскам грабить жителей, кафедральные храмы и монастыри в течение трех дней, киевляне говорили, что это допущено за неправоту митрополита по отношению к игумену Поликарпу.
Это было очень тяжелое для Киева время. Из киевских обителей уцелела тогда одна только лавра. Известно, что в феврале 1170 г. печерский игумен Поликарп и андреевский игумен переносили из Вышгорода в Киев тело умершего князя Владимира. В1174 г. вместе с митрополитом он встречал нового великого князя. В смутах времени еще восемь лет управлял он обителью. Скончался преподобный Поликарп в 1182 г., будучи глубоким старцем.