Преподобный решил, что ему нужно совсем удалиться от мира. Он опустил на воды Куры свою монашескую мантию и со своим верным учеником Лукианом поплыл на ней, как на лодке, тем самым изумляя народ ещё одним чудом. Поселились они на юго-востоке от Тбилиси в суровой Гареджийской пустыне, возложив всю свою надежду на Бога.
Здесь он повстречал инока, который уже давно жил в пустыне – Преподобного Додо. Они устроили себе обители – каждый соорудил в стене низкое тесное ложе, и, прилагая усиленные труды, презирая мирскую жизнь, неустанно молились. Питались подвижники корнями тех немногих растений, которые водились в пустыне, и травой, жажду утоляли редкой дождевой водой. Сильный зной и мороз лишали подвижников и этой скудной пищи, но Господь не оставлял их. По молитвам Преподобного, Он стал посылать к ним трёх самок диких оленей, которых доил Давид. Иноки питались их молоком и делали сыр. В среду и пятницу монахи не вкушали ничего, лишь усердно молились.