За время службы в Тифлисе Полонский сменил несколько адресов. Он жил на квартире «в доме князя Палавандова», потом на Авлабаре, затем переселился в Сололаки, где жил в одном доме с семьей Золотарева. В конце 1847 года он писал: «Я на новой квартире! Мой кабинет по соседству с кабинетом И. Федоровича Золотарева. Дверь не запирается, и мы часто друг с другом видимся. Мою прежнюю квартиру называют захолустьем, трущобой...»
Как-то Полонский зашел в гости к своему тифлисскому приятелю Ю.Ф. Ахвердову, замечательному знатоку армянской литературы, и тот познакомил его с творчеством поэта-ашуга Саят-Новы (1712-1795), который писал песни на армянском, грузинском и азербайджанском языках. Саят-Нова (настоящие имя и фамилия Арутюн Саядян) прославился как народный певец-сказитель. В его стихах яркая образность, характерная для восточной поэзии, органично сочеталась с глубокой эмоциональностью. Поэт-просветитель провозглашал свободу личности, воспевал гармонию тела и духа, стремление человека к совершенству. Кончина его была трагичной: на Кавказ вторглись персы. Опустошив и предав огню грузинские селения, персидская конница ворвалась в Тифлис. Персы никого не щадили, тем более - православных монахов. Под кривыми персидскими саблями погиб и Саяг-Нова...
Рассказ Ахвердова о судьбе ашуга потряс Полонского, а стихи и песни погибшего поэта глубоко запали в его ранимую душу. Воображение разыгралось, и Яков Петрович излил свои чувства на бумагу в чудесном стихотворении «Саят-Нова», написанном в 1851 году. Полонский выбрал для стихотворения форму гекзаметра, поэтому его строки звучат величественно и торжественно:
Много песков поглощают моря, унося их волнами,
Но берега их сыпучими вечно покрыты песками.
……………………………………………………….
Если погибну я, знаю, что свет не заметит утраты;
Ты только вспомнишь те песни, под звуки которых цвела ты.
О работе над стихотворением «Саят-Нова» сам поэт сообщал: «Когда я писал их (стихи), я только помнил мотив и давал полную волю фантазии». Но это отнюдь не означает, что поэт писал «на скорую руку» о том, что придет в голову. Черновые автографы его стихотворений свидетельствуют об упорном труде автора над каждым произведением...
Духовно близок Полонскому был и известный в Тифлисе персидский певец Сатар, которому он посвятил вдохновенные строки:
Сатар! Сатар! Твой плач гортанный –
Рыдающий, глухой, молящий, дикий крик –
Под звуки чианур и трели барабанной
Мне сердце растерзал и в душу мне проник.
Полонский с удовольствием слушал старинные кавказские легенды и предания, и они находили свое воплощение в его стихах. Так, в стихотворении «Тамара и певец ее Шота Руставель» поэт воспевает всепоглощающую любовь - самый драгоценный дар, которым наделен человек. Вот как описывает он любовь «мечтательно-тихого» певца «в византийской одежде», не похожего на других, к царице Тамаре:
Не царицу Иверии в сонме князей,
Божество красоты молча видит он в ней –
Каждый звук ее голоса в нем
Разливается жгучим огнем,
Каждый взгляд ее темных очей
Зарождает в нем тысячу змей,
И - восторженный - думает он:
Не роскошный ли видит он сон...
И какой нужно голос иметь,
Чтоб Тамару воспеть?..
Царица Тамара, правительница воинственная, гордая и жестокосердная, говорит певцу «царственным голосом»:
Я готова тебя при дворе принимать.
Меньше пой о любви –
О безумной любви - и тебя награждать
Я готова за песни твои.
Но разве может истинный поэт не петь о любви? И Шота Руставель, «смутившись душой, как безумец, собой не владея» ответил властительнице.
Буду петь про любовь - ты не станешь внимать –
Но клянусь! - на возвышенный голос любви
Звезды будут лучами играть,
И пустыня, как нежная мать,
Мне раскроет объятья свои!
Так мог бы ответить царице и сам Полонский - собственно говоря, поэт вложил в уста певца свои слова и надарил его своими чувствами.
Влюбчивый по натуре, Полонский восторгался красотой тбилисских женщин, в которых его привлекали грациозность, стройность, какая-то необузданная, полудикая красота и скромность. «Красавиц здесь не оберешься, в самом деле... грузинки чудо как хороши... - сообщал он Гутмансталям - Видеть их ничего не стоит - каждый вечер с 6 часов все на кровлях или за воротами, но познакомиться, если говорить прямо, невозможно... проходя мимо, непременно отвернется. Досадно, что я еще ни в кого не влюбился - да и вряд ли! А впрочем, выучил наизусть грузинскую фразу "Мигхуар хар, мзе чеми!" - то есть "Люблю тебя, солнце мое!"».
На Кавказе Полонский познакомился с видными деятелями общественно-культурной жизни: выдающимися деятелями грузинской культуры Г. Эристави и Дм. Кипиани, выдающимся азербайджанским писателем-просветителем и философом Мирзой Фатали Ахундовым, замечательным сыном армянского народа Геворком Ахверуяном и другими. Быт и культура народов Кавказа органично вошли в жизнь и творчество русского поэта.