После окончания Полтавской битвы Петр отдыхал в доме казака Магденко в полтавской крепости. В 1817 году на месте, где стоял дом, архитектор П. Тарасов соорудил кирпичный обелиск. В 1849 году, по повелению императора Николая I, вместо обелиска был воздвигнут величественный восьмиметровый памятник по проекту архитектора А. П. Брюллова. Он представлял собой четырехгранный пилон, установленный на двух высоких гранитных ступенях и увенчанный бронзовой композицией из лежащих меча и щита и венчающего их древнерусского шлема. На передней стороне пилона помещался накладной бронзовый двуглавый орел и, над ним, доска с надписью: «Петр I покоился здесь после подвигов своих 27 июня 1709 года». Под пилоном, на верхней ступени, помещалась надпись: «Воздвигнут 27 июня 1849 года в царствование Императора Николая I». На нижней гранитной ступени находился бронзовый барельеф, изображающий спящего льва. Вокруг памятника была устроена изящная ограда на глубоко вкопанных в землю пушках. Памятник был открыт в стосорока-летие Полтавской битвы.

Разоренный после революции, памятник был отреставрирован к 1939 году. Однако, сбитая бронзовая доска с упоминанием Николая I не восстанавливалась и сейчас на памятнике отсутствует.