В 1815 году Росси возвращается в Санкт-Петербург. В 1816 он назначен членом Комитета строений и гидравлических работ. К ранним работам Росси в Петербурге и его окрестностях относятся реконструкция Аничкова дворца (1816), ряд павильонов и библиотека в Павловском дворце (1815—1822), Елагин дворец с оранжереей и павильонами (1816—1818).

Главной сферой деятельности Росси стало создание городских архитектурных ансамблей. Во многом благодаря ему Петербург обрёл новое лицо, превратившись в центр гигантской империи, гордой своими победами над Наполеоном. Его проекты имели гармоническое сочетание архитектурных форм с аллегорической скульптурой, новаторские конструктивные приёмы (например, металлические перекрытия).

Выдающееся архитектурное и градостроительное мастерство Росси воплощено в ансамблях Михайловского дворца с прилегающими к нему садом и площадью (1819—1825), Дворцовой площади с грандиозным дугообразным зданием Главного Штаба и триумфальной аркой (1819—1829), Сенатской площади со зданиями Сената и Синода (1829—1834), Александринской площади со зданиями Александринского театра (1827—1832), нового корпуса Императорской публичной библиотеки и двумя однородными протяжёнными корпусами Театральной улицы (ныне улица Зодчего Росси).