Памятник установлен недалеко от коммунальной квартиры, в которой часто останавливался Осип Мандельштам и где жил его брат Александр.

Скульптура из бронзы представляет собой голову поэта, стоящую на четырех базальтовых кубах. На монументе высечены строки Мандельштама: "За гремучую доблесть грядущих веков...".

Авторы памятника - скульпторы Дмитрий Шаховской и Елена Мунц, а также архитектор Александр Бродский. Их проект монумента выиграл конкурс в 2007 году.

Памятники Осипу Мандельштаму есть во Владивостоке и Воронеже. Таким образом, московский памятник поэту стал третьим в России.