Четырёхлетнее президентство Честера Алана Артура часто игнорируется историками. То же самое можно сказать и про дом в Нью-Йорке, в котором 21-й президент США был приведён к присяге и всего пять лет спустя умер.
Артур, занимавший в то время должность вице-президента, находился в своей библиотеке на втором этаже дома № 123 по Лексингтон-авеню, когда поздно вечером 19 сентября 1881 года узнал, что президент Джеймс А. Гарфилд скончался от ран, полученных в результате выстрела двумя месяцами ранее. Несколько часов спустя Артур был приведён к присяге на втором этаже своего собственного дома. Эта инаугурация стала второй в истории США, проведённой в Нью-Йорке, после процедуры вступления в должность Джорджа Вашингтона. Два дня спустя Артур повторил присягу уже в кабинете вице-президента.
В 1885 году Честер Артур ушёл с поста президента, вернулся на Лексингтон-авеню, 123 и возобновил юридическую практику. Однако вскоре его здоровье стало ухудшаться из-за хронического заболевания почек и в следующем году он умер, находясь в своём доме.
После смерти Артура в 1886 году здание Лексингтон-авеню, № 123 претерпело значительные изменения. Вход с каменной лестницей, изначально находившийся на уровне второго этажа, был перестроен. С 1944 года первые два этажа занимают индийские бакалейные лавки и гастрономы, а остальные три этажа разделены на квартиры. Лексингтон-авеню, 123 остаётся единственным сохранившимся зданием в Нью-Йорке, где президент был приведён к присяге. Первоначальный Федерал-Холл (в то время ратуша), где в 1789 году состоялась инаугурация Джорджа Вашингтона, был снесён в далёком 1812 году.
Хотя историческое значение этого дома часто упускается из виду, он не был полностью забыт. В 1981 году Нью-йоркское историческое общество разместило на нём мемориальную доску, указав время, проведённое Артуром в этом доме до и после его президентства, а также отметив, что некий Уильям Рэндольф Хёрст приобрёл здание в 1907 году. Мемориальная доска всё ещё существует, и прохожим, желающим заглянуть за запертые двери, она даёт ключ к разгадке исторической важности этого места.