В юго-западной части Гринвичского парка за живой изгородью, забором и довольно большой и слегка мешающей вывеской находятся остатки купальни георгианской эпохи. Когда-то это была часть давно снесённого дома Монтегю, резиденции женщины, которая позже станет королевой Великобритании.
В 1795 году принцесса Каролина Брауншвейгская вышла замуж за принца Георга. Это был брак по расчёту, который обеспечил Георгу большое состояние. Принц уже был женат (хотя этот брак не имел юридической силы), и новая невеста его совершенно не интересовала. Он считал Каролину непривлекательной, негигиеничной и решил, что единственный способ пережить свадьбу — напиться в стельку.
После года брака и рождения дочери муж Каролины счёл, что нужные цели достигнуты, и супруги навсегда разошлись. В 1801 году Каролина переехала в дом Монтегю в Гринвиче, где устраивала множество шумных приёмов, по слухам, сопровождавшихся оргиями. Именно в этот период в оранжерее, куда можно было попасть из главного здания, была построена эта купальня.
Поговаривали, будто, проживая в доме Монтегю, Каролина поддерживала многочисленные связи с адмиралами, капитанами и политиками. Хотя после проведённого расследования королевская комиссия сняла с неё обвинения в супружеской неверности, её поведение вызывало много споров. Недовольная своей жизнью в Англии, Каролина в 1814 году уехала в Италию, а избавившийся от своей ненавистной жены Георг приказал снести дом Монтегю.
Купальня, скрывавшаяся в течение многих лет под мостовой и цветочными клумбами, была впервые обнаружена в 1909 году. В 1980-х годах её снова засыпали, а в 2001 году откопали и отреставрировали.