A palota felépítésére egy amerikai biztosítótársaság, a New York Life Insurance Company adott megbízást Hauszmann Alajosnak, aki Korb Flóris és Giergl Kálmán közreműködésével tervezte meg az 1894. október 23-án megnyitott négyemeletes, eklektikus stílusú palotát és a földszintjén helyet foglaló kávéházat. A kávéház bejáratnál szökőkút várta a vendégeket, a termekben velencei csillárok függtek, a karzatra vezető lépcsőt bronzszobrok díszítették. A cigány- és katonamuzsikát adó zenés kávéházat eredetileg előkelő, tehetős vendégeknek nyitotta a tulajdonos Steuer Sándor, de csakhamar a főváros legnépszerűbb találkozóhelye lett. Korabeli pesti anekdota szerint a megnyitó napján pesti bohémek a Dunába dobták a kávéház kulcsait, hogy az éjjel-nappal nyitva legyen. Irodalmi kávéházi rangját azonban csak akkor nyerte el, amikor 1900-ban Harsányi Adolf és fivére vette át a New York vezetését. Hamarosan kialakultak az irodalmi és művészi asztaltársaságok, 1908-tól néhány évig itt szerkesztették a Nyugat című folyóiratot, de itt indította el és szerkesztette Korda Sándor az első magyar moziújságot, a Pesti Mozit is. 1913-ban a Harsányi fivérek átadták a kávéházat új bérlőknek, de az többször is gazdát cserélt, és az első világháborút követően irodalmi rangja is megkopott. 1920-ban Tarján Vilmos vette át az üzemeltetést, akinek vezetése alatt a kávéház a fővárosi éjszakai élet egyik központjává vált. A helyiséget még fényűzőbbé alakíttatta, a melegkonyhás bárba csak estélyiben volt szabad a belépés. Az intézmény 1947-ben bezárta kapuit, és ugyan 1954-ben Hungária étterem néven újra megnyitotta ajtait a vendégek előtt, de a New York kávéház századfordulós fénykora már nem tért vissza. Az épületben jelenleg luxusszálloda működik.
