I 1987 flyttede Rosen til New York City. Han kom i lære i et ejendomsmæglerfirma, hvor han solgte ejendomme til tyske investorer.
EjendomsbesiddelserRediger
I 1991 grundlagde han partnerskabet RFR Holding LLC sammen med sin barndomsven Michael Fuchs (også en søn af overlevende fra Holocaust). Selv om ejendomsmarkedet var i en nedgang på det tidspunkt, havde de adgang til kapital, idet de i første omgang brugte ejendomme, som de hver især ejede i Tyskland, som sikkerhed. Senere udnyttede de deres adgang til tyske investorer som en løftestang. Deres strategi bestod i at købe store, tomme kontorbygninger, der trængte til en opgradering, og hyre kvalitetsarkitekter til at renovere dem til høje standarder. I de 15 år efter, at RFR Holding blev oprettet i 1991, erhvervede Rosen en stor portefølje af kontorbygninger, herunder Seagram Building, der blev købt for 375 mio. dollars fra Teachers Insurance and Annuity Association i 2000, og Lever House.
I 2006 samarbejdede Rosen med Ian Schrager, en mangeårig ven og medstifter af Studio 54, om at omdanne det 123 år gamle Gramercy Park Hotel ved at bruge den minimalistiske arkitekt John Pawson. I 2014 satte de hotellet på markedet for 260 millioner dollars efter at have afsluttet en fireårig renovering til 200 millioner dollars.
I 2006 annoncerede Rosen planer om at udvikle grunden på 610 Lexington Avenue i New York (beliggende direkte bag Seagram Building) til et glashotel og et lejlighedstårn, der skal tegnes af Sir Norman Foster.
Lever House Art CollectionRediger
The Lever House Art Collection er en samling af værker bestilt af Rosen til udstilling i Lever House. Den er kurateret af Richard Marshall, der er kunsthistoriker og associeret kurator for Whitney Museum i New York. Lever House Art Collection blev indviet i 2004 med et værk af Jorge Pardo. Andre værker har omfattet: Andre værker er Bride Fight af E.V. Day, Hulks af Jeff Koons og Hello Kitty af Tom Sachs.