Umsvif Verslunar Guðsteins jukust stig af stigi og brátt var orðið tímabært að starfsemin flyttist í stærra húsnæði. Í mars 1929 fékk Guðsteinn leyfi til að reisa þrílyft verslunar- og íbúðarhús á lóð sinni við Laugaveg og í kjölfarið voru húsin við Laugaveg 34 rifin. Þorleifur Eyjólfsson arkítekt gerði teikningar að nýju húsi, sem þykir allsérsakt og fallegt með bogadregnum kvistum og fjölda glugga með mörgum fögum. Segja má að það sé í júgendstíl, en sú stiltegund ruddi sér rúms í arkítektúr í Vínarborg um aldamótin 1900. Þorleifur teiknaði fleiri hús sem setja svip á bæinn, þar á meðal er verslunarhús Egils Jakobsen við Austurstræti, en það ber einnig einkenni júgendstíls.

Mikill mannskapur vann við byggingu hússins og um leið og fyrsta hæðin var risin var hafist handa við frágang að innan og svo koll af kolli – hver hæð var tekin að innan strax og hún hafði verið steypt. Húsið reis á mjög stuttum tíma, en verklagni og hagsýni voru í fyrirrúmi við bygginguna. Útveggir voru úr jarnbentri steinsteypu, húsið var með járnþaki á pappa og á borðasúð. Loft á milli hæða voru ennfremur steypt. Húsið er þrílyft með porti, kvisti og sjö gluggakvistum. Skilveggir og kjallaragólf voru höfð úr venjulegri steinsteypu og innan á útveggjum voru settar korkplötur lagðar vírneti og múrsléttaðar. Kjallari er undir hálfu húsinu. Á neðstu hæðinni voru í fyrstu tvær sölubúðir með þremur útstyllingargluggum og sýningarskápum innan við þá.

Á annarri hæð hússins er mikil lofthæð og tekið mið af því við smíði hússins að unnt væri að fjarlægja svo til alla milliveggi, en útveggir hússins eru sérstyrktir með tilliti til þessa. Hafði Guðsteinn gert ráð fyrir þeim möguleika að breyta annarri hæðinni í veitingasölu, en þess vegna er inngangur frá Laugaveginum upp á aðra hæð með stórum dyrum og þaðan liggur breiður tröppugangur upp. Ekkert varð þó af þeim ráðagerðum, en Guðrúnu mun lítt hafa hugnast að í húsinu yrðu vínveitingar með því ónæði sem slíkri starfsemi fylgir. Guðsteinn sýndi forsjálni um fleiri hluti því gert var ráð fyrir að unnt yrði að koma fyrir lyftu í húsinu, þó að svo hafi ekki verið gert.

Guðsteinn og Guðrún bjuggu með fjölskyldu sinni á þriðju hæðinni. Í risinu voru í upphafi nokkur einstaklingsherbergi sem leigð voru út. Þar bjó um tíma Guðmundur Einarsson, myndhöggvari frá Miðdal. Önnur hæðin var einnig leigð út. Á öndverðum fjórða áratugnum leigði Edith Jónsson ballettkennari íbúðina, og bjó þar ásamt dóttur sinni Helenu. Í salnum á hæðinni kenndi Edith ballett. Hún átti flygill og um tíma var MA kvartettinn við æfingar í húsinu. Seinna bjó þýsk fjölskylda á hæðinni – landflótta Gyðingar. Við hernám Reykjavíkur var hluti af risinu tekin leigunámi fyrir hermenn breska setuliðsins, en þeir stöldruðu þó stutt við.

Verslunin flutti inn í húsið í desember 1929 og hefur starfað þar óslitið síðan. Lengst af var götuhæðinni þó skipt í tvö verslunarrými. Í því stærra var Verslun Guðsteins frá öndverðu, en hinum megin var í fyrstu afgreiðsla fyrir efnalaugina. Síðan var þar rekin smurbrauðsstofa og þvínæst kom Eyjólfur Guðsteinsson þar á fót tóbaks- og sælgætisverslun sem naut mikilla vinsælda meðal hermanna á stríðsárunum. Þeirri starfsemi var hætt eftir stríðslok og þá var um tíma rekin rekin vefnaðarvöruverslun í minna plássinu, þar sem meðal annars voru seldir tilbúnir kjólar, innfluttir frá Bandaríkjunum. Síðar stofnaði Eyjólfur aftur sælgætisverslun í plássinu sem hann rak áratugum saman, þar til laust eftir 1980 að Verslun Guðsteins var stækkuð og nær hún nú yfir alla götuhæðina.