Il suo primo lavoro è l'Hotel Metropole, sul lago di Como, in cui utilizza alcune storpiature Art- Nouveau (pensilina) che gli procurano non poche critiche.

attorno al 1927 realizza ad Erba un Monumento ai caduti, senza alcuna interpretazione scultorea, solo con intento paesistico. Successivamente realizza alcune tombe nel cimitero monumentale di Como: il linguaggio anticipa temi come l'interesse per il chiaroscuro e l'incassamento dei volumi, che riprenderà in seguito.

L'eroe di questa generazione di architetti milanesi degli anni '20 è Michelangelo e Terragni guarda a lui in modo piuttosto attento. In una educazione così accademica, irrompe, però, una novità: esce il libro "Vers une Architecture" di Le Corbusier, la Bibbia della nuova generazione di architetti, soprattutto italiani, che apprezzano l'architetto svizzero più dei tedeschi.

Intanto, all'interno della scuola si forma il "gruppo 7", di cui lo stesso Terragni entra a far parte dal 1926. Pubblicano vari articoli ispirati a Le Corbusier e vengono invitati a diverse mostre, tra le quali quella del Weissenhof. Presto al gruppo si unisce Adalberto Libera che, poco dopo, nel '28, organizza da Roma, la prima mostra di Architettura Razionale. Il termine abbraccia un campo molto vasto e qui è usato per la prima volta. "Razionalismo" è parola italiana anche se la storiografia la usa per indicare altri contesti. Il legame con il regime fascista è evidente, così come è evidente l'interesse che il nuovo regime suscita in quel gruppo di giovani che vedevano in esso un movimento di svecchiamento e ad esso si ispiravano per creare un uguale movimento in architettura.

Il primo progetto di questa fase è l'Officina del Gas a Como, composto da quattro corpi diversamente assemblati; ognuno di essi aderisce al programma  e ai principi compositivi derivati dal Decostruttivismo russo, da Le Corbusier e dal genio stesso di Terragni. 

La prima architettura moderna realizzata in Italia è il Novocomum, a cui sono legati numerosi aneddoti; vi è una commistione di elementi tradizionali ed innovatori. Il progetto chiude a "C" un lotto esistente e qui Terragni gioca un'operazione di "analogia compositiva": egli adopera un procedimento classico, la "stratificazione delle masse in sezione", giocando con una serie di movimenti al contrario. Il volume è infatti composto da un basamento, una parte centrale, un attico e un tetto, ma si sviluppa al contrario generando un'impostazione dinamica. Più tardi realizza una Torre in memoria dei caduti di Como, su disegno di Marinetti.

Como è una città fondamentale per la formazione di Terragni, posta al confine di un territorio a metà strada tra Milano e la Svizzera. E' una città di provincia ricca, circondata dai laghi. E' qui che, negli anni '30, si crea un polo di uomini di cultura che lavorano sull'astrattismo: sono pittori, designer e architetti che hanno in Terragni la loro figura centrale.

Tra le opere meno famose compare l'Albergo Posta, divenuto ormai insignificante, ma rimane simbolico per  tutte le battaglie per da Terragni per affermare le sue idee.

Sempre a Como realizza il negozio Vitrium, che dispone di parametri moderni come la trasparenza ed è il segnale che esiste uno spirito nuovo.

L'opera chiave della vita artistica di questo grande architetto è la Casa del Fascio, idea nata nel '28, poi abbandonata. solo nel 1932 riprende in mano il progetto, inaugurato poi nel'36, che diventa presto centrale di tutta l'architettura italiana di quel periodo e diviene un simbolo. Si legge subito l'idea dell'architettura legata al paesaggio e alla natura, un'architettura che domina il paesaggio e vince sempre. L'opera è posta in un lotto di espansione, vicino al Duomo, a forma di semi-cubo, ma non si mimetizza affatto col contesto. Lo scopo è quello di celebrare il regime con un'operazione simbolica e di astrazione. C'è un'opposizione tra simmetria e asimmetria, movimento e staticità. L'invenzione sta nella capacità, partendo da un volume statico come il cubo, di dare il senso del dinamismo, organizzando la facciata non per piani orizzontali, ma verticali. La tecnica è quella della "analogia compositiva": invece di sovrapporre gli strati, affianca verticalmente i partiti decorativi, partendo da un'idea di facciata radicata in Michelangelo. In pianta non si tratta adotta il concetto di "corte", ma risulta una divisione in tre fasce: quella centrale è il vero fulcro del progetto, cioè la necessità di avere un luogo ampio per le adunate, comunicante con l'esterno e che facilitasse la fluidità dei vari ambienti. La composizione del volume è volutamente astratta, dato che non ci sono elementi di distinguibilità tra alto e basso.

Parallelamente Terragni progetta cinque case a Milano, dalle quali emerge la sintassi dell'atrio. La Casa Rustici a Corso Sempione, è emblematica e vi compare un'operazione contro la casa corte. La casa muove per corpi liberi e ottimizzati, costituiti da due stecche parallele ognuna con il proprio corpo scale ed autonome. L'opera, però, è inserita in un lotto fatto per accogliere una casa a cortile e da qui nasce un ampio contenzioso con il Comune di Milano. Terragni infatti preferisce adottare un trucco: in facciata unisce i due corpi attraverso un grande telaio che gioca diversi ruoli, come quello di quinta urbana e di elemento che risucchia gli spazi esterni. A coronamento, pone una casa-villa organizzata che abbraccia entrambi i corpi sul tetto. L'opera è al tempo coraggiosa e difficile.

Terragni partecipa anche a numerosi concorsi e risulta importante il fatto che, con la caduta del Fascismo, molte sue opere non sono mai realizzate. Tra queste citiamo il Danteum del 1937, che doveva celebrare il regime attraverso un'opera posta sui Via dei Fori Imperiali e ispirata dichiaratamente alla Divina Commedia di Dante.