Arriva a Bologna nell'estate 1987, insieme all'allenatore Maifredi e ad altri elementi di spicco dell'Ospitaletto appena promosso in C1, con i quali il presidente Corioni ha intenzione di costruire una squadra giovane e a basso costo, ma che possa puntare alla promozione. Il 21enne De Marchi si dimostra subito un elemento chiave per i rossoblù, anche perchè è importante che a guidare la difesa, nel ruolo di centrale, sia un giocatore che conosca i meccanismi e i movimenti che richiede il nuovo gioco a zona col quale schiera la squadra il rivoluzionario tecnico bresciano.
Il giovane centrale difensivo mette subito in mostra le sue notevoli doti: intelligenza tattica, stacco imperioso, tocco raffinato ed eleganza negli interventi. Ma la sfortuna è in agguato. All'ultimo minuto del primo tempo della gara interna col Parma (settima di campionato), nel rinviare un pallone al limite dell'area, gli si piantano i tacchetti nel terreno e l'innaturale torsione del ginocchio gli fa saltare i legamenti. La stagione è praticamente finita per lui (tornerà in campo solo nelle ultime giornate), ma il Bologna continua a volare e conquista trionfalmente la promozione in serie A, con un ottimo Ottoni a sostituire egregiamente l'infortunato De Marchi.
Nella stagione successiva (1988-89) in serie A, De Marchi è titolare al centro della difesa rossoblù. L'impatto con la massima serie è durissimo e mette a nudo i suoi difetti: poca agilità, difficoltà nei recuperi difensivi e qualche vuoto di concentrazione durante la partita. Ma col passare delle partite il nostro riacquista sicurezza ed entra in forma, disputando una buona stagione, impreziosita da un importantissimo gol. A poche giornate dalla fine del campionato, nella sfida salvezza col Lecce, allo stadio di Via del Mare, il Bologna sta perdendo per 1-0. Corre il 90° minuto quando i rossoblù conquistano un calcio d'angolo: il pallone spiove in area e De Marchi irrompe e svetta su tutti, insaccando il gol del pareggio che manda in delirio i tifosi in trasferta e non solo. Narra la leggenda che il radiocronista dell'epoca, Flavio Parmeggiani, nell'entusiasmo dell'esultanza sia rotolato giù dai gradoni della tribuna stampa.
Nella stagione 1989-90 De Marchi continua a formare, al centro della difesa rossoblù, un'efficacissima coppia con il "Mitico" Villa, che unisce la velocità e la grinta di quest'ultimo con la classe e la prestanza fisica del "Dema".
Il Bologna arriva ottavo e si qualifica per la coppa UEFA, al termine di un brillante campionato dove molti giocatori felsinei si mettono in luce, spiccando così il volo verso grossi club. De Marchi segue Luppi e Maifredi alla Juventus, ma i tre disputano una stagione disastrosa.
Nel 1991-92 va in prestito alla Roma e nel 1992-93 vince la coppa UEFA in bianconero, seppure da rincalzo. Nel novembre 1993, un po' a sorpresa, rinuncia alla serie A e torna a Bologna, per contribuire a risollevare i rossoblù dal pantano del centroclassifica della serie C1. Con la fascia da capitano al braccio porta il Bologna al quarto posto, valido per giocarsi la promozione ai playoff. Purtroppo la corsa della formazione felsinea si ferma nelle semifinali, dove una buona Spal elimina i rossoblù con la complicità degli arbitri Farina (che espelle De Marchi e nega due evidenti rigori all'andata) e Freddi (che espelle due bolognesi nel ritorno).
Nel 1994-95 il Bologna affidato al tecnico Ulivieri conquista la promozione in serie B, dall'alto di una superiorità schiacciante, sempre guidato da capitan De Marchi. Con più sofferenza, nella stagione successiva, arriva anche la promozione in serie A. De Marchi, alla soglia dei trent'anni, ha lasciato un po' da parte il suo incedere elegante per diventare un roccioso e grintoso leader difensivo, e insieme al giovane e talentuoso Torrisi forma un duo centrale quasi insuperabile. Nella sua ultima stagione in rossoblù (serie A, 1996-97) De Marchi non sfigura, ma complici alcuni infortuni colleziona solo 23 presenze in campionato, inducendo la dirigenza a non rinnovargli il contratto. Il capitano va in Olanda a parametro 0 e disputa tre discrete stagioni nelle file del Vitesse Arnhem, buona squadra spesso nel giro delle coppe europee. Nel 2000-01 si accasa al Dundee FC, squadra scozzese ove milita, nelle vesti di allenatore-giocatore, il suo ex compagno di squadra Ivano Bonetti. Proprio un violentissimo e misterioso litigio con quest'ultimo pone di fatto fine alla carriera da calciatore di De Marchi. Attualmente svolge l'attività di procuratore, assistendo soprattutto giovani giocatori che militano nelle squadre "primavera" e "allievi".