Natural de Pádova, Toldo se formó en las inferiores del AC Milan pero no consiguió llegar al primer equipo y salió al Hellas Verona, donde tampoco logró el objetivo de llegar al primer plantel. Tuvo que dar un paso atrás para luego dar dos hacia adelante y tras pasar por Trento y Ravenna, llegó a la Fiorentina, donde con los años, se convertiría en uno de los mejores porteros del mundo. Era alto, serio, con carácter, espectacular en las acciones y capaz de llegar a sacar balones donde nadie podía hacerlo. En 1995 ya estaba consolidado como un guardameta de mucho nivel y debutó con la selección italiana. Fue convocado al mundial de Francia de 1998, aunque el titular todavía era Gianluca Pagliuca, y es que en Italia en esa época habían unos porteros formidables.

La Eurocopa del 2000 sería su gran oportunidad con la azzurra, pues Peruzzi y Buffon arrastraban lesiones y Toldo fue el titular. Italia a punto estuvo de proclamarse campeona, pero un gol de Wiltord en el 90+4 y otro de Trezeguet en la prórroga remontaron el tanto de Delvecchio y dieron la Euro del 2000 a Francia, que entonces era la vigente campeona del mundo. Toldo se tuvo que conformar con el subcampeonato y se consoló siendo nombrado en el once ideal del torneo. Por entonces ya era uno de los porteros más cotizados del mundo, y en el 2001 fichó por el Inter de Milan donde se consolidaría definitivamente. Muchos recordarán sus actuaciones en Mestalla, parando lo imposible a los futbolistas del Valencia en una eliminatoria europea. Formó parte de la selección en el infame mundial de 2002, pero en aquel año la meta italiana ya tenía dueño (y por mucho tiempo) un tal Buffon le mantuvo a la sombra en la azzurra.

Se retiró en 2010, cuando Julio César ya le había ganado el puesto en un Inter campeón de Europa, y una vez colgados los guantes, Toldo ha trabajado como preparador de porteros en la selección italiana.