Nell'ottobre del 1897, contro la volontà paterna, lasciò il mestiere di fabbro e partì per Milano, deciso a fare il cantante. Ottenute le sue prime scritture, nel 1898 tornò a Roma e debuttò proprio al "Costanzi", come Araldo nel "Lohengrin" di Wagner. Da quel momento, col nome di Titta Ruffo, percorse una carriera inarrestabile. Nel 1900, da agosto a dicembre fu al "Municipal" di Santiago del Cile. Là, fra i molti ruoli interpretati, si misurò con le verdiane "Aida" (re Amonasro) e "Otello" (Jago), con l'"Africana" di Jakob Meyerbeer (Nelusko), con l'"Andrea Chénier" di Umberto Giordano (il servitore Gérard). Nel 1901 debuttò nella "Tosca" (Scarpia) al Teatro "Massimo" di Palermo, e alla "Fenice" di Venezia col "Nabucco". Fra il 1901 e il 1902 fu al Cairo e ad Alessandria d'Egitto con "Otello", "Aida", "La Bohème" di Puccini (Marcello), "Iris" di Mascagni (Kyoto), "Sansone e Dalila" di Charles-Camille Saint-Saëns (Squarrocca), "Fedora" di Giordano (De Siriex). Dal maggio all'agosto 1902 fu all'"Opera" di Buenos Aires, eseguendo fra l'altro "Zazà" di Leoncavallo (Cascart) e "Cavalleria rusticana" (Alfio). Al Covent Garden di Londra esordì il 6 giugno 1903 nella "Lucia di Lammermoor" (lord Enrico Asthon), e dopo un mese vi fu protagonista del "Barbiere di Siviglia" di Rossini. Venuto in urto con l'onnipotente soprano australiana Nellie Melba (1861-1931), ruppe il contratto. L'anno seguente, a Milano, dopo l'esordio alla "Scala" con "Rigoletto" (ruolo interpretato la prima volta nel 1898 all'Arena "Alfieri" di Livorno), l'esibizione al "Lirico" in Zazà accrebbe ulteriormente la sua fama.
Nei primi mesi del 1905 Titta Ruffo portò a Odessa e Pietroburgo un vastissimo repertorio, che spaziava fra Rossini, Verdi, Puccini, Leoncavallo, Rubinstein e Gounod. Il 4 maggio esordì al "Sarah Bernardt" di Parigi in "Siberia" di Giordano (Gléby), e il 13 ebbe accanto, in "Fedora", Enrico Caruso, con cui avrebbe lavorato nuovamente all'"Opéra" nel 1912, in "Rigoletto" e ne "La fanciulla del West" (insieme, i due si possono ancora ascoltare in un'incisione del secondo atto di "Otello" del 1914). Fra le sue più grandi interpretazioni fu sempre quella di "Amleto" nell'omonima opera di Ambroise Thomas, in cui si esibì la prima volta al São Carlos di Lisbona nel 1907. Con la stessa parte debuttò nel 1912 al "Metropolitan Opera House" di New York, dopo l'esordio statunitense dello stesso anno al "Metropolitan" di Filadelfia, con "Rigoletto".
Ormai assurto a fama internazionale, Titta Ruffo continuò a mietere successi sui palcoscenici più importanti del mondo. Frequentemente tornò al "Colón" di Buenos Aires, teatro che avrebbe visto nel 1931 le sue ultime apparizioni nella "Tosca" e in "Amleto".
Dotato di una voce potentissima, dall'inconsueta estensione e dalla formidabile risonanza, Titta Ruffo fu anche un insuperabile attore. Queste due qualità lo portarono a imporre un nuovo tipo di baritono, in contrasto con la tradizione ottocentesca, e capace di inserirsi nella rivoluzione verista annunciata da "Cavalleria rusticana" nel 1890 e da "I Pagliacci" nel 1892. In particolare fu adatto, "con quella sua voce dalle inflessioni leonine" (Giacomo Lauri-Volpi), a impersonare ruoli marcatamente tragici o truci (Amleto, Jago, il Conte Luna...), o beffardi come quello di Figaro, nelle cui vesti ebbe spesso accanto un don Basilio interpretato da Fjodor Ivanovic Scialiapin. Con quest'ultimo, e con Caruso, Titta Ruffo divenne così uno degli interpreti più rappresentativi della propria epoca (insieme ad ambedue è ritratto in un olio del 1931 del polacco Tadè Styka, unico dipinto esposto nel ridotto del "Metropolitan" di New York, dove rimase fino al 1961). Dal 1932, avendo sottoposto negli anni precedenti la voce a sforzi eccessivi, si esibì solo in esecuzioni concertistiche, l'ultima delle quali al "Casino Muncipal" di Cannes, nel 1935. Nel 1937, tornato in Italia, fu arrestato a Roma per le sue frequenti dichiarazioni antifasciste. Rilasciato ma privato del passaporto, si stabilì a Firenze, dove rimase fino alla morte. Uscita nel '37, resta l'appassionante autobiografia "La mia parabola. Memorie" (Treves, Milano, s.d. per evitare il riferimento all'era fascista).
La nuova edizione, riveduta e ampliata a cura di Ruffo Titta junior (Staderini, Roma 1977), comprende un capitolo finale sugli anni 1924-53, scritto dal figlio, un "Omaggio" di Lauri-Volpi e una presentazione di Giorgio Gualerzi ("Parabola senza fine"), al quale si deve anche l'accurata annotazione. In appendice, il volume contiene una cronologia di tutte le esecuzioni dal vivo, il repertorio completo, la discografia, e una ricca bibliografia. Numerosissime, infine, le illustrazioni, da quella del funerale di Matteotti a quelle in atteggiamenti scherzosi con Scialiapin.