ACTE I
A Fontainebleau, au cours d'une partie de chasse, l'infant Carlos (ténor), qui aime (Io la vidi) Elisabeth de Valois (soprano), fille du roi de France, qu'il doit bientôt épouser, parvient à la rencontrer et à lui déclarer sa flamme, qui est partagée. Mais son père, le roi d'Espagne, Philippe II, va décider d'épouser lui-même Elisabeth.
ACTE II
Au monastère de San Yuste, l'infant croit entendre la voix de son aïeul Charles Quint (basse) récemment disparu. Il confie à son ami Rodrigo, marquis de Posa (baryton), son amour coupable pour la femme de son père (duo: Dio che nell'alma infondere).
Dans un jardin, la princesse Eboli (mezzo-soprano) chante avec ses dames d'honneur (chanson du voile: Nel giardin del bello). Posa vient demander à la reine une audience pour l'infant, et lui remet un message secret de ce dernier. On comprend qu'Eboli aime elle aussi Don Carlos. Carlos demande à Elisabeth d'intercéder auprès du roi pour se voir confier une mission dans les Flandres, puis s'enflamme et lui réitère son amour avant de fuir.
Philippe II (basse) s'indigne de trouver seule la reine, et congédie sa dame de compagnie. La reine relève l'affront par ses adieux pleins de dignité â sa confidente (Non pianger, mia campagna).
Philippe II retient Posa et engage le dialogue avec lui. Posa s'enhardit à critiquer violemment la politique de répression du roi dans les Flandres. Frappé par sa noblesse d'âme, Philippe II s'attache Posa comme confident, mais l'avertit de se méfier de l'inquisition, qui n'aime guère les idées nouvelles.
ACTE III
Dans les jardins de la reine, Elisabeth, lasse de son rôle officiel, demande à Eboli de revêtir son manteau royal. On danse la Peregrina. Carlos a reçu un billet d'amour qu'il croit émaner de la reine, et son erreur prend corps devant Eboli, masquée et revêtue du manteau royal. Celle-ci perce ainsi le secret de l'infant, et Posa arrive à temps pour tenter d'empêcher le pire (trio: Trema per te), demandant à Carlos, qui milite avec lui pour la paix dans les Flandres, de se défaire de tout document compromettant.
Devant N.D. d'Atocha, quelques mois plus tard: un autodafé se prépare alors que le roi, entouré de dignitaires, sort de l'église. Passent les suppliciés, puis survient un cortège de dépités flamands que guide Carlos. Philippe II repousse leur supplique, et l'infant brandit l'épée contre son père. Les Grandes d'Espagne hésitent à affronter le jeune Prince et, à la stupeur générale, c'est Posa qui seul s'avance pour désarmer Carlos. Il préfère intervenir pour prévenir de plus graves incidents. Une voix céleste appelle aux cieux les âmes de ceux qui vont monter sur Ie bûcher.
ACTE IV
Le cabinet du roi. Philippe médite sur sa solitude de monarque et d'époux (Ella giammai m'amò). Le Grand Inquisiteur (basse), un vieillard aveugle, vient non seulement l'engager à sacrifier la vie de son fils rebelle, pour le prestige de l'autorité royale, mais encore lui demander la tête de Posa. Après une violente altercation - l'affrontement du pouvoir temporel et du pouvoir spirituel - Philippe doit céder.
Cepandant Eboli a dénoncé au roi ce qu'elle croit être l'adultère de la reine. A cette accusation, Elisabeth s'évanouit; Posa couvre le monarque de reproches, et Eboli, qui, en outre, fut naguère la maîtresse de Philippe II confesse ses forfaits à la reine qui lui enjoint, de se retirer au cloître. Eboli maudit sa propre beauté, aux conséquences funestes (O don fatale).
Carlos a été incarcéré après sa rebellion, mais Posa, chez lequel on a trouvé les documents séditieux concernant les Flandres, se sait désormais condamné et vient faire ses adieux à son ami (Per me giunto). Un coup de feu, Posa s'écroule avant d'expirer, il exhorte Carlos à poursuivre leur grand oeuvre de liberté (O Carlo, ascolta) et lui annonce que la reine l'attend le lendemain à San Yuste.
Philippe II survient, constate, impuissant, le meurtre du marquis, et veut rendre son épée à l'infant. Celui-ci se redresse et le menace. La foule ameutée par Eboli vient réclamer l'infant. Seul l'apparition de l'Inquisiteur calme la rébellion.
ACTE V
Près du tombeau de Charles Quint. Elisabeth se recueille (Tu che le vanità). Carlos vient faire des adieux très dignes. Philippe II et l'Inquisiteur surgissent et un choeur de moines maudit le "traître". Mais au moment où Philippe II va livrer son fils à l'Inquisition, la voix de Charles Quint s'élève et l'infant est attiré dans le tombeau.