Il narratore introduce la figura di Háry János, un contadino onesto e generoso che presta fedelmente il servizio di soldato al confine russo-ungherese. La voce del narratore lascia il posto all’ouverture, che illustra la scena ambientata presso la linea di frontiera. Prima una vecchia, poi una famiglia ebrea composta da padre, madre e undici figli, cercano di passare il confine senza che venga loro concesso di farlo. A un tratto si ferma la carrozza sulla quale viaggia Maria Luisa d’Austria; viene fatto intervenire Háry János, «colui che è incaricato di affrontare ogni situazione complessa e pericolosa»; egli goffamente risolve il problema e accompagna la carrozza a Vienna portando con sé la fidanzata Örzse. Nella capitale austriaca Háry riesce a dar prova del suo eroismo domando un cavallo selvaggio, tanto che l’imperatrice Maria Teresa lo vuole assolutamente come sposo della figlia Maria Luisa. Ma il geloso Bombazine, pretendente alla mano della principessa, scrive confidenzialmente a Napoleone perché intervenga col suo esercito contro gli austriaci. I francesi vengono sbaragliati dal coraggio di Háry mentre Napoleone, riconosciuto dal prode guerriero, cerca di nascondere la sua identità, ma invano: viene infatti smascherato e, umiliato, finisce per cadere in un pianto dirotto. Per lui e per l’esercito francese viene eseguita una marcia funebre, mentre Maria Luisa, insieme al popolo austriaco, conduce in trionfo l’eroe magiaro verso il palazzo imperiale di Vienna; Háry può così intonare il canto dell’ussaro vittorioso (“A jo lovas Katonanak”). Nella capitale imperiale il valoroso soldato viene ospitato in una lussuosissima stanza, ma prova nostalgia per la sua terra; durante la cena che l’imperatore e l’imperatrice danno in suo onore egli rifiuta la mano di Maria Luisa e si rivolge a Örzse, sollecitandola a fare i preparativi per ritornare in Ungheria. L’opera si conclude con i canti d’amore di Örzse (“Szegeny derék magyar nep”) e di János e con un coro di commiato.