Der Don Kosaken Chor Serge Jaroff wurde im Januar 1921 von dem ausgebildeten Sänger Serge Jaroff in einem Kriegsgefangenenlager zusammen mit Donkosaken gegründet. Die Unterhaltung unter den Mitgefangenen führte schnell zu Erfolgen, und bald darauf begann der Männerchor mit Auftritten, vor allem in Europa und den USA. Dieser Chor, der ausschließlich a cappella sang, widmete sich einem Repertoire, das hauptsächlich aus russischer Kirchenmusik, Volksliedern und Folklore bestand.
Nach der Vertreibung der Donkosaken im Jahr 1920 durch die Rote Armee formierte Serge Jaroff seinen Chor erstmals im Jahr 1921 in einem Internierungslager in der Türkei. Ab 1923 hatte der Chor seine ersten Auftritte als professionelles Ensemble in Westeuropa. Während der 1930er Jahre hatte er seinen Sitz in Berlin. Im Jahr 1939 wurde der Chor während einer USA-Tournee vom Ausbruch des Zweiten Weltkriegs überrascht und war vorübergehend staatenlos. Später erlangten die Sänger die US-amerikanische Staatsbürgerschaft und wählten New York City als ihre Basis.
Der Chor gab 1979 in Paris anlässlich des 83. Geburtstags von Serge Jaroff sein letztes Konzert in Europa, obwohl er offiziell noch bis 1981 unter der Leitung von Jaroff bestand.
Serge Jaroff verstarb 1985 in Amerika. Wenige Monate vor seinem Tod übertrug er das Recht, den Namen Don Kosaken Chor zu führen, an die Gastspieldirektion Otto Hofner GmbH in Köln.
Im Jahr 1986 kam der Chor noch einmal zu einer Tournee unter der Leitung seines langjährigen Solisten Michael Minsky zusammen, an der auch der Tenor Nicolai Gedda teilnahm. Aufgrund von Minzkys Gesundheitszustand und Geddas eingeschränkter Verfügbarkeit blieb diese Tournee jedoch ein einmaliges Ereignis.
Während der Zeit des Don Kosaken Chors gab es bereits mehrere konkurrierende Ensembles. Nach seiner Auflösung formierten sich erneut mehrere Nachfolgegruppen, einige davon wurden von ehemaligen Mitgliedern des Originalchors gegründet. Seit 2001 ist Wanja Hlibka der Inhaber des geschützten Namens Don Kosaken Chor Serge Jaroff, und in seinem Ensemble sind etwa 20 Sänger vereint.
