Das Libretto basiert auf Scholem Alejchems 1916 geschriebenen Erzählungen „Tewje, der Milchmann“.

Das Musical spielt um 1905 im Ansiedlungsrayon des Russischen Kaiserreichs, genauer gesagt im fiktiven „Schtetl“ Anatevka, in dem die Gemeinschaft des polnisch-jüdischen Teils der Bevölkerung großen Wert auf die angestammte Tradition legt.

Der Fiedler spielt auf dem Dach.
Der Milchmann Tevje erklärt „Ohne diese Tradition seien die Juden wie ein Fiedler auf dem Dach“. Seine drei ältesten Töchter sind im heiratsfähigen Alter und malen sich bei der Hausarbeit ihren Traummann aus. Doch sie wissen, dass sie traditionell nur jenem anvertraut werden, den Jente, die Heiratsvermittlerin, für sie wählt.
Tevje träumt von einem kleinen Vermögen („Wenn ich einmal reich wär“) und verspricht dem wohlhabenden Fleischer Lazar Wolf auf dessen Heiratsgesuch und Jentes Empfehlung seine älteste Tochter Zeitel. Doch sie liebt den armen Schneider Mottel Kamzoil und verlobt sich heimlich mit ihm.
Es droht die Vertreibung und ein Pogrom durch die Russen, doch Tevje bewahrt sich seinen Lebensmut und Humor.
Tevjes zweitälteste Tochter Hodel hegt Gefühle für den jüdischen Studenten Perchik aus Kiew, den sie als Hauslehrer kennt, und lässt sich von seiner begeisterungfähigen, unkonventionellen Art zum Bruch mit der Tradition verführen: Sie tanzen miteinander – einfach so. Tevje hadert indes mit dem Heiratswunsch seiner ältesten Töchter, wägt in hintergründigen Monologen das Für und Wider ab und - willigt schließlich ein. Ein Wunder ist geschehn! Nachts erscheint ihm die liebe Großmutter Zeitel im Traum und preist den Schneider Kamzoil. Die Ehe ist beschlossen. Bei der Hochzeitszeremonie erinnern sich die Eltern der Neuvermählten, wie die Jahre kommen und gehen. Anschließend gelingt es Perchik bei der Hochzeitsfeier, die Gäste im Tanz mitzureißen, was einen weiteren Bruch mit ihrer Tradition bedeutet.
Russische Armeeangehörige tauchen unerwartet auf und geben im Auftrag des Zaren eine Kostprobe seiner Macht. Tische werden umgeschmissen, Hochzeitsgäste verletzt. Der wohlmeinende Wachtmeister warnt vor weiteren Übergriffen und rät zur Flucht.
Hodel, die Drittälteste, und Perchik beichten nun Tevje ihre Heiratspläne. Sie versprechen sich nach dem unkonventionellen Zustandekommen der Ehe ihrer älteren Schwester die Zustimmung des Vaters. Doch Tevje hadert wieder wegen der Tradition, wägt wieder das Für und Wider ab und - willigt überraschend ein. Es seien heute andere Zeiten, ganz andere Zeiten.
Verwirrt von der hohen Bedeutung der Liebe bei den Kindern – ein Wort, dem er in treuer Erfüllung seiner ehelichen Pflichten nie Aufmerksamkeit schenkte – lädt er seine Frau Golde ein, sich zu äußern, was sie für ihn empfindet. „Ist es Liebe?“ Sie windet sich, räumt aber doch ein, dass es nach 25 Jahren gemeinsamen Lebens wohl Liebe sein muss.
Im Schtetl verbreitet sich die Nachricht, dass Perchik von den Russen zu Unrecht verhaftet, verurteilt und nach Sibirien verbannt wurde. Schweren Herzens lässt Tevje seine zweite Tochter Hodel ziehen, die in dieser schweren Zeit bei ihrem Verlobten beistehen möchte.
Tevje erfährt, dass seine drittälteste Tochter Chava heimlich den jungen Russen und Christen Fedja gegen seinen ausdrücklichen Willen geheiratet hat. Es zerreißt ihm das Herz. Er verstößt sie.
Ein restriktiver Erlass aus St. Petersburg und administrativer Druck führt zum Zwangsverkauf sämtlicher Häuser im Schtetl. Alle Juden müssen binnen drei Tage Anatevka verlassen. Es kommt zur Massenauswanderung in die USA und in dieser politisch angespannten Situation zu Tevjes Aussöhnung mit Chava, die mit Fedja nach Krakau zieht.

Der Fiedler spielt auf dem Dach.