Nachdem Klarman an der Cornell Universität im Jahr 1979 sein Abschlußexamen in Wirtschaftswissenschaften absolviert hat, arbeitete er für eineinhalb Jahre bei Max Heine und Michael Price. Danach ging er zur Harvard Universität, die er 1982 mit einem MBA abschloss. Seine Investmentkarriere begann für vier wohlhabende Familien, für die Klarman anfangs 27 Mio. $ verwaltete.
1983 gründete er die Baupost Group, deren Portfoliomanager er ist. Darüber hinaus ist Klarman Autor des 1991 aufgelegten Klassikers „Margin of Safety“. Klarman bezeichnet sich selbst als Deep Value Investor in der Tradition von Warren Buffett und Benjamin Graham. Er geht keine Wetten auf die allgemeine Richtung des Aktienmarktes ein, sondern sucht nach werthaltigen Investments und ist grundsätzlich misstrauisch gegenüber strukturierten Produkten und auch Neuemissionen von Aktien. Gemäß den von der Baupost Group verfügbaren Daten liegt die von Klarman erzielte Rendite bei durchschnittlich 19% p.a., womit er zu den erfolgreichsten Investoren der Welt gehört.