Der Modedesigner Klein wurde 1942 in der Bronx in New York geboren.

In seinen Jahren als Teenager entdeckte er seine Liebe zur Mode. Häufig verbrachte er Stunden damit Frauen in Anzügen oder Kleidern zu zeichnen.

Er besuchte die High School of Art and Design und setzte seine Fortbildung fort am Fashion Institute of Technology in New York.

Nach Ende seiner Ausbildung 1962 war er bei Dan Misstein beschäftigt. Während seiner Freizeit bastelte er an seiner eigenen Kollektion, die er im Jahr 1967 vorstellte.

1964 heiratete er seine Kommilitonin Jayne Centre mit der er später eine Tochter, Marci, hat. Sie trennten sich 10 Jahre später.

Nur ein Jahr später gründete er zusammen mit Barry Schwartz das Unternehmen Calvin Klein Ltd. , welches in der Anfangszeit Mäntel produzierte. 1969 wurde er zum ersten Mal auf dem Titelblatt der Vogue gefeiert. In der darauffolgenden Zeit entwickelte sich sein Unternehmen zu einem Imperium.

In den Jahren 1973,1974,1975 wurde Calvin Klein mit dem American Coty Award ausgezeichnet. 1993 wurde er als bester amerikanischer Designer ausgezeichnet.  1982 stieg Klein in das Geschäft mit Herrenunterwäsche ein. Er ließ sein Logo und seinen Schriftzug auf die Boxershorts und Slips aufnähen und erreichte damit einen großen Erfolg. Hiermit war Calvin Klein Unterwäsche am Markt etabliert.

Immer wieder geriet Klein wegen seiner Werbekampagnen in die Kritik. Dies hing vor allem mit den sehr prüden Vorstellungen der Amerikaner zusammen. Diese waren empört, als die Schauspielerin Brooke Shields Werbung für CK Jeans machte mit dem Slogan „Weißt du was zwischen mir und meine Calvins kommt? Nichts!

1999 wollte Klein sein Unternehmen verkaufen, doch fand keinen geeigneten Käufer. Im Jahre 2002 kaufte die Phillips-Van-Heusen Corporatio die Marke für 430 Millionen Dollar.