少年時代、フレディ・ハバードはインディアナでウェス・モンゴメリーとその兄弟を含む数多くの音楽家たちと親交を結んだ。ハバードのジャズのキャリアが本格的に始まるのは、1958年のニューヨーク進出からである。ニューヨークで彼は、オーネット・コールマン、エリック・ドルフィー、スライド・ハンプトン、J・J・ジョンソン、フィリー・ジョー・ジョーンズ、クインシー・ジョーンズ、オリバー・ネルソンそしてソニー・ロリンズ等と共演している。彼は、影響力の強いハード・バップ演奏集団であったアート・ブレイキー・アンド・ザ・ジャズ・メッセンジャーズにおける演奏によって有名になった。その演奏は"Mosaic、Buhaina's Delight、Free For All"等のアルバムに収録されている。1960年代初頭、ハバードはブルーノート・レコードに広範な録音を残している。ブルーノート初登場にしてバンドリーダーを務めた"Open Sesame"を皮切りに、8枚のリーダーズアルバムを残し、28枚のアルバムにサイドマンとしてその名を刻んでいる。それらの録音のほとんどは、同時代のブルーノートの多くの音源がそうであるように、今日では古典とみなされている。コールマンの"Free Jazz"、エリック・ドルフィーの"Out to Lunch"、ジョン・コルトレーンの"Ascension"など、いくつかの初期のフリー・ジャズの古典の中にもハバードを見出すことができる。しかし彼は、それらのフリージャズの影響を受けながらも、完全にとらわれてしまうということは無かった。商業的なスムーズジャズのアルバムが批判を呼んだとはいえ、1970年ごろの彼は、その炎のような、そしてメロディックなインプロビゼーションと驚異的なテクニックによって、リーディングトランペッターとしての全盛期を迎えた。