ハードディスクは1956年にIBMのリアルタイムトランザクションコンピューター用のデータストレッジとして登場した。それは、汎用メインフレームとミニコンに使用さるために開発されたものである。最初のIBMドライブ（350 RAMAC）は、およそ冷蔵庫２台分の大きさで、５０枚のディスクスタックに５００万６ビットキャラクター（３７５万８ビットバイト相当）を保存できた。

１９６１年、IBMは１３１１ディスクドライブを発表した。それは洗濯機ほどの大きさで、リムーバルディスクである”パック”に２億文字を保 存できた。ユーザーは磁気テープのリールのようにパック追加購入し、必要に応じてそれを交換できた。その後のリムーバルパックドライブは　IBMや他社か らも出て多くのコンピューターに標準的に採用され、容量は１９８０年代のはじめまでに３００メガバイトに達した。

1973年、IBMは「ウィンチェスター」というコードネームの新しいタイプのハードディスクを発売した。主に明確な特徴は電源が落とされた 時にディスクヘッドが完全にはディスクプラッタからは取り外されないという事だ。代わりに、ヘッドはディスク表面に回転しながら降りて行き、電源が後で点 けられた時にまた上がようになっている。これはヘッド作動機構のコストを著しく下げたが、嘗てのようにその日にディスクを取り外すという事が出来なくなっ た。

その代わりに、「ウィンチェスター技術」ドライブの最初のモデルは、取り外すドライブの中にアクチュエーターモーターを残す、ディスクパック やヘッド機構の両方を含めた取り外し可能なディスクモジュールが特徴でした。後の「ウィンチェスター」ドライブは、リムーバブルメディアのコンセプトを放 棄して、取り外し不可能なプラッターに戻りました。

最初の取り外し可能パックドライブのように、初代の「ウィンチェスター」ドライブは直径14インチのトレイを使用していた。数年後、設計者た ちはもっと小さいトレイならもっと利点があるのではないかと考え開発を進めた。取り出し不能の8インチトレイ付きドライバーが登場し、「5.25インチ」 にフィットするドライブ（5.25インチフロッピーディスクで使われるものに相当する取り付け幅）が登場した。後者のものは基本的に当時広まりつつあった パーソナルコンピューター向けに開発されたものだった。

１９８０年代になると、ハードディスクドライブは、まれだがパーソナルコンピューター（PC)の高価な追加仕様となった。しかし８０年代の後期になると、コストが下がり、最低価格のPCを除けば標準となった。

１９８０年初頭のハードディスクドライブの多くは、サブシステムの増設装置としてPCのエンドユーザーに販売されたが、ドライブのメーカー名 でなく、Corvus ディスクシステムや、アップルプロファイルのようなシステムメーカー名で販売された。１９８３年のIBM PC/XTには標準で１０MBの内蔵ハードディスクドライブが装備され、すぐに内蔵ハードディスクドライブはパーソナルコンピューターに広まった。

外付けハードディスクドライブはアップルのマッキントッシュには長らく人気として続いた。1986年から1998年の間に作られた全てのマッ クには後部に外部拡張を容易にするためのSCSIポートがあった；また、「トースター」コンパクトマックには簡単にアクセスできるハードドライブベイがな かった（あるいは、マックプラスの場合、ハードドライブベイが全くなかった）。だからこれらのモデルではSCSIディスクが唯一の妥当なオプションだった のだ。

近年では、カセットHDDと呼ばれるiVDR規格のテレビ番組保存に適したHDDなども多く出て来ており、HDDは非常に多様な進化を遂げている。カセットHDDは、ハードディスクをカセットのようにテレビに差し込み、録画・再生をする優れた製品であり、Hitachiのwoooなどの製品が対応している。