日本刀が出現するのは平安後期以降ですが、遺跡からの出土や古事記の記述から、古墳時代にはすでに刀剣類が作られていたことはわかっています。
日本刀出現前(古墳〜奈良時代)の刀剣
草那芸之大

通常日本刀という場合、平安時代後期以降に形態が確立した、一定の様式のものを指します。具体的には、平安初期〜中期の反りのない直刀と違い、反りのある鎬造(しのぎづくり)の刀のことです。
騎馬戦が戦の中心になっていく中で、馬上からの引き切りに適した、反りのある刀に需要がシフトしたのです。(刃渡りも丁度馬上から地上の敵を切りつけるのに適した長さになっています。)
平安時代後期になると、武家勢力の強まりに伴い、刀工(日本刀を作る職人のこと)が増え、太刀の実用性が急速に高まっていきました。
関連記事
また良質な砂鉄がとれる国、政治文化が発達している国に刀工が集まるようになり、多数の流派が生まれ、流派による作風が顕著になりました。
特に地鉄、鍛え、刃文などは作刀方式により特色が出やすく、山城/大和/備前/美濃/相模の5か国の作刀方式を「五箇伝」といいます。