われわれが日常目にする鉄鋼製品は、鉄の結晶がたくさん集まった多結晶体である。ひとつの結晶の中では、鉄原子が規則正しく並んでおり、結晶粒ごとに原子の並ぶ方向が異なっている。鉄原子の直径は0.25ナノメートルであり、結晶粒の直径は一般に10〜20マイクロメートルである。

結晶内での鉄原子の並び方には、体心立方と面心立方という２つの安定した構造がある。鉄の体心立方構造は、1,665（1,392℃）以上および1,184Ｋ（911℃）以下の温度で安定であり、それぞれδ鉄およびα鉄と呼ばれる。面心立方構造は、オーステナイトと言い、その中間の温度領域で安定であり、γ鉄と呼ばれる。ある結晶構造が温度変化にともなって他の結晶構造に変わることを相変態といい、これが起こる温度が変態点である。変態点は合金元素の種類と量によって変わる。

実際の結晶粒の中では、鉄原子が存在する位置の規則性が乱れた部分があり、格子欠陥と呼ばれる。その中でも、格子点に鉄原子が存在しない“空孔”という点状の欠陥と、“転位”という線状の欠陥がとくに大切である。空孔は原子の拡散に大きな役割を果たす。転位が移動すると塑性変形が起こる。さらに鋼の結晶粒には、鉄原子と大きさが異なる異種原子が存在する。これらの原子の存在の仕方には、図のように鉄の格子構造の間に存在する“固溶”と、別の結晶構造をつくって結晶粒内や粒界に存在する“析出”の2とおりがある。固溶の場合、鉄原子よりも小さい炭素や窒素原子などが、鉄原子の間に割り込んで存在する侵入型固溶と、鉄原子より大きい（アルミ、チタン）か、大きさがあまり違わない（ニッケル、クロム）か、あるいは小さい（珪素、燐）原子が鉄原子が占めるべき位置に代わって存在する置換型固溶とがある。

多結晶は方位の異なる多数の結晶粒から成り、普通、全体としては方向性を持たないが、加工や熱処理の条件によっては、特定の方位を持つ結晶粒の多い集合組織になる。結晶粒界は余分なエネルギーを持っているので、高温で原子の移動が可能になると、粒界の面積を減らす方向の変化、すなわち粒成長が起こる。結晶粒は小さいほど強度や靱性が大きくなるので、小さい方が望ましい。このためには、結晶粒を小さくする必要がある。結晶粒が新しく生成する機構には先に述べた変態と、再結晶があり、再結晶とは、限界以上の加工を与えたのち加熱したときに、加工によって蓄えられたひずみエネルギーが原子位置の再配列をともなう拡散により解放され、新しい結晶粒が発生する現象である。これらの機構を利用して結晶粒の微細化が可能となる。