臨界膜厚とは、格子定数の違う基板の上に結晶の膜を成長させるとき、膜が基板に合わせてひずんだまま、欠陥(ミスフィット転位)を作らずに成長できる最大の厚さのことです。膜が薄いうちは、ひずみをため込んでも転位を作るよりエネルギーが低いので欠陥ができませんが、厚さが臨界膜厚を超えると、ひずみを解消するために界面に転位が入り始めます。
臨界膜厚は、格子不整合が大きいほど薄くなります。理論的には、マシューズとブレイクスリーが転位にかかる力のつり合いから導いた式(マシューズ・ブレイクスリーの式)がよく使われます。シリコンの上のSiGeでは、ゲルマニウムの割合が20%程度なら臨界膜厚は十数nm〜数十nm、ゲルマニウム100%では数nm程度になります。
ただし、成長の温度が低い場合などには、臨界膜厚を超えてもすぐには転位が入らず、ひずんだ状態が保たれる準安定な領域があります。この状態は、後の工程で温度が上がると緩和して転位ができることがあります。GAA(ナノシート)トランジスタを作るためのシリコンとSiGeを交互に重ねた多層の膜では、全体のひずみが臨界膜厚の条件を超えないように、各層の厚さと組成を設計します。