الحمد لله.

أولاً :
من نسي فقال في الركوع سبحان ربي الأعلى ، أو قال في السجود : سبحان ربي العظيم ، له حالان :
الحالة الأولى : أن يتذكر أنه لم يأت بالذكر في موضعه ، فيقول : سبحان ربي العظيم قبل أن يرفع من الركوع ، ويقول في السجود : سبحان ربي الأعلى قبل أن يرفع .
فهذا لا يجب عليه سجود السهو ، لأنه لم يترك واجباً ، وإنما يستحب له السجود ، لأنه أتى بذكر في غير موضعه .
الحالة الثانية : أن لا يتذكر أنه لم يأت بالذكر في موضعه إلا بعد الرفع من الركوع أو السجود ، فهنا يجب عليه سجود السهو ، لأنه ترك واجباً .
ويكون السجود في هذه الحالة قبل السلام .
وقد سبق بيان موانع السجود في جواب السؤال رقم : (7743) .
قال الشيخ ابن عثيمين رحمه الله: " إذا أتى بقول مشروع في غير موضعه، فإنه يسن له أن يسجد للسهو، كما لو قال: "سبحان ربي الأعلى" في الركوع، ثم ذكر فقال: "سبحان ربي العظيم" فهنا أتى قول مشروع وهو "سبحان ربي الأعلى"، لكن "سبحان ربي الأعلى" مشروع في السجود، فإذا أتى به في الركوع قلنا: إنك أتيت بقول مشروع في غير موضعه، فالسجود في حقك سنة.." انتهى من "الشرح الممتع" (3/359) .

وقال الشيخ ابن جبرين رحمه الله: " أما إذا أتى بقول مشروع في غير محله سهواً فإنها لا تبطل..، فإذا قرأ وهو جالس أو تشهد وهو قائم، .. أو قال: سبحان ربي الأعلى وهو راكع، أو سبحان ربي العظيم وهو ساجد، أي أنه أتى بسنة في غير محلها مع أنها مشروعة، فإنه يسن له السجود ولا يجب؛ لأن هذا من جملة أذكار الصلاة، وهي لا تبطل بتعمده... " انتهى من شرح "أخصر المختصرات"
ثانياً :
إذا كان المصلي مأموماً ووقع منه ما سبق ، فإنه يسجد للسهو في أخر صلاته ، إذا كان مسبوقاً ، أما إذا كان مدركاً للصلاة من أولها فإنه يسلم مع الإمام ولا سهو عليه .

قال الشيخ ابن عثيمين رحمه الله: "إذا سها المأموم في صلاته، ولم يكن مسبوقا، أي أدرك جميع الركعات مع إمامه، كما لو نسي أن يقول: سبحان ربي العظيم في الركوع، فإنه لا سجود عليه؛ لأن الإمام يتحمله عنه، لكن لو فرض أن المأموم سها سهوا تبطل معه إحدى الركعات كما لو ترك قراءة الفاتحة نسياناً، فهنا لابد أن يقوم إذا سلم الإمام ويأتي بالركعة التي بطلت من أجل السهو، ثم يتشهد ويسلم ويسجد بعد السلام .
أما إذا سها المأموم في صلاته، وكان مسبوقاً، فإنه يسجد للسهو، سواء كان سهوه في حال كونه مع الإمام، أو بعد القيام لقضاء ما فاته؛ لأنه إذا سجد لم يحصل منه مخالفة لإمامه حيث إن الإمام قد انتهى من صلاته" انتهى .
انظر: "رسالة في أحكام سجود السهو" للشيخ ابن عثيمين رحمه الله. وينظر جواب سؤال رقم (35909)

والله أعلم