وكانت وفاة والد أبي علي سنة 392هـ، على التقدير لا على التحقيق. وكان حكم آل سامان قد اضمحل وانحل قبل ذلك بسنتين ومدت الدولة الغزنوية ذراعها اليمنى على خراسان واستولى ايللك خان على بخارى قاعدة ملك السامانيين (45) . فأقام أبو علي بن سينا في مملكته زهاء ثلاث سنين ولو كان المستولي على بخارى محمود الغزنوي لأجفل أبو علي إجفال الظليم ولهرب كهرب موسى الكليم. لئلا يقع في منطقة نفوذ للعقيدة الأشعرية، التي أوردت العلوي التاهرتي مورد الموت. فلفقدان الحرية الدينية في الدولة الغزنوية لم يهاجر أبو علي إليها بل انحاز إلى كركانج وهي من المناطق الحنفية كما أشار إليه سابقًا وأقول بعبارة أخرى هي من مناطق الحرية وقد ذكرنا التجاءه إلى الأمير علي بن مأمون ووزيره أبي الحسين أحمد بن محمد السهيلي المدفون بسامرا بالعراق، وأثر ذلك الاضطهاد الديني من الدولة الغزنوية واضح في أن السلطان محمود الغزنوي لما استولى على خوارزم قبض على أبي الريحان البيروني وعلى أستاذه الشيخ عبد الصمد الحكيم فاتهم عبد الصمد بالكفر والقرمطة أي مذهب الاسماعيلية وسقاه كأس الموت مترعة إلى أصبارها وهمَّ بأن يلحق به أبا الريحان، فقيل له إنه إمام وقته في علم النجوم وأنَّ الملوكَ لا يستغنون عن مثله فأخذه معه، وتتمة الخبر معروفة في السير (46) .
وقد حدثت بين الرئيس أبي علي بن سينا وأبي الريحان مناقضات ومناظرات ولم يكن الخوض في بحار المعقولات من شأن أبي الريحان وسأله أبو الريحان عن أمور وأجابه أبو علي، فاعترض البيروني على الأجوبة، وتفوه بكلمات فيها سوء أدب وسفاهة وأجاب أبو عبد الله المعصومي الحكيم تلميذ أبي علي عن اعتراضات أبي الريحان، وقال يخاطبه ( لو اخترت يا أبا الريحان لمخاطبة أبي علي الحكيم ألفاظًا غير تلك الألفاظ لكان أليق بالعقل والعلم) . (47) .