وكان ابن سينًا متقنًا من اللغات اثنتين العربية والفارسية، ولما كانت اللغة العربية في أيامه، لغة العلم والدين والدولة، فقد فاقت معرفتها لديه، ومعرفة الكثيرين من أبناء الأرومة العربية الخالصة، ذكر تلميذه أبو عبيد الجوزجاني ما نصه: كان الشيخ جالسًا يومًا من الأيام، بين يدي الأمير، وأبو منصور الجبائي حاضر، فجرى في اللغة مسألة تكلم فيها ابن سينا بما حضره، فالتفت إليه أبو منصور وقال له: إنك فيلسوف وحكيم، ولكن لم تقرأ من اللغة ما يرضي كلامك فيها. فاستنكف الشيخ من هذا الكلام، وتوفر على درس اللغة العربية ثلاث سنين، حتى بلغ فيها طبقة قلما يتفق مثلها، وأنشأ ثلاث قصائد، ضمنها ألفاظًا غريبةً من اللغة، كما كتب ثلاثة كتب: أحدها على طريقة ابن العميد والثاني على طريقة الصابئ والثالث على طريقة الصاحب بن عباد، وأمر بتجليدها وإخلاق جلدها، ثم أوعز للأمير فعرض تلك المجلدة على أبي منصور الجبائي، وذكر له: أنا ظفرنا بهذه المجلدة في الصحراء وقت الصيد فيجب أن تتفقدها وتقول لنا ما فيها، فنظر فيها أبو منصور وأشكل عليه كثير مما فيها، فقال له الشيخ: إن ما تجعله من هذا الكتاب، مذكور في الموضع الفلاني من كتب اللغة، وذكر له كثيرًا من الكتب المعروفة ، كان الشيخ قد حفظ تلك الألفاظ منها، ففطن أبو منصور: أن تلك الرسائل من تصنيف الشيخ وأن الذي حمله عليه، ما جبهه به في ذلك اليوم، فتنصل واعتذر إليه.