وقد ابتدأ حديثه عن النحو بتعريف اللغة بأنها:"عبارة المتكلم عن مقصوده"وأن هذه"العبارة فعل لساني، ناشئة عن القصد لإفادة الكلام. فلا بد أن تصير ملكة متقررة في العضو الفاعل لها وهو اللسان. وهو في كل أمة بحسب اصطلاحاتهم" (الجزء الرابع، ص 1254) . والمهم في هذا التعريف أنه يجعل اللغة ملكة في اللسان عضوِها الفاعل. وعلى ذلك ينبني أن علم النحو أو صناعة العربية علم طارئ على اللغة العربية، لم يشعر العرب بالحاجة إليه يوم كانت الملكة قوية. فلما جاء الإسلام وفارق العرب الحجاز لطلب المُلك الذي كان في أيدي الأمم والدول وخالطوا العجم تغيرت تلك الملكة وفسدت"بما أُلقي إليها مما يغايرها لجنوحها إليه باعتياد السمع. وخشي أهل الحلوم منهم أن تفسد الملكة رأسًا ويطول العهد فينغلق القرآن والحديث على الفهوم" (ص 1255)
لقد كان تأسيس علم النحو - الذي هو في نظر ابن خلدون أهمَّ علوم اللسان العربي، إذ به تتبين أصول المقاصد بالدلالة، ولولاه لجهُل القصد من الإفادة - استجابة لمشاعر الخوف من ضعف الملكة وفسادها بسبب مخالطة العجم، وهذا الضعف يستجر ضعفًا في فهم القرآن والحديث، وهما عماد الدين الإسلامي. وقد بدأ استنباط قوانين هذه الملكة من كلام العرب على شكل كليات وقواعد، يُقاس عليها سائر أنواع الكلام، ويُلحق الشبيه منها بالشبيه. ولما تبدى أن الدلالة تتغير بتغير حركات الكلمات اصطلح على تسمية ذلك بالإعراب، وسمى الموجب لذلك التغير عاملًا، ودونت هذه القوانين واصطلح عليها بعلم النحو.