Согласно большинству источников, родился в 1018 году в деревне Радкан близ Туса в Хорасане в семье крупного землевладельца. В 1063 году он занял пост визиря и сохранял эту должность на протяжении правления Алп-Арслана (1063—1072) и Мелик-шаха (1072—1092). Являлся приверженцем традиции сильного централизованного государства. Апологией этой политической идеи служит приписываемое Низам аль-Мульку сочинение Сиасет-наме («Книга о правлении»).
Основал ряд медресе, ставших известными как Низамийа (англ.). Наиболее знаменитым из них было багдадское (англ.), где преподавал аль-Газали.
Низам аль-Мульк вёл неустанную борьбу против персидских исмаилитов, в которых справедливо видел угрозу сельджукскому государству. Ещё в 1080-е он приказал схватить исмаилитского проповедника (да’и) Хасана ибн Саббаха. Хасан избежал ареста, а затем укрепил своё положение, захватив крепость Аламут близ Казвина. Считая Низам аль-Мулька своим главным врагом, Хасан ибн Саббаха послал добровольца из своих сторонников для того, чтобы устранить визиря. 14 октября 1092 года в селении Сахна близ Нехавенда исмаилит Бу Тахир Аррани под видом суфия подошёл к паланкину Низам аль-Мулька и нанёс тому ножом смертельную рану.
