Уроженец Уцзяна, Лиян (современный северо-восток уезда Хэсянь, Аньхой). Являлся потомком поэта Чжан Цзи 張籍. С юных лет проявлял незаурядные способности в учебе, а в 1154 году с большим успехом сдал высший императорский экзамен, получив первое место.

Карьера Чжан Сяосяна включала должности в центральной администрации, например, секретаря Императорской канцелярии, а также посты наместника в провинциях. Будучи убежденным сторонником войны за возвращение северных земель, захваченных чжурчжэнями, он постоянно вступал в конфликт со высокопоставленными сторонниками мира при дворе, что приводило его к периодическим отставкам и опале.

Параллельно с государственной службой занимался вопросами, связанными с религией. После опустошительных войн, когда многие буддийские монастыри лежали в руинах, Чжан Сяосян активно включился в их восстановление. Не просто в качестве мецената, но как организатор и активный участник. Пользуясь своим авторитетом и глубокой погруженностью в буддийское учение, он убеждал наиболее известных настоятелей возглавить процесс восстановления святынь.

С годами увлеченность буддизмом стала его главным приоритетом. Чиновничью карьеру он стал воспринимать как бремя, и в стихах все чаще выражал желание оставить службу ради духовного совершенствования. Он видел в буддизме путь к преодолению страданий, а свою практику считал делом, которое должно принести пользу и другим людям. Этот внутренний поворот отразился и в его поэтическом творчестве. Хотя Чжан Сяосян вошел в историю литературы как мастер «героического стиля», чьи произведения пронизаны патриотическим пафосом и тоской по утраченным территориям, в его наследии есть и другая грань. Ряд стихов выражает настроения отрешенности, усталости от мирской суеты и стремления к покою, напрямую связанные с его религиозными исканиями.