В настоящее время самые древние надгробные камни лиц, захороненных в мавзолее Ходжи Ахмеда Яссауи, относятся к XIV–XVI векам, то есть к периоду полного утверждения ислама в Центральной Азии и Казахстане. Из более ранних периодов до наших дней сохранились только надгробия Ходжи Ахмеда Яссауи и Баба Самита Жолбарыс-хана (IX–XII вв.) [М. Туякбаев. «Исторические личности, захороненные в Туркестане». Алматы, 2000 г., с. 12].
Всего на территории мавзолея Ходжи Ахмеда Яссауи сохранилось 43 надгробных камня. Традиция установки каменного знака на месте захоронения возникла ещё в глубокой древности. Известно, что этот обычай появился не только в культуре нашего народа, но и в различных цивилизациях мира, постепенно став частью погребальной культуры и образа жизни.
В эпоху древнего Шумера, Египта и этрусков надгробные памятники создавались в виде человеческих изображений. Традиция высекать на камне образ человека и устанавливать его вместе с захоронением получила широкое распространение в сакскую эпоху, во времена гуннов, Тюркского каганата, а также в периоды существования кыпчаков и тюргешей.
Установка каменных памятников на могилах играла важную роль в передаче информации о предках последующим поколениям. В различные исторические эпохи использовались разные формы погребальных сооружений. Существует мнение, что привычная для нас форма надгробного камня появилась ещё в эпоху Древнего Рима. Именно в этот период на камне начали высекать сведения об умершем человеке.
Традиция установки памятников на местах захоронений в разные исторические периоды то исчезала, то вновь возрождалась в зависимости от религиозных, политических событий и особенностей эпохи. В научной среде до сих пор не существует единого окончательного мнения относительно происхождения надгробных камней и их символического значения.
Тем не менее, очевидно, что истоки современных казахских надгробий связаны с каменными изваяниями сакского и древнегуннского периода, а также с древнетюркскими каменными стелами – битыкташами с высеченными письменами.
Известный архитектор, исследователь мемориальных и культово-исторических сооружений, член-корреспондент Академии архитектуры СССР М.М. Мендикулов в своей книге «Памятники народной архитектуры Западного Казахстана», опубликованной в 1987 году, отмечает:
«Малые формы кладбищенских сооружений являются наиболее распространённым видом мемориальных построек. При их создании использовалось удивительное искусство народного орнаментального мастерства. Такие кладбищенские памятники можно разделить на четыре основные группы: трёхкаменные сооружения, надгробные камни, койтасы и сагана. Они устанавливаются как отдельно, так и в различных сочетаниях друг с другом, часто создавая художественно выразительные ансамбли».
Первое научное мнение о надгробных камнях на территории Казахстана было высказано А. Мустафиным в 1898 году. Исследуя связь казахских надгробий с тюркскими каменными изваяниями (сынтасами), он пришёл к выводу, что происхождение надгробных камней связано именно с этой традицией.
Позднее данную точку зрения поддержали исследователи М. Мендикулов и Б. Ибраев. Эта гипотеза получила развитие в трудах Э. Масанова, который связывал традицию создания казахских надгробий не с антропоморфными изображениями, а с древнетюркской рунической письменной культурой.
Происхождение надгробных камней, их символическое значение и смысловое содержание до сих пор не имеют единого научного объяснения. В трудах средневековых исследователей, изучавших территорию Аральско-Каспийского региона, особое внимание уделялось культовым и мемориальным сооружениям этой местности: мечетям, мавзолеям, саганатамам, сандуктастам, надгробным камням и другим объектам.
В качестве одного из наиболее ранних свидетельств можно привести сведения арабского дипломата Ахмеда ибн Фадлана, посетившего в 922 году территорию Устюрта. В своих записях он описывает погребальные обряды огузов и упоминает различные сооружения, возводившиеся над местами захоронений, в том числе постройки, напоминающие мавзолеи.