到哪里去找亲人的升天之地呢？遗憾，已经永远都无法找到了。后来，他们想出来一个办法，就是在亲人的尸体边垒一个石头堆或堆一个土堆作记。如此沿袭，祖祖辈辈，世世代代，便形成了敖包。
推敲这两种说法，第一种，在历史上，敖包确实起过路标和界标的作用，但与祭祀无关；第二种虽然与祭祀有关，但天葬之地不在山顶。
专家们则认为，祭敖包来源于萨满教的祭天。远古时期，面对洪水、冰雹、雷击、暴雪等自然灾难，人们解释不清是怎么回事，面对浩浩苍天，他们总觉得有一种威力无比的力量主宰着人类，不时给人们降福降祸。只有与天沟通，祈求上天的保佑，才能避免灾难，平安生存。萨满教信奉长生天，或许正源于此。高出地面的山与天最近，再在山顶上堆起石堆，就离天更近了，便于与长生天沟通。
最早有文字记载的祭山仪式是突厥人。古代突厥可汗每年都要会同各部落首领，到祖先栖息过的地方杀牲祭祀，称为祭圣山。到了辽代，史书记载的就更加清楚了：辽代有祭山仪，以黑山和木叶山为神山，依时节祭祀。契丹人视黑山为死后灵魂的归宿地，每年冬至，杀白马、白羊、白雁，取血和酒，焚烧纸制祭品，祭祀黑山；木叶山为契丹始祖庙所在地，祭山时，皇帝率皇族成员在乐曲声中绕神门树三周，其他人绕七周。仪式上，萨满要致辞。祭山仪是契丹人非常重要的礼仪，无论皇帝继位还是举兵出征，都要举行隆重的祭山仪式。突厥人和契丹人的祭山是否也要在山顶堆石堆，史书没有明确记载，但内容和形式很像现在的祭敖包。从形式上看，突厥人和契丹人的祭山是皇家的祭祀，而祭敖包则是地方或民间的祭祀。推想，祭敖包是否是在皇家祭祀的基础上发展起来的呢？
蒙古民族崇拜大自然，他们认为山川河流草原森林皆有神灵。所以，祭敖包不是单一的祭天或祭地，而是祭各种神灵，是个综合概念。在敖包祭祀祝赞词中，充满对大自然的赞美、感恩之情，浓缩了草原人民追求美好环境的愿景。按照蒙古族传统习俗，敖包周边不准放牧、不准砍伐柴草。
历史上，祭敖包仪式大致有四种，即血祭、酒祭、火祭和玉祭。血祭是把宰杀的牛、羊供在敖包前祭祀，以为牛、羊是天地所赐，只有用牛、羊祭祀才能报答天地之恩；酒祭是把鲜奶、奶油、奶酒洒在敖包上祭祀；火祭是在敖包前点燃柴薪，将煮熟的牛、羊肉丸子、肉块投入其中，人们向火叩拜；玉祭是古代人们以最心爱的玉器当供品祭祀。现在，祭敖包有红白之分，红敖包的祭品以肉类为主，而白敖包则以乃制品、白粥为主。
祭敖包经过数千年的不断发展变化，已成为游牧文化的重要内容之一。蒙古族所祭祀的敖包，名称也生动有趣，形状多种多样，方位星罗棋布，数量多少有别。
从内容上分，有与英雄人物有关的敖包、与成吉思汗有关的敖包、与蒙古族圣物崇拜有关的敖包(如苏勒德敖包)，另外还有旗王爷敖包(也叫诺颜敖包)、召庙敖包(与佛教有关)、部落或阿塔天神敖包(与萨满教有关)、氏族敖包、家族敖包、家庭敖包、妇女敖包、儿童敖包、盗马贼敖包、旅游景区的新敖包等等。
从建筑材料上分，有石头敖包、柳条敖包、木材敖包、沙堆敖包以及近年的砖砌等。
从敖包的堆数分，有单堆敖包、三堆敖包、七堆敖包、十三堆敖包等等。四子王旗罕乌拉敖包的周围就有100多座卒从敖包。多数敖包群都以中间一个大敖包、几边有几个小敖包的形式排列。据史料记载，古时先有三敖包，分别代表天、地、人；进而演变为七个，代表七曜，即日月水火木金土。
自藏传佛教传入蒙古地区以来，对敖包的形式内容曾作过一系列改造和革新，增添了与