я бы сказал, что, если эта галка взведена, то в случае, если в представление попал и родительский и дочерний документ, то они будут отображены иерархически, т.е. родительский документ будет отображен как категория, а дочерний будет находится в этой категории...
формулы типа @AllChildren, @AllDescendants просто "помогают" отбирать дочерние документы к родительским, лишь по формуле отбора родительских, т.е. если есть родительские доки по форме "Папа", а дочерние по форме "Доця" то мы можем использовать такие варианты формулы отбора:
1) Select Form = "Папа" | @AllChildren (либо @AllDescendants, см. справку)
2) Select Form = "Папа" | Form = "Доця"
используя любую из указанных формул мы отберем и родительские и дочерние доки, т.е. они попадут в представление, а уже то, как они будут отображаться, иерархически или нет, будет зависеть от галки "Show response docs in a hierarchy".
еще стоит знать, что если представление строится по формуле, которая отбирает доки строго по заданным параметрам (вариант 2) и установлена галка "Show response docs in a hierarchy", то может возникнуть ситуация, когда родительский документ в вид не попадает, тогда дочерний документ в вид попадет (логически), но вот отображаться не будет, и достать его оттуда будет нельзя...
если я в чем-то ошибся, то можете поправить