从此，他以云游之身，到处参学。他曾经见过跋伽仙人的修行场所，看到许多离尘绝俗苦行修的人，有的穿草衣，有的著树皮。他们都吃些花果允饥，或日食一顿，或二日一食，或三日一餐，企苦行成道。他们崇奉庶物，或拜水或拜火，或敬祠日月，或卧尘污土中，或睡荆棘丛上，或长年居于水火之侧，备受蒸炙之苦。类似这些印度文化传统中的宗教生活和修道方式，无论婆罗门、瑜伽术，乃至印度教等，在释迦牟尼出家的前后，显然普遍地盛行着，直到如今，还是流传不衰，释迦牟尼当时看到这些情形，他与跋伽仙人曾经交换意见，作过严谨的讨论，他问他们那些形形色色的苦行者，究竟目的何在？跋伽仙人的答复是，刻苦自身，可以赢得升天的福报。释迦牟尼却认为苦乐对立，罪福相乘，仍然还在轮回往复的樊篱中，并不能解脱生死，苦行诚然可以洁清心志，离绝牵累，但是未必就能真正了生脱死，成无道。因此他留此一宿，便立即辞去。
后来他又去学习当时印度著名的禅定工夫，修习“无想定”。所谓“无想定”的禅定工夫，是以泯灭思想为最高方法。通过修习，他实际做到了无思无虑，但最后认为这也不是真道，便舍弃而去。因为这种境界，也是自心造成的，至于此心主宰的根本为何？毕竟仍无所知。
因此他又到阿罗暹仙人(Aratakalama)处，学习“非想非非想定”。所谓“非想”，乃非一般普通心理活动的思维妄想。所谓“非非想”，就是做到虽无普通的妄想思维，但还能了然于一切。许多人认为禅定工夫，到此地步，已属高不可攀，其实，正是落在微细烦恼的见思惑中。他提出了问题：非想非非想定处，是有我耶？是无我耶？若说无我，不应说非想非非想；若言有我，便非解脱。斟为众生正因为有我，方生诸苦。非想非非想定中，虽然可以使粗的妄想烦恼暂停，但微细的烦恼，依旧存在。若不能舍除我相与我想，何以能达到真正的解脱？所以他又舍此而去。