堪舆这个词最早出现在西汉初期的《淮南子·天文训》一书中：“北斗之神有雌雄，十一月始建于子，月从一辰，雄左行，雌右行，五月合午谋刑，十一月合子谋德。太阴所居辰为厌日，厌日不可以举百事，堪舆徐行，雄以音知雌，故为奇辰。”在这里，“堪舆”是一个神名，指称北斗星辰。星命之术在春秋至两汉期间很盛行，古人相信天上星辰的运行变化，是与世间人事之吉凶祸福密切相关的。后来扬雄的《甘泉赋》有“属堪舆以壁垒兮”一句，说的正是汉成帝在甘泉宫的祭台上向堪舆神灵祈祷卜吉。所以我们不难推测，后世以“堪舆”指称风水术，实质上源于天象决定命运的观念。
在司马迁的《史记·日者列传》中，开始出现“堪舆家”这个专门名词：“孝武帝时，聚会占家问之，某日可取妇乎？五行家曰可，堪舆家曰不可，建除家曰不吉，丛辰家曰大凶，历家曰小凶，天人家曰小吉，太一家曰大吉。辩讼不决，以状闻。”当时所谓的“堪舆家”仅指那些通晓天文与地理知识的占侯之士，他们占卜日辰吉凶，并不限于相地营宅，也包括嫁娶等其他活动。东汉郑玄注《周礼·春官宗伯第三》说：“《堪舆》虽有郡国所入度，非古数也。今其存可言者，十二次之分也。”其中提到的术书《堪舆》早已亡佚，但其星宿分野、十二次之法却流传下。其法将木星（岁星）十二年运行一周天的轨道，等分为十二，称之十二次，又以之对应于地上的十二个区域，即所谓分野，视各天区星象变异而卜算对应地域的吉凶。由天文占法又衍生出一种实用的占卜工具——六壬式盘。汉代六壬式盘由上下两盘重叠而成，上盘为圆盘，即天盘；下盘为方盘，即地盘，显然取“天圆地方”之意。汉代堪舆家通过转动天盘，较验上下盘对位的干支时辰来定吉，这也成了汉代堪舆术占卜择日的最大特色。
正是由于这类占卜主要通过观察天象来判断相应地域的凶吉，许慎在注《淮南子·天文训》时，将“堪舆”二字的意义作了引申：“堪，天道也；舆，地道也，”唐代颜师古注《汉书·扬雄传》引三国魏人张晏的话说：“堪舆，天地总名也。”清代学者朱骏声在《说文通训定声》中又进一步解释为：“盖堪为高处，舆为下处，天高地下之义。”高者为阳，低着为引，所以堪舆实为阴阳天地之道，最早的堪舆家正是利用天文地理对应关系方面的学问来占卜吉凶的。到了后来，堪舆由一种纯粹占卜吉辰的天文式术，与相宅、营造、形法之术互相渗透，逐渐成为相地风水术的代名词，其内涵也逐渐确定下来。