玄武是一种由龟和蛇组合成的一种灵物。玄武的本意就是玄冥，武、冥古音是相通的。武，是黑的意思；冥，就是阴的意思。玄冥起初是对龟卜的形容：龟背是黑色的，龟卜就是请龟到冥间去诣问袓先，将答案带回来，以卜兆的形式显给世人。因此，最早的玄武就是乌龟。以后，玄冥的含义不断地扩大。龟生活在江河湖海（包括海龟），因而玄冥成了水神；乌龟长寿，玄冥成了长生不老的象征；最初的冥间在北方，殷商的甲骨占卜即‘其卜必北向’，所以玄冥又成了北方神。
它和其他三灵一样，玄武也由天下二十八星宿变成的：斗、牛、女、虚、危、室、壁。而古时后的人对玄武它的解释有以下的数种，‘玄武’即龟。《礼记.曲礼上》云：‘行，前朱鸟而后玄武...’‘玄武’乃龟蛇。《楚辞.远游》洪兴祖补注：‘玄武，谓龟蛇。位在北方，故曰玄。身有鳞甲，故曰武。‘玄武’为蛇合体、龟与蛇交。
玄武在宋代身价培增，并被人格化。这与宋代各帝推波助澜分不开。宋初太祖时，即有真武、天蓬等为天之大将的传说。未真宗天禧元年，在军营中发生了一件事。在《事物纪原》卷七载：‘营卒有见蛇者，军士因其建真武堂。二年闰四月，泉涌堂侧，汲不竭，民疾疫者，饮之多愈。’真宗听说此事，下诏就地建观，赐名‘祥源’。这大约是中国最早的真武庙。
真武大帝的身世，后人多说是在隋炀帝时，玉帝将自己的三魂之一，化身投胎于挣乐国皇后，厌恶尘世，舍位入武当山上修行，成功飞升，镇守北方，号曰：玄武。
