淡水祖庙始建于明朝神宗（1580-1620年）年间，距今已有400多年历史。据载，淡水从宋朝末年就居住着古老的詹、戴、李三大姓。起初三大姓为争夺城中一块公认的风水宝地，纠纷不断，摩擦此起彼伏，居民生活很不安定。后来县官判由三大姓人在该地共同修筑一座庙，祭拜民间流传的关帝，名为忠义庙（即现在的祖庙），意为三大姓人从此忠诚相待，讲道义，各不相争，平安度日。果然，忠义庙建成后，三大姓再也不为争这块地方而相互侵扰。由于忠义庙的特殊历史意义，使其在当地的鲁班庙、谭公庙和妈娘庙等众多神庙中脱颖而出，最终被淡水人冠于众庙之始，乃称祖庙。

淡水祖庙主殿，又名“协天宫”，于清道光五年（1825年）重修。1988年祖庙复修，后再经过1999年的重建，修复后的祖庙为二进院落四合院式布局，占地总面积约1830平方米，建筑面积1337平方米。

现时祖庙，香火旺盛，香客除淡水、澳头以外，还有来自惠东、博罗等地，尤其是农历正月，来此上香者络绎不绝，香客达10万人以上。