首先，铁牛是用金属制成的，所以先天具备了金的属性。在古代的五行学说中，有金克木之说，而木配东方，东方的神兽是龙，所以金可克蛟龙，可以迫使其隐藏。蛟龙通常喜欢兴风作浪，带来水患，而有金在就使其藏匿，避免水灾的发生。
其次，牛为土属。《贾子胎教》中说：牛者，中央之牲也。中国古代以方位同五行相配，有东木、南火、西金、北水、中土之说。牛为中央之牲，当然属土，土能掩水。
此外，在中国古代神话中，牛被视为大地的象征和大地的载体。《周礼地宫大司徒》云：牛，能任载地类也。在一些民族古老的神话中，牛是大地的支座，大地由牛用角顶住，当一只角累了，就会换另一只角。在这个更换的空当，大地会抖动，这就是地震。河南安阳曾出土殷商时期的大理石雕双兽纹案就是以牛为底座，表现了牛的载地的功能。因为牛是神兽，因此被赋予了镇水怪、抵御蛟龙的功能。
关于铸铁牛可以抵御洪水的说法大概始于唐朝，明代还有刘伯温设九牛二虎一只鸡镇洪水的传说，清代很多地方的人们都相信这一说法，因此在沿河流域铸造了铁牛，以防止洪水的泛滥。
在水患严重的地区，除了铸造铁牛抵御洪水外，还时常配有张口啼鸣的石制雄鸡。据说石制雄鸡也可以抵御水患。为什么呢?因为雄鸡可以与太阳相类感，是一种充满阳气、有灵气的动物。雄鸡啼鸣，意味着天开始变亮，太阳升起，不好的阴性的东西消失，所以在民间雄鸡一直是驱鬼除阴的镇物。洪水是由水怪兴起，具有阴性，所以雄鸡可以防止洪水的出现。
