1958年，为做好摩拉水牛保种育种和本地水牛杂交改良工作，国务院科学规划委员会批复在广西设立中国农业科学院水牛研究所。1961年，国家精简机构，水牛研究所下放地方，并入广西畜牧研究所。1994年底，中国农业科学院水牛研究所恢复成立，同年广西成立广西壮族自治区水牛研究所。1995年1月5日，水牛研究所正式挂牌成立，由中国农业科学院和广西壮族自治区畜牧局双重管理。2018年，水牛研究所划归广西壮族自治区农业农村厅管理。2022年，水牛研究所业务范围扩展至畜禽（牧草）繁育、畜禽产品加工等方面的技术研究与推广应用。2024年，水牛研究所获批成立党委。2025年，水牛研究所内设机构增加至18个。

共有17位党和国家领导人亲临水牛研究所视察指导，对水牛保种育种工作给予高度评价。