故事发生在美国西部一个小村庄。父亲要离开家一段时间，嘱咐大儿子照顾好妈妈和弟弟。一条无意闯入家中老黄狗，成了家庭的一员。老黄狗年纪虽大，却忠诚而勇敢的保护了这个家。

1860 年代末，吉姆·科茨 (Jim Coates) 离开家人——妻子凯蒂 (Katie)、十几岁的儿子特拉维斯 (Travis) 和小儿子阿利斯 (Arliss)——去堪萨斯州收牛。吉姆不在的时候，特拉维斯出发去玉米地干活，在那里他遇到了一只黑嘴狗，他将其命名为“老黄狗”，因为“黄狗”是“黄色”的方言发音，而且狗的叫声类似于人类的叫喊声。特拉维斯试图将狗赶走，但没有成功，而艾利斯则为他辩护。耶勒从烟熏房偷肉和抢鸡窝的习惯并不让特拉维斯喜欢他，但他的母亲同意阿里斯养狗的想法。

后来，阿里斯试图通过给一只黑熊幼崽喂玉米面包并抓住它来捕捉它。愤怒的母亲听到幼崽的哭声并发起攻击，但老黄狗把她吓跑了，赢得了家人的支持。特拉维斯逐渐喜爱并尊重老耶勒，他对男孩的生活产生了深远的影响。

有一天，巴德·瑟西和他的孙女莉丝贝丝来吃晚饭，莉丝贝丝把特拉维斯拉到一边，告诉他老耶勒一直在全县各地偷食物。她和巴德离开后，特拉维斯责骂老耶勒。第二天，老黄狗保护特拉维斯免受他们的母牛罗丝的伤害，并在特拉维斯给她挤奶时限制住她，从而证明了自己是一只牧牛犬。

有一天，老黄狗的原主人伯恩·桑德森前来寻找他的狗。意识到科茨家族确实需要老耶勒，他同意将他交易给阿里斯，以换取一只角质蟾蜍和一顿家常饭菜。桑德森后来把特拉维斯拉到一边，警告他恐水症（狂犬病）日益严重。

有一天，特拉维斯出发去捕捉一群野猪。在巴德·瑟西的建议下，他坐在一棵树上，试图从上面用绳子绑住他们，而老耶勒却把他们逼到了墙角。然而，特拉维斯随后落入猪群并遭到其中一只的攻击。老耶勒在特拉维斯带着受伤的腿爬走时保护他。然而，老黄狗被野猪打成重伤，特拉维斯把他藏在一个大洞里。特拉维斯的母亲随后找回了老耶勒，并用骡毛缝合了他的伤口。老耶勒康复后，瑟西警告科茨一家该地区有恐水症，但凯蒂责备他试图吓唬特拉维斯。瑟西离开了，莉丝贝丝留在科特一家帮助他们收割玉米。特拉维斯向凯蒂保证猪没有狂犬病，他和老黄勒都康复了。

后来，这家人看到他们的牛罗斯跌跌撞撞，口吐白沫。特拉维斯确认她患有狂犬病并开枪射杀了她。那天晚上，当凯蒂和莉丝贝斯焚烧她的尸体时，一只狼突然袭击了他们。凯蒂的尖叫声惊动了特拉维斯，特拉维斯拿着步枪跑到外面，正好看到老耶勒正在与狼搏斗。特拉维斯成功射杀了狼，但狼咬住了老黄狗的脖子。凯蒂告诉特拉维斯，因为健康的狼不会攻击燃烧区域附近，所以这只狼患有狂犬病。凯蒂随后建议射杀老耶勒，但特拉维斯坚持认为他们应该把他关在玉米仓里看看他是否表现出这种疾病的症状。在继续隔离后，科特夫妇相信老耶勒逃脱了感染。然而，有一天晚上，当特拉维斯去喂老黄狗时，他对他咄咄逼人地咆哮。特拉维斯怀疑老耶勒可能已被感染，但没有说什么。那天晚上晚些时候，阿里斯无意中试图打开玉米仓释放老耶勒。凯蒂关上门，老黄勒咆哮并试图攻击。凯蒂随后告诉特拉维斯，老耶勒正在受苦，并将阿里斯送回了家。凯蒂带着步枪回来，但特拉维斯接过它，不情愿地射杀了老耶勒，然后离开了。

特拉维斯对狗的死感到不安，他拒绝了老耶勒生下的新小狗。然后吉姆带着钱和礼物回来给家人。凯蒂向他讲述了这只狗的事，吉姆与特拉维斯讨论了此事。回到农舍后，特拉维斯发现小狗偷了一块肉，这是从老黄狗那里继承来的习惯。特拉维斯随后接受了这只小狗“小耶勒”作为他的新狗。