كان يعقوب من مدينة بيت صيدا. دعاه الربّ يسوع ليتبعه مع أخيه يوحنا الحبيب في اليوم عينه الذي دعا فيه بطرس وأندراوس: «ثمّ مضى في طريقه، فرأى أخوين آخرين، هما يعقوب بن زبدى ويوحنا أخوه، مع أبيهما زبدى في السفينة يصلحان شباكهما، فدعاهما. تركا السفينة وأباهما من ذلك الحين وتبعاه» (متى 4: 21-22).
ويُطلق عليه أيضًا اسم يعقوب الكبير من أجل التمييز بينه وبين يعقوب الصغير بن حلفى. وقد أحبّه يسوع المسيح مع أخيه يوحنا محبّة خاصّة حتى إنّه سمّاهما «ابني الرعد» (مرقس 3: 17).
ثمّ اختار المسيح يعقوب ليكون شاهدًا أمينًا على بعض الأحداث المهمّة من حياته، فنذكر إقامة ابنة يائيرس من الموت: «لمّا وصل إلى البيت، لم يدع أحدًا يدخل معه إلا بطرس ويوحنا ويعقوب وأبا الصبيّة وأمّها» (لوقا 8: 51).