Dato' Hj. Zainal Abidin memasuki Perkhidmatan Awam Malaysia pada tahun 1970 dan pernah berkhidmat di beberapa jabatan dan kementerian, di antaranya seperti berikut :-

1975 - 84 : Menyandang jawatan Pegawai Daerah di Kuala Lipis, Kuala Kangsar dan Klang.
1984 - 86 : Setiausaha Bahagian, Kementerian Tanah dan Pembangunan Wilayah.
1986 - 89 : Pengarah Tanah dan Galian, Negeri Sembilan
1989 - 94 : Pegawai Kemajuan Negeri Johor
1995 - 96 : Pengarah Tanah dan Galian Pahang
1996 - 98 : Pegawai Kewangan Negeri Pahang
1998 - 2001 : Setiausaha Kerajaan Negeri Pahang
2002 hingga sekarang : Ahli, Suruhanjaya Pilihan Raya

Dato' Hj. Zainal Abidin pernah menjadi ahli dalam beberapa Lembaga.