Okkan, polis teşkilatında kariyerine 1976 yılında başlamıştır. Terörle mücadelede önemli roller üstlenmiş, özellikle PKK ve diğer ayrılıkçı örgütlerle yapılan operasyonlarda aktif olarak görev almıştır. Diyarbakır, Şanlıurfa, Mardin gibi bölgelerde terörle mücadelede önemli pozisyonlarda bulunmuş ve bu süreçte çeşitli operasyonlara liderlik etmiştir.
1997 yılında, o dönemde Diyarbakır Emniyet Müdürü olarak görev yapmaktayken, PKK tarafından düzenlenen bir saldırı sonucu ağır yaralanmıştır. Ancak bu saldırıdan kurtulmuş ve daha sonra emniyet teşkilatında görevine devam etmiştir.
2001 yılında, Gaziantep Emniyet Müdürü olarak görev yaparken, 24 Ocak 2001 tarihinde terör örgütü tarafından düzenlenen bir suikast sonucu öldürülmüştür. Bu suikast, Türkiye'nin terörle mücadeledeki önemli isimlerinden birinin kaybı olarak büyük üzüntü yaratmış ve olayın aydınlatılması için geniş çaplı bir soruşturma başlatılmıştır.
Ali Gaffar Okkan, Türk polis teşkilatının terörle mücadeledeki önemli isimlerinden biri olarak hatırlanır ve ülkesinin güvenliği için verdiği hizmetlerle tanınır. Ölümü, Türkiye'nin terörle mücadelesindeki zorlukları ve riskleri bir kez daha gözler önüne sermiştir.