İstanbul'a geldikten sonra hızlı bir giriş ile zamanın önemli davalarından El-Kaide davasına baktı. El Kaide'nin önemli isimlerinden El-Sakka için müebbet hapis istemiyle dava açan da ta kendisiydi. 2004 yılında İstanbul'u birbirine katan (HSBC, sinagoglar ve İngiliz Başkonsolosluğu bombalamaları) El-Kaide'ye karşı çalışmalarını bir süre daha sürdürdü.
Sene 2007'yi gösterdiğinde ise ismini duyuran davanın savcılarından biri oldu; ERGENEKON DAVASI
12 Haziran 2007'de bir gecekonduda 27 el bombası bulunması ile başlayan süreçte bazı kesimler tarafından ''kahraman savcı'' olarak lanse edildi. Ne hikmetse özel yetkili savcı yetkisi HSYK tarafından ''adil yargılama'' kararnamesi ile alınan Öz İstanbul Cumhuriyet Başsavcı Vekilliği'ne atandı.
Ergenekon davasında tutuklanıp boşu boşuna bir çok insanın hapis yatmasına sebep oldu iddiaları ise hiç gündemden düşmedi.
Cemaat-AKP kapışması olmadığı dönemde Ergenekon Davası için ''Ben bu davanın savcısıyım'' diyen Erdoğan tarafından savunulan Öz, yapılan (özellikle üst rütbeli subaylar için) tutuklamalar yüzünden ülkenin büyük bir kesiminden tepki aldı.
Ekranların bir çok ismi Zekeriya Öz için methiyeler düzdü. Bazılarını örneklendirirsek;
Recep Tayyip Erdoğan: Temiz eller operasyonunu yapanlara saygı duyun.
Bülent Arınç: Allah bu savcılardan razı olsun, artık korkmuyoruz.
Mehmet Ali Şahin: Savcılarımız hukuk için gece gündüz çalışıyor.
Hüseyin Çelik: Savcı herkesi soruşturur. Boşuna mı hukuk okudu?
Şamil Tayyar: Savcı Öz kahramandır. Tarihi misyon üstlendi.
Rasim Ozan Kütahyalı: Savcı Öz'ün bu ülkede heykeli dikilecektir.
Abdülkadir Selvi: Darbecileri kulağından tutup yargıya çıkardı.
Yolsuzluk operasyonunu yürüten Zekeriya Öz, Mehmet Yüzgeç ve Celal Kara hakkında çıkan tutuklama kararları ise 3 gün evvel gündeme bomba gibi düştü. Kısa bir süre önce kahraman ilan edilen savcılar için hükümete darbe yapma iddiaları vardı.
“Cebir ve şiddet kullanarak Türkiye Cumhuriyeti Hükümetini ortadan kaldırmaya, görevlerini yapmasına kısmen veya tamamen engellemeye teşebbüs" suçlarından tutuklanmaları için karar çıkan savcılar nasıl olduysa karardan hemen önce yurt dışına (Gürcistan'a) oradan da Ermenistan'a geçti iddiaları ortaya atıldı. Artvin valisi Cirit Zekeriya Öz ve Celal Kara için bu iddiaları doğruladı.