Ken’ân Rifâî’nin il eğitim müdürü olarak bir sonraki görev yeri Trabzon oldu.
1896’da atandığı bu şehirde öğretmenlik görevine de devam etti. Halk sağlığı, Fransızca, fen bilgisi ve coğrafya dersleri verdi.
O dönemde Trabzon’da eğitim oldukça aktif bir alandı. Ken’ân Rifâî, öğrenci sayısı 450 civarında olan medreseler ve idâdi okullarıyla yakından ilgilendi. Merkezden taşraya kadar teşkilatın ihtiyaçları, eğitimcilerin çalışma şartları ve performans durumları gibi konular üzerinde çalıştı.
Özellikle eğitim müdürlüğünün mâlî işleriyle bizzat ilgilendi. Bölgenin eğitim ihtiyaçlarını karşılamak için yerel idarecilerle ve halkla iş birliği içinde oldu.
Ken’an Rifâî’nin Trabzon’a tayini, hem meslek hayatında hem de kişisel gelişiminde yeni bir dönemin başlangıcıydı. Trabzon’da, kıymetli insanlarla çevrili bir hayat sürmeye başladı. Bu dönemin en dikkat çekici isimlerinden biri, uzun yıllar Trabzon’da görev yapmış olan Vali Kadri Bey’dir.
Kadri Bey, zekâsı, bilgi birikimi ve hoş sohbetiyle Ken’an Rifâî’yi derinden etkilemiştir. Kadri Bey de genç maarif müdürünü fevkalade sevmiş ve takdir etmiştir. Aralarında gelişen dostluk, Trabzon’dan sonra da yıllarca sürecek derin ve samimi bir bağa dönüştü.
Trabzon’daki yılları, Ken’an Rifâî’nin hayatında ve eserlerinde derin izler bıraktı. Bu dönemde edindiği dostluklar, yaşadığı deneyimler ve karşılaştığı zorluklar, onun öğreticiliğine ve çevresine olan etkisinin temellerini attı.
İstanbul’a dönüşü, onun eğitim ve kültür alanındaki çalışmalarına yeni bir yön kazandırdı. Numûne-i Terakki Lisesi Müdürlüğü’ne atanan Ken’ân Rifâî, burada Sultan II. Abdülhamid’in direktifleriyle önemli eğitim reformlarına imza attı.
Ken’ân Rifâî’nin Trabzon’daki çalışmaları, Maârif Nezareti tarafından taltif nişanı ile takdir edildi. 1896’da annesinin hastalığı dolayısıyla İstanbul’a tayinini talep etti.