Ken’ân Rifâî 1904’te tekrar İstanbul’a döndü ve Eğitim Bakanlığın’da farklı görevlerde bulundu. Ekim 1908’de Dârüşşafaka Lisesi müdüriyeti ile Fransızca öğretmenliğine tayin edildi.
Şubat 1908’de Eğitim Bakanlığı Teftiş ve Muayene Kurulu üyeliğine atandı ve sonrasında okul idareciliğinden çok bakanlığın teftiş ve müfredat hazırlama kurullarında görev aldı.
Aynı yıl, II. Meşrutiyet ilân edilerek II. Abdülhamid tahttan indirildi. Siyasî istikrarsızlığın hâkim olduğu bu yeni dönem, İstanbul için kaotik ve çalkantılı zamanlardı.
1911’de Dârüşşafaka Lisesi müdürlüğünden ayrıldı. 1911’den sonra yine bakanlık bünyesinde çeşitli görevlerde bulundu ve 1921’de de emekli oldu.
Emeklilik döneminde vefatından önceki hastalığına kadar Fener Rum Lisesi ve Yuvakimyon Kız Lisesi’nde Türkçe öğretmenliğine devam etti. Ken’ân Rifâî’nin Fener Rum Erkek Lisesi’ndeki Türkçe öğretmenliği süreci, onun eğitim felsefesindeki derinliği ortaya koyar. Derslerini sıradan bir müfredatın ötesine taşımış, öğrencilerine bilgiyi aşan bir rehberlik sunmuştur.
1930’da Ken’ân Rifâî ve yakın çevresi tarafından Rifâî’nin çok genç yaşta vefat eden kızı Hayriye Hanım’ın hatırasını yaşatmak amacıyla “Hayriye Lisesi” adı ile bir okul kuruldu. İstanbul Fatih semtindeki bu okul, yaklaşık 15 yıl boyunca hizmet verdi. Okul İdare Komisyonu başkanı olan Ken’ân Rifâî, aynı zamanda okulun Fransızca öğretmenliğini de yaptı.
Ken’ân Rifâî’nin öğretmenlik yıllarında öğrencileri üzerinde bıraktığı derin iz, sadece akademik başarılarla sınırlı kalmadı. Öğrencilerinin kendisine beslediği derin saygı ve sevginin kökeninde, eğitimciliği sürecinde sergilediği içten ve özverili tutum yatmaktadır.
Onun şefkatli rehberliği ve manevi derinliği, öğrencileri tarafından büyük bir sevgi ve hayranlıkla karşılandı.
Öğrencilerinin mezuniyet sonrası gönderdikleri mektuplardan, onların Ken’ân Rifâî’yi sadece bir öğretmen olarak değil, aynı zamanda gönüllerini besleyen manevi bir baba olarak gördükleri anlaşılmaktadır.