Altay, 16 Ocak 1914’te Altay İdman Yurdu adı altında kurulmuştur. O devirde; İzmir’de Rum, Ermeni ve İtalyanların etkisi önemli bir sorundu. Devrin Valisi Rahmi Bey, Vasıf Çınar Bey ile Necati Beye “Şark İdadisi” isminde bir okul açtırdı. Amaç, Rumların ve diğer azınlığın etkinliğini kırmaktı. Bu amaç uğruna 16 Ocak 1914 yılında Altay İdman Yurdu sportif faaliyetlere başladı. Yunan, Ermeni ve İtalyan takımlarıyla yaptığı maçlarda başarılı sonuçlar aldı.
14 Ekim 1925 günü Mustafa Kemal Atatürk İzmir’e gelir ve kulübü ziyaret eder. Altay’ın 9 Eylül kupasını gören Atatürk, “Aferin çocuklar, kupa da kazanmışlar” der. Altay’ın spor faaliyetlerini dinledikten sonra Atatürk kulüp defterine şunları yazarak imzalar: ‘‘Altay Spor Kulübünde tanıdığım gençlik iftihara şayandır. Bu gençlik müvacehesinde istikbalin kuvveti ve saadeti en bariz görülmektedir.’’