Osman Gazi döneminde Osmanlıların düzenli bir askeri gücü yoktu. Eli silah tutan herkes asker sayılırdı. Gönüllülük olarak orduya katılım vardı.

XVII. yüzyıla kadar en güçlü askerî yapıya sahip olan Osmanlılar; Asya, Avrupa ve Orta Doğu’nun siyasetini belirlemede önemli güce sahibiydiler.
 Osmanlıların bu başarısında; askerî teşkilatlanma ve farklı muharip sınıfları en iyi şekilde kullanarak dönemin şartlarına uygun hâle getirmesi etkili olmuştur.
Anadolu’nun uç bölgelerinde toplanan Türkmenler doğuda Moğollara; batıda Bizanslılara karşı gaza hareketini yürütmüşlerdir.
Osman Gazi, Bizans’a karşı savaşan bir alp ve aynı zamanda bir boy beyiydi. 
Osmanlı Beyliği’nin ilk savaşçı sınıfını, 
-Osman Gazi’nin etrafında gaza ve ganimet amaçlı toplanan alplar ve gaziler oluşturmuştur.
 -Karamürsel Alp, Konur Alp, Gündüz Alp, Akçakoca, Samsa Çavuş gibi alpler kahramanlıklarıyla dillere destan yaratan cesur savaşçılardı. 
Osman Bey’in gazileri ile yaptığı başarılı askerî faaliyetler diğer aşiret Türkmenlerinin de onlara katılmalarını sağlamıştır.
 Osman Gazi, kendi safında savaşan Türkmen aşiretlerine ganimetlerden pay vermiş ve ele geçirilen topraklara yerleşme hakkı tanımıştır.
 Bu şekilde elde ettikleri topraklar karşılığında aşiretler, Osman Bey’e tabi olmuş ve savaş zamanlarında atlı askerler göndermiştir. 
Beylik Dönemi’nde;
 Ahiyân-ı Rûm (Ahiler), 
Bâcıyân-ı Rûm, 
Abdalân-ı Rûm, 
Gaziyân-ı Rûm adlarıyla anılan örgütlenmiş gruplar Osman Gazi’yi desteklemişlerdir. 
Ahiler, toplumda anlayışlı ve uzlaştırıcı bir tutumla esnaf teşkilatının oluşturmuşlardır. Ahilik teşkilatının çatısı altına giren esnaf ve sanatkârlar; mesleki, dinî, ahlaki eğitimden farklı olarak askerî talim ve terbiye de görmüştür. 
Ahilik, Anadolu’da süratle yayılmış, köylerde ve uç bölgelerde büyük nüfuza sahip olmuştur. Osman Gazi, yoldaşları ve alpları da Ahi teşkilatına mensuptur.
İslamiyet Öncesi Dönem’de binicilik ve atıcılıkta usta olan Türk kadınları, savaşlara erkeklerle birlikte katılmıştır. İslamiyet’e geçişin ardından da bu gelenek sürdürülmüş ve Anadolu’da Bâcıyân-ı Rûm adıyla Ahiliğe denk bir kadınlar teşkilatı kurulmuştur.
Abdalân-ı Rûm, savaşçı dervişlerin oluşturduğu teşkilattır. 
Abdal kelimesi, o devirde derviş kelimesi ile eş anlamlı olarak kullanılmıştır. 
Gaziyân-ı Rûm ise, gözü yılmaz kahraman savaşçılara  “alp” denmiştir. etmiştir.
Osmanlı askerî teşkilatının temelini, Osman ve Orhan Bey’in sancağı altında toplanan Türkmen savaşçılar oluşturmuştur. Osmanlı Beyliği’nin başlangıçta düzenli askerî birlikleri yani beyliğe bağlı bir ordusu yoktur. Gerektiğinde, gazilerden oluşan ve tamamı atlı olan aşiret kuvvetlerinin bir yerde toplanması sağlanmış ve sefere çıkılmıştır.
Savaş bitince bu kuvvetler dağılmış ve herkes işinin başına dönmüştür. İşte ilk fetihleri yapanlar, bu uç Türkmen kuvvetleridir. 
Uç gazileri; geniş araziyi süratle fethetmiş, köylere hâkim olmuş ve kalelerin etrafına küçük kuleler inşa ederek uzun süren kuşatmalarla buraları teslim almıştır. Bursa, İznik ve İzmit bu şekilde alınmış ve sadece Bursa’nın fethi 10 yıl sürmüştür.
 Fetihlerde, 
-daimî ordunun eksikliği
-kuşatmaların uzun sürmesi
-geçici gönüllü kuvvetler vaktinde savaşa gelememeleri
 -düzensiz askerî zümreler, dağınık ve askerî disiplinden yoksundur.
-Fetihlerin daha sistemli bir şekilde sürdürülebilmesi için düzenli askerî birliklere ihtiyaç duyulmuştur.
 
Gaza: İslam Dini’ni korumak ve yaymak amacıyla Müslüman olmayanlara karşı cihat amacıyla yapılan savaş.
Ganimet: Arapça bir kelimedir. Savaş’ta zorla düşmandan ele geçirilen mal.
Alp: Yiğit. Kahraman Savaşçı demektir.
Garipnameyi göre Alp’in  dokuz niteliğe sahip olmalıdır:
 Cesaret, kuvvet, gayret, at, zırh, yay, Kılıç, süngü, dost
Osman Gazi'nin başarılarının temel nedeni:
 -Ganimetleri paylaşması, 
-Ele geçirdiği topraklarda yerleşme hakkı tanınması nedeni ile Türk boyları Osman Gazi'nin etrafında toplanmıştır.
Fetihlerin yapılma amacı: Ganimet elde etmek, gaza yapmak için yapılmıştır.