物部の神様である八尾神社境内に矢尾城址碑がありますが、城がどこにあったのかは分かっていません。
室町時代、八尾の豪族だった別当兼幸（顕幸）が築城したと伝わっています。古文書には1337年（建武4年、南朝は延元2年）に南朝方の高木遠盛らが八尾城を攻めたとあり、この頃には城がありました。南北朝から戦国時代にかけて八尾城は合戦の舞台や陣地となっています。
八尾城は戦国時代になると池田丹後守教正の居城となります。池田丹後守教正は三好長慶の後継者である三好義継が若江城主の頃、補佐した家老の一人ですが、やがて松永久秀に属し、久秀が信長に降った時は同じく信長配下になりました。イエズス会が本国に送った報告では、キリシタン武将だった池田丹後守教正の影響で城下には、数多くのキリシタンが住んでいたようです。飯盛山城の城下にあった三箇のような当時の八尾はキリシタンの町だったのでしょう。
河内の城といえば高屋城、若江城でしたので八尾城の戦略的位置づけは相対的に下がっていき、やがて廃城となったようです。