En 1908, Hoshino Gakki ouvre une division musicale au sein d'Hoshino Shoten, une société spécialisée dans le domaine de la librairie au Japon. Dès 1929, Hoshino Gakki commence à importer les guitares du luthier espagnol Salvador Ibáñez, jusqu'à ce que les ateliers de la fabrique soient détruits pendant la guerre civile.

Ne trouvant plus de guitares à importer, Hoshino Gakki rachète alors la marque et commence à fabriquer des guitares acoustiques espagnoles en 1935, d'abord sous le label Ibanez Salvador puis sous la marque Ibanez. Fabriquées à la main, leur distribution reste limitée.

En 1965, Harry Rosenbloom, qui fabriquait artisanalement des guitares aux États-Unis (à Ardmore, Pennsylvanie) sous la marque Elger, décide de se consacrer exclusivement à la vente et devient le distributeur exclusif des guitares Ibanez pour l'Amérique du Nord.

C'est dans les années 1970 que le succès d'Ibanez, croissant, commence. D'abord avec des répliques des guitares américaines Gibson, Fender et Rickenbacker, puis avec des guitares possédant des corps originaux, des manches au profil fin et des coloris novateurs. Tout cela permet à Ibanez de s'implanter définitivement dans le paysage musical des années 1980, gagnant du même coup le cœur d'une majorité des musiciens de heavy metal.