Aufgrund eines erblich bedingten grünen Stars ist er seit seiner Geburt blind. Im Alter von fünf Jahren zogen er und seine Familie nach Harlem, New York City. Mit neun Jahren spielte er im Teatro Puerto Rico. Er konnte bereits verschiedene Instrumente spielen, darunter Akkordeon, interessierte sich dann aber für die Gitarre. Um ungestört zu sein, schloss er sich manchmal 14 Stunden am Tag in sein Zimmer ein und hörte Rockmusik der 50er Jahre.
Mit 17 verließ er die Schule, um in Klubs aufzutreten und damit seine Familie zu ernähren. In diesem Jahr hatte er auch seinen ersten professionellen Vertragsauftritt in Detroit.
1966 ging er nach Mar del Plata, Argentinien, um bei einem Festival aufzutreten. Dort wurde er von RCA Victor entdeckt, die mit ihm ein Album in spanisch aufnehmen wollten. Feliciano schlug Bolero-Musik vor und das Ergebnis waren die beiden erfolgreichen Hits Poquita Fe (Wenig Vertrauen) und Usté ("Sie" von Usted).
Nach zwei weiteren erfolgreichen Platten hatte Feliciano einen großen Bekanntheitsgrad in Lateinamerika erlangt. Um auch in den USA berühmt zu werden, zog er nach Los Angeles. Er komponierte den Song Feliz Navidad (Frohe Weihnachten), der mittlerweile ein Weihnachtsklassiker geworden ist, und seine eigene Version des The Doors-Songs Light My Fire. Mit den beiden Stücken wurde er schlagartig erfolgreich und so verkaufte er Millionen Alben.
Auf dem Höhepunkt der Proteste gegen den Vietnamkrieg 1968 hatte Feliciano die Gelegenheit, die Nationalhymne The Star-Spangled Banner während der World Series zu singen. Seine sehr persönliche, langsame Latino-Jazz-Version war sehr umstritten. Manche nannten seine Darbietung unpatriotisch und eine Schande, einige verlangten nach seiner Abschiebung. Andere verstanden die Gefühle und Aufrichtigkeit seiner Vorstellung und so wurde er zum Helden der Gegenbewegung. Die Aufnahme wurde als Single veröffentlicht und kam in den Billboard-Charts unter die ersten 40 Plätze.
Felicianos Version des Star-Spangled Banner wurde zehn Monate später von der Darbietung Jimi Hendrix' auf dem Woodstock-Festival gefolgt.
Feliciano ist einer der wenigen Sänger, denen es gelungen ist, sowohl mit spanischer Musik als auch englischem Rock and Roll erfolgreich zu sein. 1987 erhielt er einen Stern auf dem Hollywood Walk of Fame.
Im Jahre 1995 wurde Feliciano durch die Regierung von New York geehrt, die die öffentliche Schule Nr. 155 in Jose Feliciano Performing Arts School umbenannte.