A su muerte, a los 55 años, Arroyo es considerado como el gran salsero de Colombia y el principal impulsor de ese género en este país.
Arroyo, nacido en Cartagena, sobre el mar Caribe, el 1 de noviembre de 1955, empezó su carrera musical con apenas 15 años de edad, cuando se integró al Súper Combo Los Diamantes. En 1980 creó su propia orquesta La Verdad. 

Luego se vinculó en Nueva York con músicos como el dominicano Jhonny Pacheco y el estadounidense Jerry Masucci, de la casa disquera La Fania. 
Entre los temas más recordados que interpretó Joe Arroyo figuran "Tania", "Rebelión", "La noche" la última versión interpretada por Juanes y "Echao pa' lante".