Roswell Rudd spielte zunächst im traditionellen Still bevor er sich Anfang der 1960er Jahre der Jazz-Avantgarde anschloss. Er spielte mit dem Pianisten Herbie Nichols und arbeitete später unter anderem mit dem Sopransaxophonisten Steve Lacy und auch mit dem Free Jazz Pianisten Cecil Taylor. 1964 gründete er mit John Tchicai das New York Art Quartet.
Im weiteren Lauf seiner Karriere musizierte er in Formationen mit Carla Bley (er war an der LP „Escalator over the Hill“ beteiligt) und er war Mitglied des Liberation Music Orchestras. Seit den 1970er Jahren arbeitete er mit Enrico Rava. Mit Steve Lacy teilte er die Begeisterung für die Kompositionen von Thelonious Monk und war an vielen Einspielungen seiner Werke beteiligt (u.a. mit Mal Waldron und Don Cherry). Rudd war auch im Bereich musikethnologischer Forschung tätig und theoretisch und praktisch im Bereich der World Music aktiv.
