1925年3月13日、マサチューセッツ州ロックスバリー生まれ。10代の頃から地元ボストンのナイトクラブ等で演奏活動を始め、45年にニューヨークに進出。（初めてNYで演奏したのが有名な「サヴォイ・クラブ」であったことから、本人が是非今回のアルバムに「サヴォイでストンプ」を収録したいという提案があった。）ルイ・ラッセルのビッグバンドに2年間在籍し、同時期にルイ・アームストロングのビッグバンドも兼任する。47年から2年間チャーリー・パーカーのグループで活躍し、その後JATPに参加。49年以降は52丁目界隈のジャズクラブを拠点に、マイルス・デイビス、バド・パウエル等と共演しつつもチャーリー・パーカー・クインテットの正ドラマーとして3年間活動する。53～58年はヴォーカリスト、サラ・ヴォーンと活動。その後セロニアス・モンク、エリック・ドルフィー、レニー・トリスターノ、スタン・ゲッツらと活動する一方、自身のグループも率いる。61～65年はしばしエルヴィン・ジョーンズの代わりにジョン・コルトレーン・カルテットでも活躍。60年代後半はゲイリー・バートンと主に共演。70年代は主にレコーディングに活躍の場を移し、80年代にはチック・コリア、パット・メセニー等と共演。90年代以降は自身のグループを主に世界を股にかけた活躍をしている。

「ロイが共演したことのないジャズ・ジャイアンツはいないのではないだろうか」と言われるほど、過去から現在まで様々なミュージシャンから引っ張りだこにされているドラマーである。