Стефан Граппелли родился в г. Париже у родителей итальянского происхождения. После смерти матери и мобилизации отца на Первую мировую войну воспитывался в приюте. На скрипке он начал играть в двенадцатилетнем возрасте, а карьеру музыканта начал в качестве уличного скрипача на Монмартре. В 1924-28 гг. изучал теорию музыки в Парижской консерватории.

Тринадцать альбомов записаны им совместно с британскими гитаристами Дизом Дисли и Мартином Тэйлором, в 1980-х гг. несколько концертов даны с молодым британским виолончелистом Джулианом Ллойдом Уэббером.

В 1975 году Граппелли, случайно оказавшись в одной студии с музыкантами Pink Floyd, записал несколько скрипичных пассажей для заглавной композиции альбома Wish You Were Here. Однако в окончательную версию сведения скрипка не попала.

4 ноября 2011 года названная запись вышла в специальных изданиях альбома Wish You Were Here - версиях Immersion и Experience, в рамках кампании «Why Pink Floyd?». В 1997 г. Граппелли получил Премию Грэмми за достижения всей жизни. Похоронен на парижском кладбище Пер-Лашез.