Родился в Ленинграде в семье директора опытного завода Балтийского пароходства Бориса Александровича и юрисконсульта Ленинградского Дома моделей Людмилы Харитоновны Гребенщиковых. В 1970 году окончил физико-математическую школу. В 1972 году вместе с Анатолием Гуницким основал группу «Аквариум». В 1976-м окончил факультет прикладной математики Ленинградского государственного университета имени Жданова. Работал младшим научным сотрудником в НИИ социологии. В то же время писал песни, давал концерты и сотрудничал с экспериментальным студенческим театром ЛГУ. Основал самиздатовский журнал «Рокси».
В 1980 году после выступления на Тбилисском рок-фестивале был исключен из комсомола и уволен с работы.
В 1981 году группа «Аквариум» стала членом Ленинградского рок-клуба и принимала участие в первых пяти его фестивалях.
В 1982 году продюсировал первый альбом группы «Кино» «45».
В 1987 году в журнале «Смена» опубликована первая рецензия на творчество группы «Аквариум». В 1989-м состоялась запись за границей первого англоязычного альбома группы - «Radio Silence» с участием Дэйва Стюарта.
В 1991 году приостановил деятельность «Аквариума» и возглавил группу «БГ-Бэнд», однако в 1993-м группа «Аквариум» возобновила работу.
В начале 1990-х увлекся буддизмом. Перевел с английского языка несколько буддийских и индуистских текстов. При поддержке индийского гуру Шри Чинмоя были организованы концерты Гребенщикова в лондонском Альберт-холле.
Записал более 50 альбомов (в том числе около 30 – с группой «Аквариум»).
Среди них: «Синий альбом», «Треугольник», «Электричество», «Акустика», «Табу», «Записки о Флоре и Фауне», «Радио Африка», «Ихтиология», «Дети декабря», «Равноденствие», «Феодализм», «Radio London», «Русский альбом», «Письма капитана Воронина», «Пески Петербурга», «Навигатор», «Снежный лев», «Оракул божественной бутылки», «Сестра Хаос», «Песни рыбака», «Беспечный русский бродяга», «Пушкинская, 10» и др.
Снимался в фильмах: «Серп и гитара», «Над темной водой», «Два капитана 2» и др.
Музыка Гребенщикова звучит в фильмах: «Милый, дорогой, любимый, единственный», «Чужие здесь не ходят», «Курьер», «Асса», «Город», «Золотой сон», «Митьки в Европе», «Дом под звездным небом», «Трава и вода», «Не идет», «Азазель», «Связь», «Питер FM», «Лаврские дворники», «Сезон дождей», «Серп и гитара», «Рок», «Жажда», «Ты успокой меня», «Долгая дорога домой», «Красное на красном», «Черная роза - эмблема печали, красная роза - эмблема любви», «Город», «Над темной водой», «Два капитана 2», «40:0 в пользу БГ», «Настроение Пси», «Нежный возраст», «БГ. Лев Толстой».
С 2005 года ведет на «Радио России» и радиостанции «Культура» еженедельную программу «Аэростат».
В 2004 и 2007 годах в Петербурге прошли две персональные фотовыставки «Инфра Петербург».
Выпустил несколько книг: «Сочинения в 2-х томах» (2002), «Книга Песен» (2006), «Два стиха о квартире номер шесть» (2008), «Аэростат. Течения и земли» (2008), «Аэростат. Воздухоплаватели и артефакты» (2009), «Аэростат. Параллели и меридианы (2009).