黄家驹1962年6月10日出生在香港的一个劳工家庭,他们一家七口住在九龙深水埗苏屋邨徙置区内一个不到三十平方米的小单位。黄家驹小时候偶然从大姐的一些party中接触到一些20世纪70年代的摇滚音乐,其中包括Deep Purple、Led Zeppelin等摇滚乐队,此外英国摇滚乐歌手大卫·鲍威对黄家驹也产生了较大影响。
黄家驹于博允中学毕业后,做过办公室助理、电视台布景员、推销员等。17岁时,黄家驹在邻居搬家的时候捡来了一把木吉他,这把木吉他是他的第一件乐器。一次他去参加地下乐队,遭到主吉他手的羞辱,黄家驹回家后对弟弟黄家强说自己有了人生的第一个目标,就是弹奏得比这位乐手更出色;这件事后,他开始勤练吉他。1987年,beyond发行EP《永远等待》,黄家驹为该EP作曲5首,作词4首,其中由黄家驹创作的歌曲《永远等待》是beyond尝试用粤语创作摇滚作品的开端,也是第一首中文作品。此外由黄家驹创作的《昔日舞曲》登上了香港电台流行榜,并且成为beyond第一首被电视台拍成MTV的歌曲;此时黄家驹和beyond其他成员仍未被大众所接受,他们的装扮也受到外界的批评;同年,黄家驹所在的beyond乐队发行专辑《亚拉伯跳舞女郎》,尝试寻找介于商业和摇滚间的平衡点。