黄祖示，1940年7月出生于湖南省湘潭县（今韶山市）韶山。1953年高小毕业后，回乡从事农业生产。1959年初任民兵营副营长，率领民兵参加修建韶山青年水库。因工作出色，他被调到锡矿山当工段长。1959年6月加入中国共产党。同年12月，应征入伍，当上了一名防化兵。