《圣经·新约》里记述了一个与黄玉有关的“施洗约翰”的故事。故事说：耶稣最喜爱的门徒约翰就分封王希律·安提帕娶了弟媳希罗底一事，曾严厉责备希律王说：“你娶了兄弟之妻，这是悖理的！”这令改嫁后的希罗底恼羞成怒，极力鼓动希律王杀掉约翰，以报羞辱之仇。可是由于犹太百姓都吧把约翰看成先知，希律王不敢杀他，只是把他送进了监狱。 
　　希律王有个叫撒罗米的女儿，为希罗底所生。女儿以其美妙的舞姿深得父亲的宠爱。一次，在希律王的生日宴会上，撒罗米翩翩起舞，希律王酒兴大发，分外高兴。酒醉醺醺的黄玉希律王对女儿说：“不管你问我要什么，我都给你。哪怕是国土的一半，我也在所不惜。”女儿说：“太好了，不过我要问问母亲，看看我应要什么。”说着转身离去。不一会儿，从希罗底处匆匆回来的女儿站在希律王前说：“我要约翰的人头，愿父王立刻把施洗约翰的人头放到盘子里给我！”希律王感到十分为难，便拿出一些珍贵的宝石送给女儿并说：“我有像老虎眼睛般的黄色黄玉，像野鸽眼睛般的红色黄玉，还有像猫眼样的绿色黄玉。”希律王想以此说服女儿放弃要施洗约翰人头的要求。可女儿按照母亲的旨意执意要约翰的人头，不改初衷。希律王迫于在大庭广众之下夸下海口，不好反悔，只得吩咐卫兵到狱中取来约翰的人头。 
　　这个黄玉和约翰人头的故事告诉人们黄玉的宗教地位。它是希律王非常珍爱的宝石，但在希罗底阴险复仇心理的驱使下，珍贵的宝石也未能保住约翰的人头。 
　　古人认为，黄玉的太阳般光辉能给人以温暖和智慧。许多古老的民族把它当作护身符。据说，佩戴它能使人消除悲哀，稳定情绪，增强智慧和勇气。在黄金饰物上镶一块黄玉挂在颈上可以避免邪气、驱赶妖魔。 
　　东方的古印度人喜欢按照“纳瓦拉特那”风格制作金指环和银指环(九宝)，以象征吉祥如意。其中九宝就有黄玉制品。
　　黄玉还被认为有药用价值。国外古代传说黄玉粉末泡酒可以治疗气喘、失眠、烧伤和出血等。我国古迹《吕氏春秋》中有“夏季服黄玉”之说。《天工开物》中的“木难”、“酒黄”都是泛指黄玉。相传古希腊国王曾把一颗重168ct的黄玉当作钻石镶嵌在自己的皇冠上，由此显赫一时。 
　　据传说，在古印度战场上，一位军官把一颗黄玉放到因受重伤和缺水而生命垂危的士兵嘴里，从而使士兵自我感觉伤痛有所缓解，争取了治疗时间，最终使士兵生命得到了挽救。 
　　现今，黄玉(和黄水晶)被作为11月生辰石，象征友爱和希望。