2003年7月9日，反對《基本法》第二十三條的集會在香港立法會外舉行，集會人數超過3萬人。當時，立法會議員正在辯論規範足球博彩。當議員走出立法會時，壹些左翼議員遭到示威者的辱罵，而黃則豎起中指，並做出壹個不成文的手勢回擊示威者。因此，他受到了媒體和社會的嚴厲批評，並被戲稱為“中指成員”。
在2004年的立法會財務委員會主席選舉中，黃以28票對30票在前線被劉慧卿擊敗。有人認為早餐派形成的“泛聯盟”反目成仇。
此外，他的妻子是著名財經小說作家梁鳳儀。