惠州市第二小學位于惠城區橋東，原址七十年代在塔仔湖邊，后來塔仔湖填平之后，搬到現址。前身為觀瀾書院，即觀瀾小學，是惠州市歷史最悠久的小學。

這是惠州市第二小學前任校長葉偉強先生寫的校史：“觀瀾小學是一間歷史悠久的學校。本世紀二、三十年代，在惠州小學里，觀瀾小學是一所鼎鼎有名的小學。它培養、造就了不少人才，遍布世界和祖國各地。”

清乾隆八年（1743），歸善（辛亥革命后改為惠陽縣）知縣陳哲在縣城西南郊的西枝江畔創建了觀瀾書院。

1903年書院改名為歸善縣高等小學堂;1928年，學校改名為“惠陽縣立第一小學;1940年改名為“惠陽縣鶴峰鎮中心國民學校”;　1948年改名為“惠陽縣縣城鎮中心國民學校”;1950年秋，學校改名為惠州鎮第二小學;1964年11月撤鎮設市，變為惠州市，校名也隨之更名為“惠州市第二小學”;1995年春，學校從橋東的小塘下搬入現址，占地面積8100平方米，建筑面積3168平方米。