วัดปรมัยยิกาวาสเป็นวัดโบราณ น่าจะสร้างหลังจากสมเด็จพระที่นั่งท้ายสระโปรดให้ขุดคลอง เมื่อ พ.ศ. 2264 ชาวเรือเรียก วัดปากอ่าว จนปี พ.ศ. 2307 พม่าบุกยึดเมืองนนทบุรี กลายเป็นวัดร้างเมื่อปี พ.ศ. 2317 ชาวมอญที่อพยพมาในรัชสมัยสมเด็จพระเจ้ากรุงธนบุรีได้บูรณปฏิสังขรณ์ใหม่ คนมอญเรียกว่า “เภี่ยมุเกี๊ยะเติ้ง” (มอญ: ဘာမုဟ်ဂဒုင် แปลว่า วัดแหลมที่ยื่นไปในน้ำ)
ในปี พ.ศ. 2417 พระบาทสมเด็จพระจุลจอมเกล้าเจ้าอยู่หัว เสด็จพระราชดำเนินทอดกฐินวัดมอญ 4 วัด ได้แก่ วัดปากอ่าว วัดรามัญ (วัดเกาะพญาเจ่ง) วัดบางพัง และวัดสนาม (สนามเหนือ) ต่อมาทรงเห็นว่าวัดปากอ่าวทรุดโทรมมาก จึงโปรดเกล้าฯ ให้ปฏิสังขรณ์วัดใหม่ทั้งวัดโดยรักษารูปแบบมอญไว้ เพื่อถวายเป็นพระราชกุศล สนองพระคุณสมเด็จพระบรมราชมาตามหัยิกาเธอ กรมพระยาสุดารัตน์ราชประยูร ผู้ทรงอภิบาลพระองค์มาแต่ทรงพระเยาว์ และได้พระราชทานนามวัดว่า วัดปรมัยยิกาวาส ซึ่งมีความหมายว่า “วัดของพระบรมอัยยิกา”