המילטון זכור גם בגלל גילוי אלגברת הקווטרניונים, שהיו הדוגמה הלא-חילופית הראשונה (ובמשך עשרות שנים - היחידה) לאלגברה עם חילוק. במשך שנים חיפש המילטון דרך להכפיל שלשות של מספרים, המיוצגות על ידי הבסיס i,j,k. ב-16 באוקטובר 1843, במהלך טיול רגלי לדבלין, הוא גילה את הנוסחאות היסודיות: . הגילוי גרם לו התרגשות שאותה הוא מתאר במכתב לבנו כ"מעגל חשמלי שנסגר"; עוד הוא מספר במכתב: "לא יכולתי לעמוד בדחף - בלתי פילוסופי ככל שזה ישמע - לחרוט בסכין את המשוואות באבן של גשר ברום".
