硬水の言葉の起源はいろいろあるが「煮豆が硬くなる水」「絹の精錬に使うと絹が硬くなる水」という説がある。これらはどちらも物を硬くする成分を含んでいる水という事実を裏付けるもので硬水と名付けたとみなされる。このような作用をする成分を硬度成分という。
具体的にはカルシウム・マグネシウムが硬度成分として作用する。硬度成分の溶存量で硬水と軟水に区分されるが、明確な定義があるわけではない。本当に軟水といえるのは硬度成分の溶存量が３０ｍｇ/Ｌ（硬度０．８度）程度までは一応軟水とみなす。
　飲料水に最適な水質の限度としては３００ｍｇ/Ｌ（硬度３）まではよいこととなっており、水道法でも許容されている。これらのことから水道水は軟水ではないといえる。
　日本の河川水、水道水の硬度は２～３度程度であるが、水源または地域によって、かなり隔たりがある。硬水は工業用水・生活用水としては不適当なことが多くある。
　我々が扱う厨房機器にとっても、硬水は洗浄機のブースターや湯沸かし器・蒸し器、そしてスチームコンベクションオーブンなど水をお湯に変える機器にはスケール（缶石）を内部に付着させ熱伝導を悪くし、最終的には空焚き状態となり機器を壊す原因となっている。
　また料理にとってもお茶の出やダシの出が悪くなったり、麺類などは粘り気がなくなったりすることがある。
石鹸のおちも悪くなる。
　これらの硬水を軟水に変える対策としては軟水器の取り付けがある。