同じ動作をし、同じ機能を果たすのであれば、音は静かなほうがいいのは当然です。
PCはサーバルームに必ずあるわけではありませんから、なおさらです。以前のサーバといえば風量確保前提で、1Uといわれる薄いサーバほどうるさい傾向がありました。電源を入れた途端に「うるさい」と言われたこともあります。

動作中に発生する音の大半はファンが出すものです。ファンは直径が小さいほど、回転数が高いほどうるさくなります。風量を確保して静かにするには大きなファンをゆっくり回す(熱帯の古いホテルで天井に設置されたゆっくり回っているファンみたいな感じに)のがいちばんですが、それができないのが常。
小さくて回転数が増えてもうるさくない低騒音型のファンを使用する、内部のエアフローを工夫して熱がたまらないようにする、排熱が必要な時だけ高速で回転するようにして、通常は低回転で動作させる。いろいろな手段を講じて音を小さくするようにします。

それでも足りなければ、発生する熱を抑える。低消費電力タイプのCPUを使い、HDDを選択し。そしてある程度高温でも動作する、つまりファンの負荷をあまり高くしなくても正常に動作する部材を使用する。
以前に比べて、CPUもHDDも発熱量は少なくなりました。ドライブについていえば、HDDより高温でも正常動作するSSDも、だいぶ使いやすくなってきました。
SSDはHDDと違って可動部分がありませんから、これも静音化に貢献します。
数年前の状況が信じられないくらいに、サーバもクライアントPCも静かになりました。



…だからといって、睡眠の妨げになるからエラー発生時のアラーム音を止めてくれ、というのはどうかと思いますが。
もちろん音を鳴らないようにしてもエラーはわかるようになっていますけれど。