サーバー障害

曇りときどき雪朝起きたら、8時55分だった…… 三女は横でまだ寝ている…… いつもは5分前には家を出発している時間なのだが……
急いで三女を起こして、朝ごはんを食べさせて、制服に着替えさせて出発したが、9時15分くらいになってしまった。 保育園に着いたら、もう9時半で朝の会的なものが始まってしまっていた。
朝、マクドナルドでくつろぐ時間も無く…… 先日の日記で書いたように、今日からゲームよりも読書を優先しようと思っていた矢先なのに。

仕事ではちょっとしたサーバートラブルが。 とあるサーバーへ、12月中旬からメールが送れていないとの報告を受けた。
メールログを見ようと思ったら、2台あるうちの1台で、/var/log以下のログのほとんどが0バイトになっていて取れていなかった。 なので、メールログの調査もできなかった。 とりあえず、調査よりも先にログを直さないといけない、と思ったのだが、なぜ取れていないのかがわからない。
CentOS7のログ記録はsyslog, rsyslogd, journaldとか、いろいろ調べて、サービスが起動しているのか調べようと思ったのだけど
「systemctl status systemd-journald」とするべきところを、混乱していて「systemctl sytemd-journald status」と何度も打てエラーメッセージが出ていた。
で、文字は忘れてしまったのだけど、赤いメッセージでいくつか警告みたいなのが出てたので、サービスを起動し直そうとしたら、今度はなぜかサービスが起動できない。
これもエラーメッセージは忘れてしまったのだけど「パーミッションがありません」的な英語のメッセージだった。 root権限はあるのに、なぜ起動できないのか混乱したが、/runのディスク使用量が100%になっていることが原因だとわかった。 なぜ/runが100%なのかは、/run/logが膨れ上がって、そこで容量を食ってしまっていた。
だが、どう対処すればいいのかわからないので、とりあえずサーバーを再起動することにした。 ロードバランサから、このサーバーを外して再起動。
すると/runの使用率が2%になり、正常にログが記録されるように戻った。 多分、書き込み待ちのログが/run/logにひたすらと溜め込まれて、容量オーバーを起こしてログが記録できなくなったのだな……
再起動するタイミングで消されたので、上手くやれば再起動せず、そこに溜まっていたログを、/var/logに移せたと思うが、まぁいいか。
nginxのログは正常に書き込めていたので、ログを書き込む方式が違うのかもしれない。
そんな苦労をしながら、ようやくメールログを記録することができるようになり、エラーの原因もわかった。 原因は、自サーバーに設定してあるメールのホスト名がDNSで引けないから、相手サーバーから弾かれていることがわかった。 12月中旬までは正常で、それ以降で送れなくなったことに、心当たりがあった。
それは、AWSに移すため、メールのホスト名で使っているドメインのネームサーバーをムームードメインからRoute 53に移したのが丁度その時期。 その際に、いらないレコードは移さなかったのだけど、そのレコードは「有っても無くても関係ないや」と思って、移さなかった。 それが原因で、DNSのレコード追加したら、正常にメールが送れるようになった。
まぁ1ヶ月くらいそんな状態でも気づかないくらいのサービス運営レベルだったのは申し訳ないが、お客さんからも指摘されないし、社内の人も気づかなかった。 ログも全然見てなかったので、ログが止まってることも気づかなかった…… サーバーが生きているか死んでるかの監視は入れてるが、ログ記録や/runの容量の監視はないので、この辺りをちゃんとしないといけないなぁ、と思いながらもどうやってやるのかをこれから調べないといけないし、近々AWSにも移さないといけないので、AWSに移したあとに調べることになりそうだ。

夜はジョギングへ。 ポツポツと雨の降る中だったのだが、今週末に大会があるのに、全然練習してないので危機感が…… 外はメチャメチャ寒いが、たまには頑張らないといけない。
先日の、腹痛の悲劇が起こらないよう祈りながら走る。 2kmほど走った辺りで、雨があられに変わる。 顔にポツポツと当たって顔が痛い…… そして、それはすぐに雪に変わる。 2.5km地点にコンビニがあるのだけど、この辺りの植え込みは薄っすらと白くなっていた。 走っているので体は暑いが、靴が濡れてきたのでつま先が冷たいのと、手袋をしていても手が冷たい、顔も冷たい。
そんな中6km走って30分41秒で、キロ5分7秒ペースだった。 ラスト2kmは4.54、4.58と、それほど速くない4分台のペースだったのに、めちゃめちゃ苦しかった。 2週間もまともに走ってないだけで、こんなに落ちるのだな…… 週末の大会が不安だ…