ナニゴケのNNを新しくしました。
ナニゴケ – 苔の種類を判別するWEBアプリ
https://www.nanigoke.net/
今回は、判別可能な種に、「スズゴケ」、「ホソオカムラゴケ」、「ミズシダゴケ」、「ヤマトフタマタゴケ」が追加されました。26900枚だったTrainのデータ数は、29200枚になっています。ネットワークの構造などは特に大きな変更はありませんが、今回はデータ拡張をめいいっぱい丁寧にやるようにしてみました(とは言え、元々かなり作りこんでいたので、これでどうということもあまり無いと思いますが…)。そして、例によってTensorFlow.jsも最新のバージョンにしています。
コロナが落ち着いたら、日本各地に苔旅行に行きたいな…
7路盤スペシャルバージョンのコミを、9目から8目に変更しました。
7路盤スペシャルバージョン
https://www.cosumi.net/seven.html
コミを変更した理由については、ぜひこちらをご覧ください。
http://www.perfectsky.net/blog/?p=494
また考えが変わったら、その時再度変更する可能性はありますが、とりあえずはこれで負けないように定石を追加し続けたいと思います。
あと、現時点での最新の定石もこちらで公開しています。
http://www.perfectsky.net/blog/?p=106
[追記 2021/07/11]
難しい変化に飛び込まなくてもよくなったからでしょうか、主だった手順ではもうあんまり負けてないですね。現時点では、日本ルールの7路盤は盤面8目だと、私はかなり強く思っています。12年以上前に始めた7路盤スペシャルバージョン、少し時間が掛かってしまいましたが、これでだいたい一仕事終わりかなとも感じています。
white shadeをアップデートしました。
white shade – 囲碁ブラウザゲーム COSUMI
https://www.cosumi.net/whiteshade.html
white shadeのVNの構造に、かなり小さな、けれどもたぶんだいぶ良いと思われる変更を加えました。実際、ロスは少し下がったのですが、以前のバージョンと対局させて強さを計測しても全く変わっていなくてちょっと意外… そういうわけなので、使うかどうか迷ったのですが、手がきれいにはなっているだろうと信じて、アップデートすることにしました。さらに、TensorFlow.jsも最新のバージョンに上げておきましたが、それ以外は基本的に以前と同じです。
今回のアップデートで、一応white shadeをいじるのは最後のつもりです。そんなに強くなくても、きれいにちゃんと打ってくれたら嬉しかったのですが、私にはちょっと難しかったですね。ただし、white shade諦める代わりとして、オンライン版の方でKataGoが使えないかを、時間のある時に少し調べてみます。サーバのリソースもできるだけ無駄なく使いたいので、なんとか実現させたいですね。COSUMI始めてからもう13年が経過したのですが、これがCOSUMIでの最後の大きな仕事でしょうか？
それにしても、今回の変更で少しも強くなっていないというのがまだちょっと信じられないので、CGOSでも少し動かしてみたいと思います。
[追記 2021/07/11]
こちらにも追記しましたが、CGOSで動かしてみました。今回の改良は小さい碁盤サイズで有効だと思われるものだったのですが、9路盤ではやはり少し強くなっているように見えます。手元でもう一度確認してみて、いけそうであれば9路盤にレベル6を戻したいと思います。
ナニゴケのNNを新しくしました。
ナニゴケ – 苔の種類を判別するWEBアプリ
https://www.nanigoke.net/
今回は、判別可能な種に、「アツバチョウチンゴケ」、「コゴメゴケ」、「ジンガサゴケ」、「ツクシナギゴケモドキ」が追加されました。24300枚だったTrainのデータ数は、26900枚になっています。ネットワークの構造は、ReLUを使用していた箇所をすべてSwishに変更してみました。とりあえず、悪くなってはないかな？ そして、TensorFlow.jsは最新の3系にバージョンを上げました。動かなくなったりしないか少し心配したのですが、特に問題無さそうです。
いろいろあって、SONYのα6400と18135(と70350)を買ってしまいました。今までとは少しテイストの違う写真が撮れそうなので、期待しています。
ここに書くのが少し遅くなりましたが、3月末に、COSUMIで使用してた専用サーバ1台をAmazon EC2 c6g.4xlargeに変更しました。
囲碁ブラウザゲーム COSUMI
https://www.cosumi.net/
全体としてほんの少しだけ処理能力が下がっていますが、大きな違いはありません。
解約した専用サーバは8年以上も借りていたらしくてびっくり！ 元はメインだったのが、後輩の現メインサーバが来てからはサブとして使っていたものです。8c16tが2発でそれだけの期間ですから、冗談抜きに歴史上一番たくさん囲碁のことを考えたコンピュータなのでは？ 50億手ぐらい(?)は打っているような気がしますが、それが対局としてなら、対コンピュータなのが普通であって、対人間でこれだけっていうのは価値があると思います。詳しいことは本当によくわかりませんが、優秀な君のことだから、きっと次の仕事もあるのでしょう。頑張ってね。今まで本当にありがとう。
ナニゴケのNNを新しくしました。
ナニゴケ – 苔の種類を判別するWEBアプリ
https://www.nanigoke.net/
今回は、判別可能な種に、「キャラハゴケ」、「コツクシサワゴケ」、「トサホラゴケモドキ」、「ノコギリコオイゴケ」、「ホソバミズゼニゴケ」が追加されました。21300枚だったTrainのデータ数は、24300枚になっています。また、前回のバージョンでは選択範囲の中央を中心とした計2回のpredictを行っていましたが、今回は中心もずらしつつ計6回のpredictを行うようにしました。以前にも書きましたが、ナニゴケでは2×2のSENetを使用していてそれのことがあるので、predictする範囲の中心をずらすのは、結構良いのではと考えています。ただし、predictの回数が大幅に増えたので、代わりにNNのサイズは少し小さくしてあります。トータルではかなり重くなっていますが、できるだけ一発で良い判別ができたほうが、結果的にユーザにとっては速いと思うので、これでいいと思います。また、predictの回数が増えたので、断定的なことを言いにくくもなって、これも望ましい動作だと思います。そしていつものように、TensorFlow.jsも最新のバージョンに上げておきました。
年越して1月も終わろうかという時に言うことではないのですが、「この秋は本当に本当にやってやる」と思ってたんですよ… でも、最初の方は暑いし、最後の方は寒いし、冷蔵庫にはビールが入ってるしで(笑)、なかなか目一杯で頑張れませんでした。うーん、これ終わらないですね… 次回のアップデートは、5月6月の苔シーズンの直前を予定しています。
なんとかかんとか、white shadeをTromp-Taylorな終局とPositional Superkoに対応させて、以前から一度は挑戦してみたかったCGOSで、今現在、動かさせていただいています。
Computer Go Server
http://www.yss-aya.com/cgos/
9路盤と13路盤でそれぞれひとつずつ動かしていて、player nameは9路盤がws-201217_9lv5、13路盤がws-201217_13lv6です。
Crosstable for ws-201217_9lv5
http://www.yss-aya.com/cgos/9×9/cross/ws-201217_9lv5.html
Crosstable for ws-201217_13lv6
http://www.yss-aya.com/cgos/13×13/cross/ws-201217_13lv6.html
それぞれ、こちらのレベル設定と同じに、内部の設定を合わせていますが、Tromp-Taylorな終局とPositional Superkoに対応させた関係で、厳密には全く同じ強さとは言えません。また、いろいろと無駄に重くもなっているのですが、まあそれでも、ほとんどノータイムで打つと思います。少し話変わりますが、以前から、入門者の方には純碁よりTromp-Taylorの方がいいのでは、と思っています。個人的には、どんどん推していきたいです。普及において、ルールは本当に本当に重要だと思いますが… あと少し気になったのですが、例えばfloodgateにはhumanがいることもあると思いますが、CGOSは全くいないと思っていいんですよね？ 申し訳ないですが、終局は決してきれいではありません…
最初、すんなり動かなくて少し頭を抱えたのですが、どうやら、genmoveに対するレスポンスの末尾が、改行2つではなく3つだった(今の今まで、全く気づかなかったよ…(笑))のが、関係していたようでした。それ以外にも、Stopに対して一局やらかしてしまいましたが、それに関しても修正済みです。できるだけご迷惑が掛からないように、またおかしかったらできるだけすぐに止めれるよう気をつけますので、どうかよろしくお願いいたします。
[追記 2020/12/18]
13路盤でAya786m_10kに一局、時間切れ負けしていますが、ログを見る限りエンジンの問題ではなさそうでしょうか？ 続けて次の対局も打てていたみたいですが、一旦OSごと再起動しました。
[追記 2020/12/21]
一旦、止めました。また少し期間を空けてから動かします。9路盤と13路盤の両方とも、最終的には少なくとも1000局は打たせるつもりにしています。
[追記 2021/02/12]
ここ最近も少し動かしていたのですが、とりあえず両方とも1000局を超えました。現時点で、9路盤が1630局打ってレートが2091、13路盤が1535局打ってレートが2474です。多様なプレーヤーがいることが、正確なレートの測定に不可欠だと思いますので、これからも可能であれば、定期的にCGOSでwhite shadeを動かす予定です。
[追記 2021/07/11]
ここ最近も、white shadeをCGOSで動かしていました。できれば最新のバージョンと以前のバージョンの両方を同時期にと思い、コンフィグファイルでpriorityを設定してやったりもしました。あとで見返した時のために書いておくと、現時点で、ws-201217_9lv5が2730局打ってレートが2124、ws-210530_9lv5が2962局打ってレートが2196、ws-201217_13lv6が1940局打ってレートが2468、ws-210530_13lv6が1265局打ってレートが2445です。当たり前ですけど、CGOSって対局数がなかなか稼げなくて辛いですね…
white shadeをアップデートしました。
white shade – 囲碁ブラウザゲーム COSUMI
https://www.cosumi.net/whiteshade.html
今までのバージョンのwhite shadeが全体的に大きく/重くなりすぎてしまっていたので、今回、大幅に小さく/軽くしました(この変更はいろいろ考えてのことなのですが、COSUMI的には今回のバージョンより多くのリソースを食ってしまうものは基本的にNGだと考えています)。今まで動作が怪しかった環境でも、きちんと動くようになっている可能性が、結構あると思います。ただし、この結果、本当に申し訳ないのですが、9路盤のレベル6に関しては、維持することができなくなったので削除しました。あともう一回ぐらいは頑張ってみようかなと思っているので、その時はまた元に戻せるかもしれませんが、とりあえず今現在は無理です。もともと11路盤と13路盤には少し余裕があったのですが、9路盤にはほとんど無かったので、どうにもなりませんでした。
あと、変なタイミングでパスすることがちょくちょくあるのですが、これが減るように少し変更を加えました。実際にどれぐらい効果があるのかは、また時間があったら調べてみます。
さらに、TensorFlow.jsも最新のバージョンに上げておきました。
それから、かなり長い間ほったらかしだった、囲碁ベンチマークも併せてアップデートしました。詳細はこちらに追記しています。今の時期、スマホで5局ぐらい打たせるといい感じにカイロになりますので、ぜひお試しください(笑)。
ベッドに寝転がって、ぼけーっとベンチマーク動かして眺めていると、自分なんかがGTX 1060一発でよくこんなの作れたなと思います(最近は苔もやっていたし…)。5年前の自分にwhite shadeを見せてもまず信じてもらえないだろうとか、1060ではなく1070買っていたらもはや別の人生だったのではとか、妄想が捗る…(笑) ちょうど今、年季の入ったメインPCを新調しようかなと少し考えていて、もし新しくしたらそれは間違いなく別の人生ですが、まあとにかく面倒なんですよね。もう壊れるまで今のままでいいかな…
本日、26日23:00頃から、メンテナンスのためCOSUMIを一時止める予定にしています。
囲碁ブラウザゲーム COSUMI
https://www.cosumi.net/
27日の朝までには、なんとか終わらせるつもりですが、絶対の自信はありません。COSUMIにアクセスできなければそういうことだと思ってください。
[追記 2020/11/27 9:50]
えらく時間が掛かってしまいましたが、一応終わりました。遅くなってすみません。ではでは、オヤスミナサイ…
[追記 2020/11/27 23:00]
今まで使っていたFuegoのバージョンr1670が、今回ビルド出来なかったので、代わりに一番新しいr2038を使うことにしたのですが、それででしょうか、Fuegoがなんか遅いですね。かなり以前に調べた時には、r1670と最新のとで、ほとんど何にも違いが無いように感じていたのですが、そうでもなかったのかな？ かなり不味そうなのでこれはすぐに調べます。あと、これはまた別件になりますが、今月の10日～21日あたり、サブのサーバのディスクが溢れていて動いていませんでした…(泣) 本当にごめんなさい。今後は気をつけます。
[追記 2020/11/28]
r1670と最新のとで、ほとんど何にも違いが無い
っていうのは、どうやら私の記憶違いだったようで、なにがどう違うのかは、ちゃんと調べてみないとよくわかりませんが、同じplayout数では、r2038の方がはっきり遅そうです。とりあえずr1670のビルドが通ったので、そちらに戻しました。ご迷惑をおかけして申し訳ありませんでした。
COSUMIで使用していたSSL/TLS証明書の期限が近づいて来ていたので、このタイミングでRapidSSLからJPRSに乗り換えました。
囲碁ブラウザゲーム COSUMI
https://www.cosumi.net/
併せて、TLS 1.0とTLS 1.1を切って、さらにcipher suiteも大幅に制限しました。
# Apache
SSLProtocol all -SSLv2 -SSLv3 -TLSv1 -TLSv1.1
SSLCipherSuite ECDHE-ECDSA-AES128-GCM-SHA256:ECDHE-RSA-AES128-GCM-SHA256:ECDHE-ECDSA-AES256-GCM-SHA384:ECDHE-RSA-AES256-GCM-SHA384:ECDHE-ECDSA-CHACHA20-POLY1305:ECDHE-RSA-CHACHA20-POLY1305:DHE-RSA-AES128-GCM-SHA256:DHE-RSA-AES256-GCM-SHA384この設定はこちらのIntermediateを参考にしたものです。
Mozilla SSL Configuration Generator
https://ssl-config.mozilla.org/
3年前も同じくIntermediateを参考にしたはずですが、状況がかなり変わったんでしょうね、その時と比較すると大幅に厳格になっているように思います。COSUMIはそんなサイトではありませんので、そこまでカリカリに設定する必要もないのですが、もし仮にこれでアクセスできない環境があっても、そんな環境はそもそも対局ゲームなどはまず動きませんので、これで良いと考えています。
JPRSの証明書はさくらで990円/年と十分に安くて良かったです。逆に、最近は有効期間が1年での証明書しか駄目になったようで、毎年この作業をしなければならないのは、結構面倒ですね。
ナニゴケのNNを新しくしました。
ナニゴケ – 苔の種類を判別するWEBアプリ
https://www.nanigoke.net/
今回は、判別可能な種の追加はありません。20700枚だったTrainのデータ数は、21300枚に、ネットワークの構造は、少し気になっていたところがいくつかあったのでそれを修正しました。いつも通り、TensorFlow.jsのバージョンも上げてます。
最初のリリース時から、「学習データの拡充」と「学習方法の改良」の両方を行ってきたわけですが、その内、より多くの労力が掛かったのは、断然、前者の方ですが、実際に精度を上げたのはどちらかといえば後者だったのではと考えています(今思うと、最初の方のバージョンはちょっと雑過ぎたかも(笑))。ところが、気づけば今や、手元のデータに対してのロスはいくらも無くなってしまい、もはや、コードを書いて何とかできる余地はほとんどありません。ここから先は、基本的に「学習データの拡充」のみで精度を上げていかないといけないのかと思うと、だいぶ頭が痛いです… まあ、もう少し涼しくなったらたぶん本気出します。それまではアニメとビールの毎日かな… 次回のアップデートは、かなり先になる予定にしています。
このブログへのコメントで教えていただいたのですが、7路盤の次の局面で白からAに切る手があるようです。ちなみに今までは単にBに押さえるぐらいと考えられていたはずです。
このキリがあっては、どうもこの局面から黒が盤面9目勝つのも難しいようで、もしも仮にそうだとすると、今まで悪手だと思われていた白6手目のカタツギが唯一の最善手となり、唯一の最善手だと思われていた黒3手目のハネは、ノビと同じ価値になります(併せて、これも最善手のひとつだと思われていた白4手目でのキリチガイは悪手となります)。そしてそれは、従来から言われてきた「日本ルールの7路盤は、最善尽くして黒の盤面9目勝ち」という結論が覆されることを意味しますので、これは結構大変な話ではないでしょうか？ ぜひ強い方に調べて頂けたらと思います。
いつも書いていますが、7路盤についてはこちらが詳しいのでどうぞ。
七路盤の研究
http://orange.zero.jp/qin.olive/7ro/
7路盤に関しては、もう今となっては、7路盤専用に強化学習してしまえば、結構簡単にそれなりの答えが出そうな気もしますね。
[追記 2021/6/10]
この手を教えていただいてからも、オープニングブックの修正をちょくちょく行っていたのですが、現時点での私の感覚としては、盤面8目が答えのような気がしています。「勝てるものなら勝ってみな」の7路盤スペシャルバージョンも、コミ8目に変更することを少しだけ考えてみます。
[追記 2021/6/13]
7路盤スペシャルバージョンのコミを8目に変更しました。
ナニゴケのNNを新しくしました。
ナニゴケ – 苔の種類を判別するWEBアプリ
https://www.nanigoke.net/
今回は、判別可能な種に、「アオハイゴケ」、「アズマゼニゴケ」、「ヒメコクサゴケ」が追加されました。また、19600枚だったTrainのデータ数は、20700枚になっています。ネットワークの構造は、実質的に変更なし。TensorFlow.jsは、最新のバージョンに上げておきました。
ナニゴケ始めて1年が経過しましたが、さすがに一番最初のリリース時と比べると、手元の数字などは段違いに良くなっています。そろそろ少しぐらいは信じてもらっても良いかもしれません(笑)。
かなり長い期間、COSUMIは専用サーバ3台で運用してきたのですが、これを7月末までに2台に減らします。
囲碁ブラウザゲーム COSUMI
https://www.cosumi.net/
3台目のサーバというのは、実質的にアクセスの多い時間帯の9路盤～13路盤のレベルの高い対局のためだけにあるようなものだったのですが、さすがにそのためだけに年40万+はちょっと辛いので、解約することにしました。本当はもう少し早い時期に行う予定だったのですが、コロナの影響でアクセスがかなり多くなっていたので、ここまで延期することになってしまいました。未だにアクセスは高止まりしたままなので、解約するのは正直かなり怖いのですが、もしもどうにもならないようなら、Amazon EC2辺りを特定の時間帯だけ使おうかなと考えています。今回解約するサーバは6年間以上借りてたみたいで、確かに初期費用も小さくはなかったですが、それでもそろそろ割高になってきそうなのも理由のひとつで、実はまだちゃんと調べてはいないのですが、以前ほどはEC2などに価格の優位性はないはずです。
ただ、一番理想的なのは、9路盤～13路盤はwhite shadeがごっそり受け持ってくれることで、これをなんとかしたいのですが、中途半端な誘導ではみなさんほとんど打ってくれないんですよね…(泣) 私の環境からだとほぼ問題ないのですが、動作しないことも多いのでしょうか？ 月末までにいろいろよく考えてみます。
あと、これはかなり今更ですが、サーバのリソースがたっぷり余る時間帯は、逆にそれを贅沢に使ったなにかをやってみたい気もしています。
[追記 2020/7/27 7:50]
やはり常時サーバ2台で済ますのはさすがにちょっと無理があるように思うので、曜日問わず、15:00から18:00まで、EC2をサポートに使う予定です。とりあえずのテストとして、今日(と明日?)は、その時間帯以外、2台でいってみて、データ取れたらまた考えます。
[追記 2020/7/28 8:00]
いやあ、昨日はちょっときつかったですね… とりあえず、今日も少しだけ設定を変更した上で、15:00～18:00以外はサーバ2台でいきます。
[追記 2020/7/29]
15:00～18:00のみというのは、どうも虫がよすぎたようです。少し薄くても構わないので10:00～22:00は必要ですね。しかしそうなると、EC2にはリザーブドインスタンスとかがありますから、時間帯を限らず24時間動かしっぱで良いですね。って、それはただのサーバの乗り換えでは…
ここ最近、EC2のコストパフォーマンスをちょくちょく調べていたのですが、先月出たばかりのC6gというArmのCPUが載ったインスタンスが、COSUMI的に激安なんですよね。24時間動かし続けても、ぜんぜん今のサーバより安そうです。なので、その辺りが落としどころかな… しかしなんにせよ、「サーバ解約する前に良く調べておけよ」って思いました(笑)。
[追記 2020/8/1]
昨日の朝、専用サーバ3台から専用サーバ2台+c6g.4xlargeに変更しました(間に合って良かった…)。今のところは特に問題ないようです。ほんの少しだけ全体の処理能力が落ちましたが、たいしたほどではありません。
ナニゴケのNNを新しくしました。
ナニゴケ – 苔の種類を判別するWEBアプリ
https://www.nanigoke.net/
今回は、判別可能な種に、「アカイチイゴケ」、「コモチフタマタゴケ」、「ジャバウルシゴケ」、「トサカホウオウゴケ」、「ナガサキホウオウゴケ」、「ナメリチョウチンゴケ」が追加されました。また、16400枚だったTrainのデータ数は、19600枚になっています。ネットワークの構造は、微調整程度の変更。TensorFlow.jsのバージョンは、最新の2系にしました(どう変わったのかはぜんぜん知らん(笑))。それから、学習データの水増しにおいての左右フリップを、20%だけ行うようにしました。これ、今まで私は絶対絶対絶対絶対やりたくなかったのですが、あまり自己満足だけを追い求めるのは、使ってくださる方たちに悪い気がして、今回少し妥協しました。でも、今後は少しずつ割合を減らしていって、いつかはまた0%に戻したいと思います(「じゃないとダメ」って苔が言ってるような気がする…)。ちなみに、詳しく調べたわけではありませんが、今回ロスがぐっと減ってて少しムカついています(笑)。
その他、今回はさまざまな細かい修正をいれているのですが、主なものだけ列挙しておくと、まず、iOSからファイルを読み込んだ時に画像が回転することがもともとあって、これは一応すでに対応済みだったのですが、最新のiOS(バージョン13.4から?)ではなにか変わったのでしょうか、また再発していたので、使っていたJavaScript Load Imageっていうライブラリを最新のものにして直しました(ただ、ちゃんと調べていないので、なにか勘違いしているかもしれません)。それから、判別結果に表示される種名はGoogleの検索ページへのリンクにしておきました。それから、PCやスマホの横向き画面では、5位まで表示していた判別結果を7位までとしました。さらにその表示形式の場合のみ、判別に掛かった時間を下に小さく表示するようにもしましたので、ちょっとしたベンチマークとしてお使いください。
1年ほど前ナニゴケを初めてリリースした時に、1年後の目標を「判別できる種の数120・Trainに使用したデータ20,000枚」と書きました。今回のバージョンがその課題の提出期限だと思い、ちょうど苔シーズンでもあるのでそれにも間に合わせたいと結構がんばったつもりです(ばたばたしていて、少し遅れましたが…)。でも、「Trainに使用したデータ20,000枚」はだいたい達成しましたが、「判別できる種の数120」にはぜんぜん届きませんでしたね。ごめんなさい。まあ少しだけ言い訳させてもらうと、やっぱり終盤のコロナが痛かった… 一番最後にバスに乗って苔の写真を撮りに行ったのは、去年の年末だったようで、その後は行動範囲が大幅に制限されてしまいました。今年に入ってから、私はまだ一度もタマゴケを見ていないのですが(！)、そんな春を過ごすことになるとは年始の頃には想像もできなかった… ただ、そのかわり徒歩圏内の身近な苔たちと向き合う良い時間になったのも事実です。半年前の自分が聞いたらびっくりしそうな、いくつもの発見がありました。探せばあるんですよ。ほんとにね…
一応、今回のアップデートで、いろいろ気になっていた細かい部分は作り終えました。気分的には、一段落です。ここから先は、もうただひたすらに学習データを増やしていくだけだと思っているので、やらないといけないことがはっきりしてずいぶんと気が楽になりました。
ナニゴケにはかなりの時間を割いてしまい、もうすでにCOSUMIに掛けた時間を超えちゃったんじゃないかと思っているのですが、なんか、やればやるほどゴールが遠くなるような感覚があって、じゃあなぜそうなるのかというと、自分で勝手にゴールを遠ざけているからなんですよね。一番最初に苔をやってみようと思いついた時(本当に遠い昔のことみたい…)に考えていたゴールは、もうとっくに通り過ぎているような気がします。別に自分が後ろに後退しているわけじゃない。まあ、いつか納得いくものができるんでしょうが、どうせならできるだけ早めのほうがいいなとは思います。