<?xml version="1.0" encoding="utf-8" standalone="yes"?><rss version="2.0" xmlns:atom="http://www.w3.org/2005/Atom"><channel><title>Conference | Democratizing Data</title><link>https://b94feae1.chezo-uno.pages.dev/categories/conference/</link><atom:link href="https://b94feae1.chezo-uno.pages.dev/categories/conference/index.xml" rel="self" type="application/rss+xml"/><description>Conference</description><generator>Hugo Blox Builder (https://hugoblox.com)</generator><language>en-us</language><copyright>© Aki Ariga 2017-2025</copyright><lastBuildDate>Fri, 15 Jul 2022 15:16:04 -0700</lastBuildDate><image><url>https://b94feae1.chezo-uno.pages.dev/media/icon_hu_9ca82a90e0d162db.png</url><title>Conference</title><link>https://b94feae1.chezo-uno.pages.dev/categories/conference/</link></image><item><title>機械学習工学研究会夏合宿2022でMLインフラ運用WGを終了しました</title><link>https://b94feae1.chezo-uno.pages.dev/post/2022-07-15-finished-mlse-infra-wg/</link><pubDate>Fri, 15 Jul 2022 15:16:04 -0700</pubDate><guid>https://b94feae1.chezo-uno.pages.dev/post/2022-07-15-finished-mlse-infra-wg/</guid><description>&lt;p>2019年から土橋さん (&lt;a href="https://twitter.com/masaru_dobashi" target="_blank" rel="noopener">@masaru_dobashi&lt;/a>) と共同幹事をしていた、機械学習工学研究会 (MLSE) の「本番適用のためのインフラと運用WG」を、6月30日～7月2日に開催した&lt;a href="https://mlxse.connpass.com/event/248383/" target="_blank" rel="noopener">MLSE夏合宿&lt;/a>で終了しました。&lt;/p>
&lt;h2 id="2022年mlse夏合宿での議論">2022年MLSE夏合宿での議論&lt;/h2>
&lt;p>今回の夏合宿では、過去開催してきた討論会やカンファレンスで上がっていた、本番適用をするための課題をリストアップし、現在も課題となっている部分を中心に議論をしました。&lt;/p>
&lt;p>議論に使ったMuralはGitHubにexportしてあります。&lt;/p>
&lt;p>&lt;a href="https://github.com/mlse-jssst/InfraOpWGProceedings/blob/master/20220702_SummerCamp/MLSE_InfraOPWG_SummerCamp_Output.pdf" target="_blank" rel="noopener">https://github.com/mlse-jssst/InfraOpWGProceedings/blob/master/20220702_SummerCamp/MLSE_InfraOPWG_SummerCamp_Output.pdf&lt;/a>&lt;/p>
&lt;p>黄色以外の色のものは当日追加したトピック、左下の赤で囲まれた部分はさらにそのまとめになります。&lt;/p>
&lt;p>活動をまとめていて気づいてきたのは、多くのMLOpsツールを提供するベンチャーやクラウドベンダーによって、自動化をするためのOSSやマネージドサービスはそろってきているものの、組織やプロジェクトのフェーズごとに必要なものが違ってくるということでした。&lt;/p>
&lt;p>フェーズによるML基盤の変遷としては、Karteの基盤の変遷の話を思い出しました。&lt;/p>
&lt;iframe class="speakerdeck-iframe" frameborder="0" src="https://speakerdeck.com/player/d2b7118ec5eb461fbe8c79bb6343f6b8" title="History of the ML system in KARTE" allowfullscreen="true" mozallowfullscreen="true" webkitallowfullscreen="true" style="border: 0px; background: padding-box padding-box rgba(0, 0, 0, 0.1); margin: 0px; padding: 0px; border-radius: 6px; box-shadow: rgba(0, 0, 0, 0.2) 0px 5px 40px; width: 560px; height: 315px;" data-ratio="1.7777777777777777">&lt;/iframe>
&lt;p>少人数でのML基盤としてはCADDiのマネージドな環境を駆使した基盤も参考になると思います。&lt;/p>
&lt;iframe class="speakerdeck-iframe" frameborder="0" src="https://speakerdeck.com/player/c572de6c163a4b6fb9b268d2a9c1417a" title="CADDi AI LabにおけるマネージドなMLOps" allowfullscreen="true" mozallowfullscreen="true" webkitallowfullscreen="true" style="border: 0px; background: padding-box padding-box rgba(0, 0, 0, 0.1); margin: 0px; padding: 0px; border-radius: 6px; box-shadow: rgba(0, 0, 0, 0.2) 0px 5px 40px; width: 560px; height: 314px;" data-ratio="1.78343949044586">&lt;/iframe>
&lt;p>また、組織やチーム作り自体が大きな障壁になりうる話も頻繁に聞いており、これは研究者的なモデル開発をする人と運用をするdeveloperをチームとしてどう構成すればいいのか、どうやってナレッジや成果物を共有すればいいのか（研究開発部門が子会社など）、チーム作りの課題が浮き彫りになりました。&lt;/p>
&lt;p>あとは、機械学習やデータを活用したプロダクトづくりの文化の醸成も、銀の弾丸がない中で各社試行錯誤していることがうかがえました。これは、プロジェクトのKPI設計をビジネスサイドに理解してもらう難しさや、作り切りでOKだった従来型のソフトウェア製品とは違った変化に対応し続ける必要がある機械学習システムの「運用」の理解を得る難しさが課題に挙げられました。&lt;/p>
&lt;h2 id="振り返ってみて">振り返ってみて&lt;/h2>
&lt;p>企業の事業部門に在籍しながら3年というスパンで学会仕事をするのは、なかなか大変だったなというのを改めて実感しました。COVID-19による社会情勢の変化、海外移住（夏合宿のような長時間イベントは時差的に厳しい）など個人の状況の変化、会社のチームの異動（上司が変わるたびに説得をする必要がある）と、長期的に継続する社外活動というのは思うようには進まないものだなという当たり前のことを感じました。&lt;/p>
&lt;p>もう一回程度、事例共有カンファレンスがしたかったですが、最近では&lt;a href="https://mlops.connpass.com/" target="_blank" rel="noopener">MLOps勉強会&lt;/a>でそういった話が日本語でも展開されているので、そちらにも期待です。&lt;/p>
&lt;h2 id="今後について">今後について&lt;/h2>
&lt;p>今後は、（我々も事前にすり合わせたわけではないのですが）ちょうど&lt;a href="https://twitter.com/K_Ryuichirou" target="_blank" rel="noopener">杉山さん&lt;/a>をはじめとする皆さんがこの夏合宿から開始した、&lt;a href="https://mlxse.connpass.com/event/251751/" target="_blank" rel="noopener">機械学習オペレーションWG&lt;/a>に引き継がれていきます。今後の活動が楽しみです。&lt;/p>
&lt;h2 id="過去の活動の様子">過去の活動の様子&lt;/h2>
&lt;div class="iframely-embed">&lt;div class="iframely-responsive" style="height: 140px; padding-bottom: 0;">&lt;a href="https://chezo.uno/post/2018-05-17_mlse-kickoff/" data-iframely-url="//iframely.net/eSKNDTE">&lt;/a>&lt;/div>&lt;/div>&lt;script async src="//iframely.net/embed.js" charset="utf-8">&lt;/script>
&lt;div class="iframely-embed">&lt;div class="iframely-responsive" style="height: 140px; padding-bottom: 0;">&lt;a href="https://chezo.uno/post/2020-07-11-mlse-summer-workshop/" data-iframely-url="//iframely.net/roy2DFa">&lt;/a>&lt;/div>&lt;/div>&lt;script async src="//iframely.net/embed.js" charset="utf-8">&lt;/script>
&lt;div class="iframely-embed">&lt;div class="iframely-responsive" style="height: 140px; padding-bottom: 0;">&lt;a href="https://chezo.uno/post/2020-11-10-mlse-conference/" data-iframely-url="//iframely.net/tRnxnhX">&lt;/a>&lt;/div>&lt;/div>&lt;script async src="//iframely.net/embed.js" charset="utf-8">&lt;/script></description></item><item><title>機械学習工学研究会の「機械学習基盤 本番適用と運用の事例・知見共有会」を開催しました</title><link>https://b94feae1.chezo-uno.pages.dev/post/2020-11-10-mlse-conference/</link><pubDate>Tue, 10 Nov 2020 22:18:19 +0900</pubDate><guid>https://b94feae1.chezo-uno.pages.dev/post/2020-11-10-mlse-conference/</guid><description>&lt;p>&lt;a href="https://twitter.com/masaru_dobashi" target="_blank" rel="noopener">@masaru_dobashi&lt;/a>さん共同で、機械学習工学研究会（MLSE）本番適用のためのインフラと運用WG主催の、「機械学習基盤 本番適用と運用の事例・知見共有会」をオンライン開催しました。&lt;/p>
&lt;p>イベントのconnpassは以下のリンクです。
&lt;a href="https://mlxse.connpass.com/event/187583/" target="_blank" rel="noopener">機械学習基盤 本番適用と運用の事例・知見共有会&lt;/a>&lt;/p>
&lt;p>&lt;a href="https://twitter.com/wakame1367" target="_blank" rel="noopener">@wakame1367&lt;/a>さんによるツイートのまとめはこちらです。
&lt;a href="https://togetter.com/li/1619107" target="_blank" rel="noopener">機械学習基盤 本番適用と運用の事例・知見共有会 ツイートまとめ&lt;/a>&lt;/p>
&lt;h2 id="youtubeの動画">YouTubeの動画&lt;/h2>
&lt;p>YouTube Liveの配信はアーカイブとして見ることができます。&lt;/p>
&lt;div style="position: relative; padding-bottom: 56.25%; height: 0; overflow: hidden;">
&lt;iframe allow="accelerometer; autoplay; clipboard-write; encrypted-media; gyroscope; picture-in-picture; web-share; fullscreen" loading="eager" referrerpolicy="strict-origin-when-cross-origin" src="https://www.youtube.com/embed/nNFCc3nowfg?autoplay=0&amp;amp;controls=1&amp;amp;end=0&amp;amp;loop=0&amp;amp;mute=0&amp;amp;start=0" style="position: absolute; top: 0; left: 0; width: 100%; height: 100%; border:0;" title="YouTube video">&lt;/iframe>
&lt;/div>
&lt;h2 id="当日の資料">当日の資料&lt;/h2>
&lt;p>&lt;iframe src="https://docs.google.com/presentation/d/19P_hAZw8W9X1myeV1wuKYVEAHZsOl3-ohcV1E4wug7g/embed?start=false&amp;loop=false&amp;delayms=3000" frameborder="0" width="800" height="600" allowfullscreen="true" mozallowfullscreen="true" webkitallowfullscreen="true">&lt;/iframe>&lt;/p>
&lt;p>&lt;iframe src="https://docs.google.com/presentation/d/1Vc-Sf0hMq5RKBDIDAI0aUdS-YWaiie306WykUG7dtJU/embed?start=false&amp;loop=false&amp;delayms=3000" frameborder="0" width="800" height="600" allowfullscreen="true" mozallowfullscreen="true" webkitallowfullscreen="true">&lt;/iframe>&lt;/p>
&lt;script async class="speakerdeck-embed" data-id="af1c9b53d63b4e6baa85652793ec4ca9" data-ratio="1.77777777777778" src="//speakerdeck.com/assets/embed.js">&lt;/script>
&lt;script async class="speakerdeck-embed" data-id="230d7fccb9314f039a8ab55aaf58c62c" data-ratio="1.77777777777778" src="//speakerdeck.com/assets/embed.js">&lt;/script>
&lt;script async class="speakerdeck-embed" data-id="448751cd3ceb43149100f61912248fc0" data-ratio="1.77777777777778" src="//speakerdeck.com/assets/embed.js">&lt;/script>
&lt;h2 id="感想">感想&lt;/h2>
&lt;p>今回、僕は企画とCfP系のとりまとめ、当日は配信担当をさせていただきました。当日の司会進行は土橋さんにおまかせをしてしまったのですが、いつもながら質疑応答の仕切り力は素晴らしい限りだなと思いながら聞いていました。&lt;/p>
&lt;p>今回のトピックは、機械学習チームが解散したという衝撃的な話からはじまり、NLPを中心とした機械学習基盤、リアルタイム予測基盤、モバイルやエッジ向けの機械学習など多岐にわたる発表が充実していました。
個人的に特に思ったことは、一言に機械学習基盤といっても組織や規模、フェーズに応じたアーキテクチャが採用されているというように感じました。
これはMobility Technologies大西さんの発表で、Kubeflow Pipelinesを選んだ理由に「ブラウザベースでパラメータを入力できること」ということがありました。&lt;/p>
&lt;blockquote class="twitter-tweet">&lt;p lang="ja" dir="ltr">「テストごとにパラメータを入力する必要があったが、AirflowはそういうWeb UIがない。Kubeflow Pipelinesはそれができる」これは、ソフトウェアエンジニア以外の参加者がいるからですね &lt;a href="https://twitter.com/hashtag/MLSE?src=hash&amp;amp;ref_src=twsrc%5Etfw">#MLSE&lt;/a>&lt;/p>&amp;mdash; Aki Ariga (@chezou) &lt;a href="https://twitter.com/chezou/status/1324621428235268096?ref_src=twsrc%5Etfw">November 6, 2020&lt;/a>&lt;/blockquote>
&lt;script async src="https://platform.twitter.com/widgets.js" charset="utf-8">&lt;/script>
&lt;p>当たり前ではありますが、システムの要件は組織の体制やビジネス要件に規定され、それが機械学習基盤でも変わらないということが改めて実感できました。&lt;/p>
&lt;p>今後も、MLSE 本番適用のためのインフラと運用WGではこうした機械学習基盤のアーキテクチャやパターンを明確にするために、討論会などの活動を続けて行きたいと思います。&lt;/p></description></item><item><title>機械学習工学研究会（MLSE）の夏合宿 2020で本番適用のためのインフラと運用に関する討論会を開催しました</title><link>https://b94feae1.chezo-uno.pages.dev/post/2020-07-11-mlse-summer-workshop/</link><pubDate>Sat, 11 Jul 2020 18:00:00 +0900</pubDate><guid>https://b94feae1.chezo-uno.pages.dev/post/2020-07-11-mlse-summer-workshop/</guid><description>&lt;p>&lt;a href="https://twitter.com/masaru_dobashi" target="_blank" rel="noopener">@masaru_dobashi&lt;/a>さんとMLSEの夏合宿で、本番適用のためのインフラと運用WGの討論会を開催しました。
WGのモチベーションは&lt;a href="https://sites.google.com/view/sig-mlse/wg#h.p_Of4vDn0AZIz-" target="_blank" rel="noopener">MLSEのサイト&lt;/a>をご確認ください。&lt;/p>
&lt;p>MLSEの夏合宿自体の概要は、&lt;a href="https://twitter.com/ysk_moto" target="_blank" rel="noopener">@ysk_moto&lt;/a>さんがまとめてくださった記事がわかりやすいと思います。Discordを中心に130名を超える参加者がオンラインで様々な議論をするというスタイルでした。&lt;/p>
&lt;p>&lt;a href="https://note.com/ysk_moto/n/n8995227204e1" target="_blank" rel="noopener">機械学習工学研究会（MLSE）夏合宿　2020に参加しました&lt;/a>&lt;/p>
&lt;p>実は我々のWGの討論会自体は第一回はオフラインで開催しました。そちらの&lt;a href="https://github.com/mlse-jssst/InfraOpWGProceedings/blob/master/20200210_DiscussionWorkflow/ProceedingOfDiscussionAboutWorkflow.md" target="_blank" rel="noopener">まとめはGitHubにあります&lt;/a>。よければ御覧ください。&lt;/p>
&lt;p>今回の討論会のまとめは、以下の2つのトピックについて議論をしました。&lt;/p>
&lt;ol>
&lt;li>機械学習における監視・観測とアーキテクチャ例&lt;/li>
&lt;li>責任分解とシステム&lt;/li>
&lt;/ol>
&lt;p>もう少ししたらGitHubのレポジトリにまとめを上げる予定ですが、その中から興味深かった話題を紹介したいと思います。&lt;/p>
&lt;h2 id="covid-19の影響は予測モデルを更新し続けることである程度抑制できた">COVID-19の影響は予測モデルを更新し続けることである程度抑制できた&lt;/h2>
&lt;p>これは、PFNの丸山さんが話題に出してくれたのですが、deeplearning.aiのnewsである&lt;a href="https://blog.deeplearning.ai/blog/the-batch-covid-19-infects-ai-learning-from-small-data-generated-music-goes-mainstream-fighting-pandemic-disinformation" target="_blank" rel="noopener">The Batch&lt;/a>や&lt;a href="https://www.theregister.com/2020/06/23/covid19_pandemic_means_data_from/" target="_blank" rel="noopener">この記事&lt;/a>でも言及されていた、「COVID-19によって人間の行動が変わってしまって予測に対する影響は出なかったのか？」という問いが投げかけられました。その中で、ある広告系の企業の参加者が、「入力データもモデルも毎日更新しているので、現状は対応できていると考えている。毎日モデルを更新するのが大切」という知見を共有してくれました。&lt;/p>
&lt;p>もちろん、劇的に前提条件が変化をする問題ではなかなかそのままのロジックや特徴量が使えないということもありうるとは思いますが、モデルを継続的に学習しつづけることで、変化に追従するというのは長期間機械学習システムを運用していく上でなくてはならないのだと改めて思いました。&lt;/p>
&lt;h2 id="学習したモデルは組織のありかたで渡し方はおろか渡せるものも変わる">学習したモデルは、組織のありかたで渡し方はおろか渡せるものも変わる&lt;/h2>
&lt;p>予測モデルを誰が学習するのか、という話題のなかで、小さなチームでは学習も予測も一人でやるという状況が出たのに対して、日本の大企業では特に&lt;a href="http://hyodo-ao.net/difference" target="_blank" rel="noopener">研究開発の会計的な事情&lt;/a>で、研究所で学習したモデルや学習をするためのコードを渡せず仕様書のようなドキュメントで開発部門に渡すしかない、という話が出ました。言われてみればそういうケースもありうるのかと思いつつ、部門の切れ目でAPIを用意するという立て付けも取れるかもしれませんが、研究所で学習や予測APIを提供するといった体力があるところも限られてくるとは思うので、日本の会計や税務的に難しさが発生するのかと、ハッとした瞬間でした。&lt;/p>
&lt;h2 id="モデルのリネージは決めてとなるossがない">モデルのリネージは決めてとなるOSSがない&lt;/h2>
&lt;p>これは討論会で出た話では有りませんが、実験管理は徐々にOSSで出てきているが、モデルの作成に至るまでのリネージはOSSとしては決定版がないよね、という話が何度か出てきました。もうシャットダウンしてしまったDotscienceではこうした&lt;a href="https://docs.dotscience.com/tutorials/provenance/" target="_blank" rel="noopener">リネージを可視化する機能&lt;/a>を持っていましたが、まだOSSでは良いものは私の知る限りではないように思います。
こうしたこともあり、サイバーエージェントではモデルのリネージを管理するためのツールを内製で開発しているそうです。OSSとしてカバーするのは難しいかもしれませんが、各社が自社のサービスの上でのソリューションを提供してくるかもしれません。&lt;/p>
&lt;h2 id="夏合宿全体を通じた感想">夏合宿全体を通じた感想&lt;/h2>
&lt;p>Discordを通じた議論や発表はとても体験としてよかったと思います。特に、人工知能学会のポスターで苦痛だったExcelで書かれPDFで出力されたパスワード付きZoomのリンクをクリックして移動するという地獄の体験をしたあとでは、Go Liveでどういう発表をしているのかもプレビューで覗けますし、軽量な音声だけで議論も進むので活発な議論ができていたのではないかと思います。&lt;/p>
&lt;p>ただ、会社のポリシーでP2Pのプロトコルを使っているDiscordのアプリは使えず、会社のMBPでは非力だったためか画面共有の表示が安定してされなかったのは難しいところではありました。GPUマシンでは安定しているので、MBPでは少し厳しいですね。&lt;/p>
&lt;p>我々の討論会ではZoomを使って議論をしたのですが、Muralと呼ばれるMiroのようなオンラインホワイトボードも使っていたので、複数のグループに分かれて付箋を貼っていくスタイルでも良かったかもしれません。&lt;/p>
&lt;p>ただ、ご多分に漏れずDiscordの参加人数が10人を超えてくると、議論が一本にしかならない関係もあり並列して話をするのは難しい印象でした。&lt;/p>
&lt;h2 id="最後に">最後に&lt;/h2>
&lt;p>9月頃にWGとして、各社で携わった機械学習基盤の知見共有をするためのオンラインカンファレンスを実施予定です。もう少ししたら、公募を開始しようと思いますので、機械学習システムを構築している話や、構築しようとしたけどうまく行かないといった話をシングルトラックのセッションとして発表していただければと思います。&lt;/p></description></item><item><title>IBIS 2019の機械学習工学企画セッションに登壇しました</title><link>https://b94feae1.chezo-uno.pages.dev/post/2019-12-05-ibis2019-mlse/</link><pubDate>Thu, 05 Dec 2019 00:24:00 +0900</pubDate><guid>https://b94feae1.chezo-uno.pages.dev/post/2019-12-05-ibis2019-mlse/</guid><description>&lt;p>この記事は、&lt;a href="https://qiita.com/advent-calendar/2019/mlse" target="_blank" rel="noopener">機械学習工学アドベントカレンダー2019&lt;/a>の5日目です。&lt;/p>
&lt;p>こんにちは、chezouです。先日、PFNの比戸さんにお声がけいただきIBIS 2019という日本で最大の理論系機械学習のワークショップで、&lt;a href="http://ibisml.org/ibis2019/%e4%b8%89%e6%97%a5%e7%9b%ae%ef%bc%9a%e3%83%97%e3%83%ad%e3%82%b0%e3%83%a9%e3%83%a0%e8%a9%b3%e7%b4%b0/" target="_blank" rel="noopener">3日目の「機械学習工学」の企画セッション&lt;/a>に「継続的改善をし続けるための機械学習基盤の課題」というタイトルで発表しました。理論系のワークショップというのは知っておりアウェイ感半端なく、&lt;a href="https://repose.hatenadiary.jp/entry/2019/11/27/083823" target="_blank" rel="noopener">数式もないという煽り&lt;/a>も受けましたが、なんとか実務者の皆様に届いてくれたのではないかと思っています。&lt;/p>
&lt;p>&lt;a href="https://docs.google.com/presentation/d/1T8JF6h_DFnBAWz8LJvK0miFWsVovKyP0BDuXk3cVo2Q/edit?usp=drivesdk" target="_blank" rel="noopener">Challenges for Machine Learning Systems toward Continuous Improvement&lt;/a>&lt;/p>
&lt;iframe src="https://docs.google.com/presentation/d/e/2PACX-1vTbIOwmdWnnQWVkoMm0a5z6dg0UGCmuvDHGztsl_6krNn2gh-IOFl7Lo4-D_fFqzlyL-RtqemHolupn/embed?start=false&amp;loop=false&amp;delayms=3000" frameborder="0" width="720" height="434" allowfullscreen="true" mozallowfullscreen="true" webkitallowfullscreen="true">&lt;/iframe>
&lt;p>Machine Learning in productionに対する9つの課題は、世の中にまだまだ整理されているものではなく難産だったので色々と議論ができればと思っています。9つの課題とdotscienceのLuke Marsden氏によるReproducible, Accountable, Collaborative, Continuousという&lt;a href="https://docs.google.com/presentation/d/17RWqPH8nIpwG-jID_UeZBCaQKoz4LVk1MLULrZdyNCs/edit#slide=id.g6ad50e93e5_0_59" target="_blank" rel="noopener">4つのマニフェストの話&lt;/a>を元に整理してみたのですが、どのような課題と抽象化を行っているのか、そしてそれがどういう嬉しさがあるのかへの理解の一助となればと思います。&lt;/p>
&lt;h2 id="concept-drift">Concept drift?&lt;/h2>
&lt;p>「学習時と予測時の分布の違いを検出するデータバリデーションが大事」という話をしました。で、この「学習時と予測時の分布の違い」というのを&amp;quot;Concept drift&amp;quot;という表現を使って説明をしたのですが、 shima__shima先生からもご指摘をいただき、どうも違うのではないかということで色々と調べたり議論をしていました。Concept driftは英語圏では雑に&lt;a href="https://machinelearningmastery.com/gentle-introduction-concept-drift-machine-learning/" target="_blank" rel="noopener">このニュアンスを表現するのに使われており&lt;/a>、特に産業界ではそれでいいかなという表現であるという認識です。ただ、もともとはストリームデータに対するdriftという定義があるようです。&lt;/p>
&lt;p>人によっては&amp;quot;Covariate shift&amp;quot;(共変量シフト)や&amp;quot;Domain shift&amp;quot;という表現をするということから、Covariate Shiftがいいのかなと思っていましたが、&amp;ldquo;Delayed effect&amp;quot;という表現が時間的な変化に対する表現としてよいようです。ただ、個人的にはスライドでも書いたように光の変化は時間変化というよりは仮定する前提条件が覆された例だと思っているため、Delayed effectも少し狭いかなと思っていました。&lt;/p>
&lt;p>なお、GoogleはTensorFlow Extendedの論文中で&amp;quot;training-serving skew&amp;quot;という表現を使っています。&lt;/p>
&lt;p>以下、shima__shima先生の説明が参考になるかと思います。&lt;/p>
&lt;blockquote class="twitter-tweet">&lt;p lang="ja" dir="ltr">共変量シフトは統計系の文脈ででてきて抽象的に分布が違うといった意味合いで最初に出てきました．&lt;br>転移学習は機械学習分野で類似したデータという感じででてきました．2000年中頃はいろいろ呼び名がありましたが今では転移学習に落ち着いていると思います． &lt;a href="https://t.co/4n1NXdWPAE">https://t.co/4n1NXdWPAE&lt;/a>&lt;/p>&amp;mdash; しましま (@shima__shima) &lt;a href="https://twitter.com/shima__shima/status/1201801576949538816?ref_src=twsrc%5Etfw">December 3, 2019&lt;/a>&lt;/blockquote>
&lt;script async src="https://platform.twitter.com/widgets.js" charset="utf-8">&lt;/script>
&lt;blockquote class="twitter-tweet">&lt;p lang="ja" dir="ltr">同じころ，コーパスの分野の違いというあたりから，Hal Daumé さんあたりがNLP分野でドメイン適応という言葉を使い始められました．&lt;br>時間による変化で起きるならdelayed effect という言葉もあります．&lt;a href="https://t.co/qVmBdO2fz3">https://t.co/qVmBdO2fz3&lt;/a>&lt;/p>&amp;mdash; しましま (@shima__shima) &lt;a href="https://twitter.com/shima__shima/status/1201802162482737152?ref_src=twsrc%5Etfw">December 3, 2019&lt;/a>&lt;/blockquote>
&lt;script async src="https://platform.twitter.com/widgets.js" charset="utf-8">&lt;/script>
&lt;h2 id="機械学習工学セッションの他の発表">機械学習工学セッションの他の発表&lt;/h2>
&lt;p>他の発表は、NIIの石川先生による機械学習工学とテストの話 (&lt;a href="http://ibisml.org/ibis2019/files/2019/12/slide_ishikawa.pdf" target="_blank" rel="noopener">スライド&lt;/a>)、STORIA法律事務所の柿沼先生の機械学習と知財の話(&lt;a href="http://ibisml.org/ibis2019/files/2019/12/slide_kakinuma.pdf" target="_blank" rel="noopener">スライド&lt;/a>)でした。&lt;/p>
&lt;p>石川先生の機械学習を工学として捉え直したときの説明や、adversarial testなどテストの最近の状況は自分自身追いかけられていなかったのでとても良かったです。&lt;/p>
&lt;p>柿沼先生はAI模擬裁判などでご存知の方も多いと思いますが、先生の知財の話は学習済みモデル含めたシステムの権利は受託したベンダーか発注者のどちらにあるのか、という話も面白く、実践的で知見に富んだ話でした。ぜひML関係者はスライドを読むと良いと思います。また、柿沼先生への比戸さんの質疑から派生した議論をメールでさせていただいたのですが、機会があったら公開したいと思っています。&lt;/p></description></item><item><title>機械学習工学研究会キックオフシンポジウムに登壇しました</title><link>https://b94feae1.chezo-uno.pages.dev/post/2018-05-17_mlse-kickoff/</link><pubDate>Thu, 17 May 2018 14:03:57 +0900</pubDate><guid>https://b94feae1.chezo-uno.pages.dev/post/2018-05-17_mlse-kickoff/</guid><description>&lt;p>タイトル通り日本ソフトウェア科学会の研究会、&lt;a href="https://sig-mlse.wixsite.com/kickoff" target="_blank" rel="noopener">機械学習工学研究会キックオフシンポジウム&lt;/a>に登壇しました。&lt;a href="https://twitter.com/bonotake" target="_blank" rel="noopener">@bonotake&lt;/a> さんから声をかけられた時はカジュアルに受けたのですが、蓋を開けてみれば大御所の方々ばかりで恐縮しながらの発表でした。&lt;/p>
&lt;p>僕の発表内容としては、書籍「仕事ではじめる機械学習」の話からデプロイパターンの話と、機械学習特有の難しさはどこから来るのかという話をしました。&lt;/p>
&lt;p>&lt;a href="https://amzn.to/2GpxzEY" title="https://amzn.to/2GpxzEY" target="_blank" rel="noopener">&lt;strong>仕事ではじめる機械学習&lt;/strong>&lt;br>
_Amazonで有賀 康顕, 中山 心太, 西林 孝の仕事ではじめる機械学習。アマゾンならポイント還元本が多数。有賀 康顕, 中山 心太, 西林…_amzn.to&lt;/a>&lt;a href="https://amzn.to/2GpxzEY" target="_blank" rel="noopener">&lt;/a>&lt;/p>
&lt;p>時間が20分だというのに資料を一通り作った後に気づいて、かなり表層的にさらっとしか話をしませんでしたが、詳しい方からすると当たり前の話しかできませんでした。&lt;/p>
&lt;h4 id="話しきれなかったこと">話しきれなかったこと&lt;/h4>
&lt;p>お気づきの方は、参考文献等を見てわかるかと思いますが、機械学習特有の難しさという話は、主に以下の3つからピックアップしてきた話になります。&lt;/p>
&lt;p>&lt;a href="https://papers.nips.cc/paper/5656-hidden-technical-debt-in-machine-learning-systems" title="https://papers.nips.cc/paper/5656-hidden-technical-debt-in-machine-learning-systems" target="_blank" rel="noopener">&lt;strong>Hidden Technical Debt in Machine Learning Systems&lt;/strong>&lt;br>
_Eletronic Proceedings of Neural Information Processing Systems_papers.nips.cc&lt;/a>&lt;a href="https://papers.nips.cc/paper/5656-hidden-technical-debt-in-machine-learning-systems" target="_blank" rel="noopener">&lt;/a>&lt;/p>
&lt;p>&lt;a href="https://ai.google/research/pubs/pub46484" title="https://ai.google/research/pubs/pub46484" target="_blank" rel="noopener">&lt;strong>TFX: A TensorFlow-Based Production-Scale Machine Learning Platform - Google AI&lt;/strong>&lt;br>
_We present TensorFlow Extended (TFX), a TensorFlow-based general-purpose machine learning platform implemented at…_ai.google&lt;/a>&lt;a href="https://ai.google/research/pubs/pub46484" target="_blank" rel="noopener">&lt;/a>&lt;/p>
&lt;p>&lt;a href="https://www.lucypark.kr/docs/2017-acml/#/" title="https://www.lucypark.kr/docs/2017-acml/#/" target="_blank" rel="noopener">&lt;strong>&lt;em>My model has higher BLEU, can I ship it?&lt;/em>&lt;/strong>&lt;br>
My model has higher BLEU, can I ship it?www.lucypark.kr&lt;/a>&lt;a href="https://www.lucypark.kr/docs/2017-acml/#/" target="_blank" rel="noopener">&lt;/a>&lt;/p>
&lt;p>個人的には、どれも語り尽くされた感があるところはあったのですが、特にTFXの論文がプラットフォームの話だけではなく、典型的な機械学習の問題をどのようにシステムとして回避しているかという話が詰まっていて良かったので改めて補足したいと思います。。&lt;/p>
&lt;p>例えば、「入力データのスキーマを作ってチェックする」という話が書いてあるのですが、ここでいうスキーマとは、カテゴリ値の種類を列挙したり、期待される統計値の幅を予め記述しておくというJSONSchema的なspecに近いものです。特に学習時のデータの分布と予測時の分布が極端に異なるということは往々にしてあるのですが、それをデータのスキーマでvalidationすることでアラートを上げてコントロールするというのは目からうろこでした。&lt;/p>
&lt;p>また、予測結果を他部門の人が使うエピソードがあるのですが、その中で「締切に追われるエンジニアは、サクッと使えるものは使ってしまうものである」みたいなことが書いてあって、ですよねーと一人頷いていました。&lt;/p>
&lt;p>3つ目のLucy Parkさんの発表資料は、Joel test for better Machine learning systemsというサブタイトルの通り、何をクリアすればいいかできていないとまずいかという11の質問項目を提案しています。&lt;/p>
&lt;blockquote>
&lt;p>Do you keep your data versioned as well as your code?&lt;/p>&lt;/blockquote>
&lt;blockquote>
&lt;p>Do you have an experiment database?&lt;/p>&lt;/blockquote>
&lt;blockquote>
&lt;p>Do you have specified evaluation metrics?&lt;/p>&lt;/blockquote>
&lt;blockquote>
&lt;p>Do the evaluation datasets match the needs of your users?&lt;/p>&lt;/blockquote>
&lt;blockquote>
&lt;p>Can you reproduce your experiments in one step?&lt;/p>&lt;/blockquote>
&lt;blockquote>
&lt;p>Do you have up-to-date documents?&lt;/p>&lt;/blockquote>
&lt;blockquote>
&lt;p>Do you have the best computational resources money can buy?&lt;/p>&lt;/blockquote>
&lt;blockquote>
&lt;p>Do you have tools to test model training?&lt;/p>&lt;/blockquote>
&lt;blockquote>
&lt;p>Do you have tools to interpret your models?&lt;/p>&lt;/blockquote>
&lt;blockquote>
&lt;p>Can you easily replace a component of your algorithm?&lt;/p>&lt;/blockquote>
&lt;blockquote>
&lt;p>Does your team have a clear vision?&lt;/p>&lt;/blockquote>
&lt;p>詳細はスライドを見ていただければと思うが、この中でデータのバージョン管理をしてる？という話が出ていたが、これはまだベストプラクティスがないよねという話がスライドでもされています。&lt;/p>
&lt;p>少量データであれば、なんとでもなるのだが規模が大きくなってきて、かつ変更が入るようなデータをどう保持するのかというのは、自分でも気になって社内で議論したことがあるのですが、いわゆるDWHに入っているようなデータは、&lt;a href="https://en.wikipedia.org/wiki/Bitemporal_Modeling" target="_blank" rel="noopener">BiTemporal modeling&lt;/a> (日本語だと&lt;a href="http://matsu-chara.hatenablog.com/entry/2017/04/01/110000" target="_blank" rel="noopener">こちらの記事&lt;/a>がわかりやすい)という方法を使えば逐一スナップショットをとるのではなく、変更を管理できるという方法を教えてもらいました。&lt;/p>
&lt;p>一方で、&lt;a href="https://blog.dataversioncontrol.com/data-version-control-tutorial-9146715eda46" target="_blank" rel="noopener">DVC&lt;/a>のようにgit likeにデータのバージョンを管理する方法というのも提案されていて、バイナリのデータはこちらのほうが良さそうだと思っています。&lt;/p>
&lt;p>機械学習の予測では、一度異常が起きた時の原因究明が難しく、問題の切り分けのためにソースコードを遡るだけでなく、学習データ自身やモデル自身を遡る必要があるためここの話は非常に実用上重要になってくると思います。&lt;/p>
&lt;p>あとは、バージョン管理をするのと同時に、依存関係を記述するモデルのリネージが重要になってくるだろう話もしました。モデルのリネージの話はまだこれといったツールがあるわけではないのですが、予測結果を利用してさらに別のプロダクトを作るというケースがあるように、何がどの結果をつかっているのかというのを可視化できるツールというのが、今後機械学習に依存したプロダクトが増えるに連れて重要度を増すでしょう。&lt;/p>
&lt;h4 id="機械学習システムにどういう立場で関わるか">機械学習システムにどういう立場で関わるか？&lt;/h4>
&lt;p>パネルディスカッションなどを通じて感じていたのは、機械学習システムを作る人が誰でどう関わるのかというのが人によって大きく異なるというのを改めて感じました。&lt;/p>
&lt;p>いわゆるコンサルやSIとして係る場合、発注者と受注者の関係が発生します。この場合、要件定義を先にして…のようにウォーターフォールで客が作りたがるという話が出ていましたし、ソフトウェア工学的にもそうした立場に立った意見が目立ったのかなと思います。&lt;/p>
&lt;p>そこに関しては、発注者自身が受け入れ要件を理解して定義できないといけないよね、などという話も出ましたが、幸いにして日本語だと機械学習システムのプロジェクトの進め方関連の書籍が拙著以外にも出ているので、そういった立場の方々はぜひ一度読むとよいのではないでしょうか。&lt;/p>
&lt;p>&lt;a href="https://amzn.to/2IqEH9M" title="https://amzn.to/2IqEH9M" target="_blank" rel="noopener">&lt;strong>人工知能システムを外注する前に読む本&lt;del>ディープラーニングビジネスのすべて&lt;/del>&lt;/strong>&lt;br>
_Amazonで坂本 俊之の人工知能システムを外注する前に読む本&lt;del>ディープラーニングビジネスのすべて&lt;/del>。アマゾンならポイント還元本が多数。坂本…_amzn.to&lt;/a>&lt;a href="https://amzn.to/2IqEH9M" target="_blank" rel="noopener">&lt;/a>&lt;/p>
&lt;p>&lt;a href="https://amzn.to/2Ktuciw" title="https://amzn.to/2Ktuciw" target="_blank" rel="noopener">&lt;strong>人工知能システムのプロジェクトがわかる本 企画・開発から運用・保守まで (AI &amp;amp; TECHNOLOGY)&lt;/strong>&lt;br>
_Amazonで本橋 洋介の人工知能システムのプロジェクトがわかる本 企画・開発から運用・保守まで (AI &amp;amp; TECHNOLOGY)。アマゾンならポイント還元本が多数。本橋…_amzn.to&lt;/a>&lt;a href="https://amzn.to/2Ktuciw" target="_blank" rel="noopener">&lt;/a>&lt;/p>
&lt;p>個人的には、データドリブンなプロダクトを作るという観点では、ドメイン知識を持っている人が一番強いと思っており、最初はがっつり機械学習のシステム構築を支援するけれど、段々と発注側の人を育てる方向にシフトをしていき、最終的には内製化できるのが理想的ではないかと考えています。&lt;/p>
&lt;p>機械学習が詳しい人の強みとしては、「どういう問題の切り出し方をしたら、機械学習で解けるか」というところだと思っています。この問題定義は、なかなか場数を踏まないとできるようになるのは難しく、そこをお手伝いすることが僕自身も多いです。それ以外のどう手を動かすかといった知見を少しずつトランスファーしていくのが、継続的に改善を必要とする機械学習システムでは良い形なのではないかと思います。&lt;/p>
&lt;p>思った以上にCI,CDの話が出てこなくて、「ん？」と思っていたのですが、改善をし続けるという話が自社内でやれるかどうかでスピード感も変わってくるのかなという観点を得ることができました。&lt;/p>
&lt;p>最後になりますが、司会の丸山先生や登壇者の皆様、500人規模の大規模な運営をしていただいたスタッフの皆様ありがとうございます。交流会でも非常に濃密な議論が出来てとても楽しかったです。&lt;/p></description></item><item><title>PyConJP 2017に参加した</title><link>https://b94feae1.chezo-uno.pages.dev/post/2017-09-09_pyconjp-2017------5fa5f59b9bde/</link><pubDate>Sat, 09 Sep 2017 12:24:23 +0900</pubDate><guid>https://b94feae1.chezo-uno.pages.dev/post/2017-09-09_pyconjp-2017------5fa5f59b9bde/</guid><description>&lt;p>2年ぶりにPyConJPに参加しました。2日間参加してきたので、メモがてら書いていきます。&lt;/p>
&lt;h3 id="興味深かった話">興味深かった話&lt;/h3>
&lt;p>pandasとdaskのコミッターの&lt;a href="https://twitter.com/sinhrks" target="_blank" rel="noopener">shinhrks&lt;/a>さんの基調講演。pandasに対してどうコントリビュートしているかという話を中心に、OSS活動をしていこうと思わせる（1日目とは打って変わって）良い基調講演でした。&lt;/p>
&lt;p>特に印象的だったのが、pandasの中ではAirspeed Velocityを使ってCIでベンチマークを取りコミット間の処理速度が低下していないかを検出しているという点です。Pythonのパッケージなので、他の言語では難しいかもしれないということです。ともすると速度のデグレは気づきにくいことも多いですが、OSSでそこまできっちり見ているのは素晴らしいと思いました。&lt;/p>
&lt;div class="iframely-embed">&lt;div class="iframely-responsive" style="height: 140px; padding-bottom: 0;">&lt;a href="https://github.com/airspeed-velocity/asv" data-iframely-url="//cdn.iframe.ly/u7lLP8Q?card=small">&lt;/a>&lt;/div>&lt;/div>&lt;script async src="//cdn.iframe.ly/embed.js" charset="utf-8">&lt;/script>
&lt;p>なお、pandasやビジュアライズに入門するには昨日でたJupyter本が良いです。&lt;/p>
&lt;p>&lt;a href="https://amzn.to/2wODd2J" title="https://amzn.to/2wODd2J" target="_blank" rel="noopener">&lt;strong>PythonユーザのためのJupyter\[実践\]入門&lt;/strong>&lt;br>
_Amazonで池内 孝啓, 片柳 薫子, 岩尾 エマ はるか, @drillerのPythonユーザのためのJupyter\[実践\]入門。アマゾンならポイント還元本が多数。池内 孝啓, 片柳 薫子, 岩尾 エマ はるか,…_amzn.to&lt;/a>&lt;a href="https://amzn.to/2wODd2J" target="_blank" rel="noopener">&lt;/a>&lt;/p>
&lt;p>リクルートテクノロジーズの&lt;a href="https://twitter.com/yuzutas0" target="_blank" rel="noopener">yuzutas0&lt;/a>さんによる分析基盤とカルチャーを作っていく話。どの話も、あーあーあるあるという感じで会場も共感の嵐でした。結局、現場のユーザが使うためには、独りよがりな基盤を作っても使われなければ無いから、コミュニケーションを取っていって必要なものを作っていこう、という泥臭さしかない話でした。こうしてデータドリブンで仮説を作っていく話はとても良いと思います。&lt;/p>
&lt;p>Cookpadの&lt;a href="https://twitter.com/ayemos_y" target="_blank" rel="noopener">ayemos_y&lt;/a>さんの発表。自分が課題感感じているところかなと思ったら少し違った話でした。通常、ソースコードはgitなどでバージョン管理をするのに対して、モデルは比較的バージョン管理をしやすいけど、入力データのスナップショットをとることが難しいので、repeatabilityを確保するのは難しいよなと思っていたのですがその問題提起の話でした。&lt;/p>
&lt;p>モバイルやセンサーからくるデータは遅延して到達したり、後で更新したりするみたいな時があったときや、データの欠損があったりしたときに、そのまましれっとモデルの更新をすると、データが原因なのかモデルがダメなのか何がダメなのかがぱっと切り分けられなくて、モデルの更新をしにくくなるという状況なのは辛いなという認識です。例えるならば、バージョン管理もテストもない状態でコード変更をして神に祈ってデプロイするイメージに近いです。（ゴールデンスタンダード使ったりなにか悪くなってることは検出できますが…）&lt;/p>
&lt;p>解決方法はまだまだ発展途上だなというか、PySparkでETLしてS3上にHive形式のテーブル作ってそれをImpalaでもPrestoでも叩けばええやんという気持ちでいっぱいだったのですが、問題自体は重要な話であり、Googleなんかはどうにかしてクリアしているポイントのようなので、僕自身もなんとかしたいと思っている場所だったりします。良い解決方法考えていきたいところです。&lt;/p>
&lt;div class="iframely-embed">&lt;div class="iframely-responsive" style="height: 140px; padding-bottom: 0;">&lt;a href="https://pycon.jp/2017/ja/schedule/presentation/5/" data-iframely-url="//cdn.iframe.ly/2KVfLfr?card=small">&lt;/a>&lt;/div>&lt;/div>&lt;script async src="//cdn.iframe.ly/embed.js" charset="utf-8">&lt;/script>
&lt;p>もう一件、テキスト処理をPythonでやる話がありました。話の殆どは知ってる話だったのですが、spaCyが日本語対応したらしいよという話を聞いて、実はjanomeがTokenizerに使われているのをしりました。&lt;/p>
&lt;div class="iframely-embed">&lt;div class="iframely-responsive" style="height: 140px; padding-bottom: 0;">&lt;a href="https://github.com/explosion/spaCy" data-iframely-url="//cdn.iframe.ly/ECM6Oez?card=small">&lt;/a>&lt;/div>&lt;/div>&lt;script async src="//cdn.iframe.ly/embed.js" charset="utf-8">&lt;/script>
&lt;p>なお、RからもspacyRというwrapperを使えるようでopenNLPとrJavaに疲弊している人は使うと良いようです。&lt;/p>
&lt;div class="iframely-embed">&lt;div class="iframely-responsive" style="height: 140px; padding-bottom: 0;">&lt;a href="https://github.com/quanteda/spacyr" data-iframely-url="//cdn.iframe.ly/Sm0nxaE?card=small">&lt;/a>&lt;/div>&lt;/div>&lt;script async src="//cdn.iframe.ly/embed.js" charset="utf-8">&lt;/script>
&lt;h3 id="感想">感想&lt;/h3>
&lt;p>PyConはあまり知り合いも少なく、アウェイ感があるのですが、なんか地味に知り合いが増えてきたこともあり色々と話しをできてよかったなと思います。&lt;/p>
&lt;p>実は一番印象に残ったのは、shimizukawaさんやtakuan_oshoさんなどインターネッツの中でしか見たことがない方とお会い出来たりお話できたことでした。また、色々とお話をしていると「ああ、aodagさんの文章を翻訳した人ですね」と言われて、地道な活動をしてきてよかったなと思います（虎の威を借る何とやらとも言う）&lt;/p>
&lt;p>また、英語セッションで質問をしたら、何故か英語圏の人に囲まれて日本語のテキスト処理とコーパスが辛いんだけど、とか言う話を議論できたのは良かったです。&lt;/p>
&lt;p>一方で発表は、今回初日のキーノートがただの会社の紹介に終止したマーケティングで終わったり、海外勢のデータ系がやってみた系が多かったりと結構辛かった一方で、日本人の発表者は非常に濃い良い発表が多く良かったなぁと思いました。特にcondaとwheelのfragmentationについてはなんとかならんかなと思って質問しましたが、お茶を濁されたのが悲しかったです。&lt;/p>
&lt;p>ただ、自腹で1万円払って来年も行くかというとプログラム編成がデータ系が横に並んで厳しかったり、発表のクオリティの分散が激しかったりと悩ましいなぁというところです。自分はデータ系しかほぼ見てないのですが、2年前に参加したときはjanomeの話とか濃い話がありそう思わなかったのですが、RubyKaigiの方が講演のクオリティの平均が高い（ハズレを引きにくい）のかなと思いました。aodagさんのパッケージングの話とか（資料しか見てないけど）昔からの人の発表は安定感あったのですが…。&lt;/p>
&lt;p>とはいえ、プログラム編成も投稿が山のようにきたりしている現状、SciPyあるいはScientific Programming, Data Analysis &amp;amp; MLみたいな言語を絞らないカンファレンスを日本でやって、それでガス抜きをしないとPyConには荷が重いだろうなぁと思います。イメージ的には、&lt;a href="http://polycon.io/" target="_blank" rel="noopener">Polycon&lt;/a>みたいな言語非依存なカンファレンスの科学計算版で、industrial trackとbeginner trackとresearch trackの3本立てでちょっと学会よりはゆるい感じの集まりかなぁ。&lt;/p>
&lt;p>いずれにせよ、Pythonは今後もお世話になっていくので、PyCon JPの運営の皆さんに感謝しつつ燃え尽きないよう継続してって頂きたいなぁと思います。&lt;/p></description></item></channel></rss>