べにやまぶろぐ

技術寄りの話を書くつもり

2017-01-01から1年間の記事一覧

Google Cloud Next '17 in Tokyo の機械学習系セッション聴講メモ(Day 2) #googlenext17

今回も引き続き Google Cloud Next '17 in Tokyo (2日目)で聴講した機械学習系(と BigQuery)のセッションのメモを書いていきます。 初日分はこちらです。 beniyama.hatenablog.jp ※ 聞き違いや理解不足から一部不正確な情報が載っている可能性がありま…

Google Cloud Next '17 in Tokyo の機械学習系セッション聴講メモ(Day 1) #googlenext17

ザ・プリンス パークタワー東京で開催中の Google Cloud Next '17 in Tokyo に参加しています。 cloudnext.withgoogle.com 今回は機械学習周りのセッションを集中して選んでみましたのでそのメモです(裏番組になっていて残念ながら聴講できなかったセッショ…

最近の登壇記録

備忘録的に書いとく。 第3回スタートアップRails勉強会 「データ基盤で超える開発の壁」 connpass.com 第2回 教育AI・ビッグデータ分析WGセミナー 「スタディサプリを支えるデータ分析基盤 ~設計の勘所と利活用事例~」 http://lebac.jp/?p=2359lebac.jp Fo…

Treasure Data でクエリを書く時に真っ先に頭に浮かべたい UDF、それが TD_TIME_RANGE()

Treasure Data での時間の範囲指定にはとにかく TD_TIME_RANGE() を使おう この記事で言いたいことはこれにつきます。 Treasure Data での唯一のパーティションキーは time だけ Treasure Data ではユーザがインデックスを作成したりパーティションキーを指…

デブサミ 2017 での講演の感想など #devsumi #devsumiB

大変ありがたいことに 2/17(金)にデブサミにて登壇する機会をいただいたので、目黒の雅叙園に行ってまいりました。 event.shoeisha.jp 思えば去年はまさにこのスタディサプリ移管の真っ最中で公募枠に応募することすらできず、今回は溜まりに溜まったネタ…

Digdag / Treasure Workflow でプラグインを使わずに `http:>` オペレータで Slack 通知を行う

ワークフローエンジンの Digdag を本格的に使い始めたのですが、バージョン 0.9.3 の現在、通知系のオペレータは mail:> くらいしかありません。 プラグインを使うことで Slack 通知が可能になりますが、Digdag のホスティングサービスである Treasure Workf…

Embulk で任意のカラムをマスクする embulk-filter-mask プラグインを公開しました

久しぶりの投稿ですが生きております。 ふと Embulk のプラグインを見よう見まねで作ってみました。 github.com Embulk で転送かけるデータのカラムを指定して * で置換を行うフィルタープラグインです。 センシティブな情報なのでマスクしたい、がカラムご…