烏滑稽

ブログはじめました(迫真)

Kafka Java Consumer Client小技

Distributed computing Advent Calendar 2017の12/16分の投稿です。 qiita.com clientコードでよく使われるテクニック、というわけではなく 自分が勝手によく使っている小技の紹介です。 今回扱うKafka Java Clientのバージョンは1.0ではなく残念ながら0.10.…

Javaのオブジェクト複製の動作確認

今更ながら躓いたので動作チェックのメモ。 import org.junit.Test; import java.util.ArrayList; import java.util.List; ・・・ /** * オブジェクト同士が同じオブジェクトか判断するとき * hashCode()がオーバーライドされていて使えないときは * System.…

KafkaのLog Compaction

KafkaにはLog Compactionという機能があります。バージョン0.8.1から導入されました。 このLog Compaction、かなりとっつきづらい機能なんじゃないかと思っています。Kafkaドキュメントのこのセクションhttps://kafka.apache.org/documentation/#compaction…

Kafkaアプリケーションのユニットテスト

10日0時を回ってしまった気がしますが Distributed Computing Advent Calendar 12/9 分、書いていきます。寝なければセーフ! Kafkaアプリケーションのユニットテストについてですが具体的な方法ではなく概論のような形になります。 qiita.com Kafkaアプリケ…

東京メトロのオープンデータをElasticsearch + Kibana (5.0.2)で可視化してみる(Java Client)

JJUG CCC 2016 fallブーストークで大谷さんがElastic Advent Calendar枠まだありますって言ってて、勢いで登録してしまった。 qiita.com 実は時間もネタもなかったことに後から気付きつつ速攻でなんかやっていきます! 3時間くらいでなんとかなったらいいな…

ストリームでのウィンドウ集計:タンブリング(Tumbling)、ホッピング(Hopping)、スライディング(Sliding)ウィンドウ

リアルタイムストリーム処理の話でよく出てくる以下のウィンドウ集計について、パッとわかる日本語の説明がなかったから認識を書いてみた。 各項目最初の2, 3行でつまりなんなのかを説明しようとしているが、それ以降はちょっと細かい話なので混乱したくない…