メインコンテンツへスキップ

海江田 亮 の記事一覧

Research Engineering(研究のための ML 基盤)に関心があり、個人では LLM の機械論的解釈可能性(mechanistic interpretability)の研究に使う基盤を作っています。 EKS の GPU ノードで Transformer の中間層の活性値を抽出し、Indexed Job で並列化して S3 にシャード化して保存、2段階シャッフルで学習に使える形にするまでを、障害に強い作り(冪等・再実行可能)で実装しています。 関心: ML インフラ / 分散システム / Kubernetes / mechanistic interpretability

海江田 亮kaieda-ryo

月別投稿数

4Posts