機械学習エンジニア (LLM)

機械学習エンジニア (LLM)

Description

仕事概要

私たちの会社は多くのコミニュケーションデータを保有しており、それらを活用した新たなAI機能を提供していくにあたり、独自大規模言語モデルをゼロから構築することも視野に入れてユーザーごとに最適なAI機能を提供できる基盤の構築に注力していきます。最先端の研究成果を実用的なスケーラブル・システムへと昇華させ、技術的限界を押し広げることで、社会にインパクトを与えるAI基盤の構築を目指しています。

機械学習エンジニア（LLM）として、アーキテクチャの設計、大規模なデータパイプラインの構築、および大規模分散学習の最適化において中心的な役割を担っていただきます。最先端の技術のキャッチアップをしつつ、スピード感をもってAI基盤の構築・改善を推進してもらいます。当社のAI技術の核となるエンジンの開発に初期から関わっていただけます。

主な業務内容

・独自のLLMのアーキテクチャ設計から、大規模クラスタを用いた事前学習の実行・管理。

・分散学習フレームワークを用いた学習効率の最大化とCUDAレベルでの最適化。

・数テラバイト規模のデータセットのフィルタリング、トークナイズ、クリーニングプロセスの構築。

・学習したモデルの性能評価、およびファインチューニングの実施。

• About the Team

Our company possesses a vast and unique repository of communication data. As we move toward delivering next-generation AI features powered by this data, we are focused on building a robust foundation capable of providing optimized AI experiences for every user. This includes exploring the development of proprietary large language models (LLMs) from scratch. Our mission is to translate cutting-edge research into practical, scalable systems, pushing technical boundaries to create an AI infrastructure that delivers profound social impact.

• About the Role

As a Machine Learning Engineer (LLM), you will play a pivotal role in designing architectures, building massive data pipelines, and optimizing large-scale distributed training. You will work closely with researchers to translate theoretical breakthroughs into high-performance model weights. This is an opportunity to contribute to the core engine of our AI capabilities in a fast-paced, mission-driven environment.

• In this role, you will

Innovate and Train: Design and execute the pre-training strategy for our proprietary LLMs using large-scale GPU clusters and our unique communication datasets.

Optimize Performance: Implement and enhance distributed training frameworks (e.g., DeepSpeed, Megatron-LM, FSDP) and optimize kernels for maximum hardware efficiency.

Curate Large-Scale Data: Build and manage robust pipelines for filtering, tokenizing, and cleaning terabyte-scale communication data to ensure high-quality model input.

Evaluate and Align: Develop rigorous evaluation benchmarks and apply alignment techniques such as SFT and RLHF to improve model utility and safety for personalized user experiences.

Collaborate and Lead: Work across cross-functional teams to integrate research advancements into our core product offerings.

• You might thrive in this role if you have

Strong Foundation: A Master’s or PhD in Computer Science, Machine Learning, or a related field (or equivalent practical experience).

Deep Learning Expertise: Demonstrated experience in implementing Transformer-based models and proficiency in deep learning frameworks like PyTorch or JAX.

Distributed Systems Knowledge: Hands-on experience with large-scale distributed training across hundreds of GPUs and an understanding of networking/infrastructure bottlenecks.

Proactive Mindset: The ability to move fast in an environment where problems are often loosely defined, owning challenges from conception to deployment.

Requirements

仕事概要

私たちの会社は多くのコミニュケーションデータを保有しており、それらを活用した新たなAI機能を提供していくにあたり、独自大規模言語モデルをゼロから構築することも視野に入れてユーザーごとに最適なAI機能を提供できる基盤の構築に注力していきます。最先端の研究成果を実用的なスケーラブル・システムへと昇華させ、技術的限界を押し広げることで、社会にインパクトを与えるAI基盤の構築を目指しています。

機械学習エンジニア（LLM）として、アーキテクチャの設計、大規模なデータパイプラインの構築、および大規模分散学習の最適化において中心的な役割を担っていただきます。最先端の技術のキャッチアップをしつつ、スピード感をもってAI基盤の構築・改善を推進してもらいます。当社のAI技術の核となるエンジンの開発に初期から関わっていただけます。

主な業務内容

・独自のLLMのアーキテクチャ設計から、大規模クラスタを用いた事前学習の実行・管理。

・分散学習フレームワークを用いた学習効率の最大化とCUDAレベルでの最適化。

・数テラバイト規模のデータセットのフィルタリング、トークナイズ、クリーニングプロセスの構築。

・学習したモデルの性能評価、およびファインチューニングの実施。

• About the Team

Our company possesses a vast and unique repository of communication data. As we move toward delivering next-generation AI features powered by this data, we are focused on building a robust foundation capable of providing optimized AI experiences for every user. This includes exploring the development of proprietary large language models (LLMs) from scratch. Our mission is to translate cutting-edge research into practical, scalable systems, pushing technical boundaries to create an AI infrastructure that delivers profound social impact.

• About the Role

As a Machine Learning Engineer (LLM), you will play a pivotal role in designing architectures, building massive data pipelines, and optimizing large-scale distributed training. You will work closely with researchers to translate theoretical breakthroughs into high-performance model weights. This is an opportunity to contribute to the core engine of our AI capabilities in a fast-paced, mission-driven environment.

• In this role, you will

Innovate and Train: Design and execute the pre-training strategy for our proprietary LLMs using large-scale GPU clusters and our unique communication datasets.

Optimize Performance: Implement and enhance distributed training frameworks (e.g., DeepSpeed, Megatron-LM, FSDP) and optimize kernels for maximum hardware efficiency.

Curate Large-Scale Data: Build and manage robust pipelines for filtering, tokenizing, and cleaning terabyte-scale communication data to ensure high-quality model input.

Evaluate and Align: Develop rigorous evaluation benchmarks and apply alignment techniques such as SFT and RLHF to improve model utility and safety for personalized user experiences.

Collaborate and Lead: Work across cross-functional teams to integrate research advancements into our core product offerings.

• You might thrive in this role if you have

Strong Foundation: A Master’s or PhD in Computer Science, Machine Learning, or a related field (or equivalent practical experience).

Deep Learning Expertise: Demonstrated experience in implementing Transformer-based models and proficiency in deep learning frameworks like PyTorch or JAX.

Distributed Systems Knowledge: Hands-on experience with large-scale distributed training across hundreds of GPUs and an understanding of networking/infrastructure bottlenecks.

Proactive Mindset: The ability to move fast in an environment where problems are often loosely defined, owning challenges from conception to deployment.

Preferred Experiences

We are looking for

Working Conditions

Salary

1000万円以上

※上記は目安であり、資格・経験に応じてさらに高い給与を提示することも可能です。

基本給：720,025円～

固定残業代（20時間）：112,975円～

Salary: JPY 10,000,000 or more * The amount listed above is a guideline. We are prepared to offer higher compensation based on the candidate's specific qualifications, expertise, and experience.

Location

東京・大阪・福岡のいずれか（転勤なし）希望に応じます。

東京本社

〒101-0054

東京都千代田区神田錦町3-17 廣瀬ビル 10F

最寄り駅

• 東京メトロ「竹橋駅」より徒歩6分
• 都営地下鉄・東京メトロ「神保町駅」より徒歩8分
• JR「神田駅」より徒歩15分

大阪オフィス

〒564-0052

大阪府吹田市広芝町10番8号 江坂董友ビル THE HUB 江坂南313

福岡オフィス

〒812-0013

福岡県福岡市博多区博多駅東一丁目1番33号

はかた近代ビル3階

Location: Tokyo, Osaka, or Fukuoka

As noted in the Requirements, at least 3 days of in-person attendance per week is required at one of these office locations.

Job Type

正社員

Work hours

• ワークスタイル

- ハイブリッド勤務（週3出社）

- 原則9:00~18:00勤務（クライアント対応部署との連携のため）

※出社勤務時はフレックスタイム制利用可（コアタイム：11:00~16:00）

• 休日・休暇
• 完全週休2日制（土・日）
• 祝日
• 年末年始休暇
• 有給休暇（入社月に応じて入社日に最大10日付与）
• 慶弔休暇
• アニバーサリー休暇（年1回）

Probation period

3ヶ月（待遇・給与に変更なし）

Benefits

• 社保完備
• 健康保険(ITS)
• 厚生年金保険
• 雇用保険
• 通勤交通費（上限4万円/月）
• 通信手当（3,000円/月）
• クラブ活動補助
• ワクワクランチ（四半期に1回・2,000円会社負担）
• リファラル制度（条件あり）
• コーヒー、ウォーターサーバー、おやつ無料
• 健康診断

•インフルエンザ予防接種（会社負担）