AI推論基盤エンジニア（シニア／LLM／音声モデル）

仕事概要

━━━━━━━━━━━━━━━━━━━━━━━━━━
【この求人を一言でいうと】
音声AIおよびLLMの推論フレームワークを独立して設計・実装し、スループットとGPUコストを最適化する「AI推論基盤エンジニア（シニア）」のポジションです。なお、GPUクラスタの保守運用やSRE業務、RL学習基盤の構築は主業務ではありません。
チーム内の公用語は英語（日本語不問）で、想定年収は1,000万〜2,000万円（応相談）。勤務地は原則として、半蔵門オフィス（ハイブリッド前提）です。ただし、海外居住者や遠方の方からのご応募、フルリモート・ビザ取得サポート等についても柔軟に相談に応じます。
━━━━━━━━━━━━━━━━━━━━━━━━━━

■こんな経歴の方に向いています

LLM推論基盤（vLLM／SGLangなど）の構築・チューニング経験があるMLOps／ML Platformエンジニアの方
音声認識・音声合成モデルの研究開発から、推論基盤・システム側へ軸足を移したい方
大規模GPU上での推論ジョブのスループット・コスト最適化に携わってきた方

■役割：複数モデル（LLM／音声）に対応する高効率な推論フレームワークの設計・実装

Recho（レコー）では、複数の音声モデルおよび大規模言語モデル（LLM）を対象に、学習、評価、データ生成、バッチ推論（大量データの一括推論）を効率的に実行するためのAI推論基盤を構築しています。本ポジションの中心的なミッションは、複数の音声モデルおよびLLMに対応できる高効率な推論フレームワークを独立して設計・実装することです。

単純なモデルのAPI化や既存フレームワークの設定作業ではありません。モデルごとの構造、入出力、シーケンス長、前後処理、GPU特性を理解したうえで、モデル実行、バッチング、データ処理、スケジューリングを適切に分離・統合し、再利用可能な推論アーキテクチャを構築していただきます。

LLM領域でも、vLLM・SGLangなどの既存推論エンジンを活用し、モデル適応、推論パラメータ、バッチング、Prefill／Decode、リクエスト優先度などを調整します。音声とLLMの両面から、推論のスループットとGPUコストを最適化することが本ポジションの核です。

【このポジションで「やらないこと」】

オンラインサービスのSLA管理、オンコール、障害復旧、インフラ保守を主目的とするポジションではありません
GPUクラスタそのものの保守運用、一般的なSRE／DevOps業務は主業務ではありません（GPUクラスタの運用保守は別チームが担当します）
CUDA Kernelや推論エンジンのフルスクラッチ開発は主業務ではありません
RL（強化学習）学習基盤そのものの構築は、別ポジション「RL基盤エンジニア」が担当します（本ポジションは推論側を中心に連携します）

■お任せしたい主な業務
1. 音声モデル向け共通推論フレームワークの設計・実装

音声認識（ASR）・音声合成（TTS）・音声対話（Speech-to-Speech）・音声生成など、複数種類の音声モデルに対応する共通推論アーキテクチャの設計
共通モジュールとモデル固有モジュールの責務分離、新規モデルを追加するためのAdapter／Pluginインターフェースの設計
モデル開発チームが利用する推論API・SDK・実行ツールの開発

2. 大規模音声データの高効率バッチ推論・Pipeline最適化

可変長音声に対するDynamic Batching・Bucketing、複数GPU／ノードによるデータ並列推論の設計
前処理・推論・後処理・ストレージI/Oを重ね合わせる非同期実行Pipelineの構築
End-to-Endの処理時間とコストを基準としたボトルネックの計測・改善

3. LLM推論の適応・最適化

vLLM・SGLangなど成熟した推論エンジンを活用したLLM推論環境の構築（独自エンジンのフルスクラッチ開発は主業務ではありません）
Tensor／Pipeline Parallel、Continuous Batching、KV Cache／Prefix Cacheなどの調整
Prefill／Decodeの特性やタスク優先度を考慮したスケジューリング設計

4. GPUリソースの利用設計（推論ワークロード視点）

バッチ推論・評価を対象としたGPU割り当てとキャパシティ設計
Kubernetes・Slurm・RayなどによるGPU推論ジョブの実行制御
モデル・タスク単位でのGPU使用量と推論コストの可視化・改善
※より詳細な業務内容については、カジュアル面談や面接の際にお話しさせていただきます。

■このポジションの魅力
1. 「音声モデルの推論」という、まだ定石のない領域を切り拓ける
可変長音声・Codec・Vocoder・Speech-to-Speech・マルチモーダルなど、音声特有の推論には最適化の定石がまだありません。モデルの特性を理解して再利用可能な推論アーキテクチャをゼロから設計でき、後続モデル・全チームの土台になります。

2. 音声とLLM、両面の推論を一気通貫で最適化できる
音声モデルとLLMの双方を対象に、フレームワーク設計からバッチ推論・スケジューリングまで一貫して担えます。部分最適ではなく、推論全体のスループットとGPUコストで勝負できる希少なスコープです。

3. 自社の中核技術として、競争力やコスト最適化といった経営指標に直結
推論効率が生成音声あたりのGPUコストや応答速度を左右し、大手企業が本番運用するプロダクトの競争力そのものを決めます。保守ではなく、事業の中核技術によって価値を生み出せます。

■利用サービス・技術スタック一覧

言語・実装：Python ／ PyTorch
LLM推論：vLLM ／ SGLang ／ TensorRT-LLM ／ Triton Inference Server
音声モデル：ASR ／ TTS ／ Speech-to-Speech ／ Audio Codec ／ Vocoder
リソース管理・ジョブ実行：Kubernetes ／ Slurm ／ Ray
低レベル最適化（歓迎）：C++ ／ CUDA ／ Triton ／ NCCL

■プロダクトの優位性について
人間と区別がつかないレベルの自然な対話を実現する「Recho AI Voice Platform」の開発と、大手企業への「Voice AI Agent」の導入・運用支援を行っています。
最大の強みは、高品質なAI Agentを効率よく構築・改善できるプロダクト基盤にあります。業界の暗黙知を吸収し、ユーザーからのフィードバックデータをもとに、継続改善のサイクルを圧倒的な速度で回せる仕組みです。この技術により、金融・メーカー・行政などの実業務において複雑で大規模なコールセンターのAI化が急速に拡大しており、人間のオペレーターへの引き継ぎゼロ（完結率100%）を達成したプロジェクト実績もあります。

■面接・選考プロセス
カジュアル面談 ⇒ ケース課題・一次面接 ⇒ トライアル業務委託* ⇒ 最終面接 ⇒ オファー面談
*トライアル業務委託は、1日〜連続2日間オフィスにお越しいただき、実際にオフィスで業務に取り組んでいただく機会です（有償）。メンバーと協働し、カルチャーマッチと業務理解を確認し合う期間です。
※場合によってリファレンスチェックを依頼させていただくことがございます
※スケジュールや副業規定で業務委託が難しい場合には、ご相談くださいませ

■Rechoについて
Rechoは、カスタマーサポート領域の効率化を牽引する「AI Agent」の基盤モデル開発から、顧客への実装・プロジェクトデリバリーまでを同一組織内で一気通貫で行うテクノロジー企業です。

現在は、フルスクラッチで自社開発した「音声AI」技術を最大の強みとし、業界の長年の課題であった品質とコストのトレードオフを解消するソリューションをエンタープライズ向けに提供しています。シリーズAで約7億円の資金調達を完了し、SBI新生銀行やKDDIといった大手企業のシビアな本番環境への社会実装を急進させているフェーズです。

Rechoについて詳しく知りたい方に向けて、会社やプロダクトに関する公開情報をまとめたページをご用意しました。このページでは、弊社の事業内容やプロダクトの詳細、所属メンバーについてご覧いただけます。

■参考情報

必須スキル

※語学力：英語を用いた、専門的な技術コミュニケーション能力
※海外在住者の応募歓迎：日本への移住を伴う場合、就労ビザの取得支援およびリロケーションサポートを提供します

PythonおよびPyTorchによる高い実装力（設計だけでなく自らモジュール実装まで行えること）
GPUクラスタ上での推論基盤の実務経験、および性能分析・コスト改善の実績
非同期/並行処理、分散データ処理、可変長データのバッチング・並列推論の経験
複数の研究・モデル開発チームと技術的な調整を行えること
英語の技術文献を読み、英語で議論できること

【以下いずれかの専門性】 ※両方お持ちの方は優遇。もう一方は入社後のキャッチアップで可

LLM推論の専門性：vLLM・SGLang等を用いた実務経験、および推論機構
（Prefill/Decode、KV Cache等）の深い理解
音声モデル推論の専門性：ASR・TTS等の実務経験、および音声推論パイプライン（前処理〜後処理）の深い理解

歓迎スキル

先端モデル・音声応用

音声生成モデル（Diffusion / Flow Matching）や Audio Codec などの推論経験
ASR・TTS・Speech-to-Speech など複数モデルにまたがる実務経験
RL（強化学習）Rollout 推論環境の構築・最適化への関心・経験

パフォーマンス・低レイヤ最適化

可変長音声に対するDynamic Batching や複数 GPU / ノードによる分散・並列推論の設計経験
C++ / CUDA / Triton / NCCL への基礎理解と、Profiler を用いたボトルネック特定能力
GPU コストおよび計算予算の管理・最適化経験

基盤設計・技術リード

社内 AI Framework / 推論ライブラリ / モデル SDK の設計経験
vLLM / SGLang / PyTorch / Ray などへの OSS Contribution 経験
技術ロードマップ・設計標準・コードレビュー方針の策定経験

語学・コミュニケーション

日本語または中国語でのコミュニケーション能力
※本チームの公用語は英語ですが、日本語（会社の公用語）や中国語（中国語話者の社員も多数在籍）でのコミュニケーションが可能な方は、社内連携においてより歓迎します。

求める人物像

■求める人物像

ハンズオン志向： 高度なアーキテクチャ設計だけでなく、自らも最前線で手を動かし（Hands-on）、実装までこだわりを持って担える方
データ・ファクト・ドリブン： 性能やコストの課題に対して、感覚ではなくProfilerやBenchmark等の「データ」に基づいて論理的に判断し、全体最適化ができる方
実用主義（Pragmatic）： 車輪の再発明をせず、既存のOSSやフレームワークを適切に見極めて活用し、自社に必要な部分だけを鋭く拡張できる方
プラットフォーム思考： モデル開発チームなど、他チームが使いやすい基盤（道具・ライブラリ）を作り、組織全体の生産性を高めることを楽しめる方（Team-Firstな価値観）

■大切にしている4つの価値観に共感いただける方
Rechoの提供価値を最速で最大化するために、チームで大切にしているバリューをご紹介します。

Exceed Expectations
顧客と仲間の期待を、スピードと品質の両立で超え続ける。

Team-First
一人ひとりがプロとしての責任を果たし、個人ではなくチームの成果を最大化する。

Continuous Feedback
成果のために本気で向き合い、率直に伝え合う。言いにくいことこそ、敬意と配慮をもって誠実に伝え続ける。

Earn Trust
信頼は、すべての協力と挑戦の土台である。道徳的に判断し、公私混同しない。信頼を築くのには時間がかかり、失うのは一瞬。

応募概要

給与

前職の給与水準、スキルレベル等を総合して報酬を決定いたします。

年俸制：1,000万円～ 2,000万円
昇給：あり（年1回を基本とし、本人の貢献、会社の業績によって決定）
SO（ストックオプション）制度あり

勤務地

半蔵門WeWork（東京都千代田区麹町2-3-2 半蔵門PREX North）
出社推奨（一部リモートワーク可能）

雇用形態

正社員（トライアル業務委託からの参画も相談可能です）

勤務体系

■勤務時間

フルフレックス（コアタイムなし）
標準労働時間：1日8時間（休憩1時間）
始業・終業の時刻：労働者の決定に委ねる（基本目安 10:00〜19:00 ※休憩1時間を含む）

■職務内容・就業場所について

業務内容：（雇入れ直後）音声AI推論基盤開発業務
　　　　　　（変更の範囲）会社の定める業務
就業場所：（雇入れ直後）半蔵門WeWork（一部リモート相談可能）
　　　　　　（変更の範囲）会社の定める場所

■休日休暇
土日、祝日、年末年始（12月29日〜1月3日）、特別休暇、有給休暇（初年度10日）

試用期間

3ヶ月間（条件変更なし）

福利厚生

■保険・制度

各種社会保険完備
通勤手当有（月額25,000円まで）

■オフィス環境

WeWork入居（半蔵門駅徒歩2分／占有フロア・集中ブース・会議室完備）
館内ドリンク無料（コーヒー・ソフトドリンクに加え、アルコールも利用可）
高品質オフィスチェア完備
MacBook Air + 外部ディスプレイ貸与

■生産性向上サポート

Claude Code / Cursor / Devin などの開発ツール提供
AIツール利用補助（月3万円まで）
Amazon Business アカウント利用可（業務上必要な書籍・備品購入）

■コミュニケーション施策

日次開催の「昼会」　：業務進捗だけでなく、気軽なテーマの雑談も含めて相互理解を深化
月次開催の「懇親会」：月初金曜の終業後にオフィスで開催。軽食を交えた懇親

■受動喫煙防止措置
屋内原則禁煙（屋外に喫煙所あり）

AI推論基盤エンジニア（シニア／LLM／音声モデル）