NS

ローカルLLM/AIエージェントエンジニア

Hiring from
Japan
Work type
Remote
Posted

627,315 remote jobs, straight from company career pages

100% free · New jobs every minute

Show job description
Local LLM / AI Agent EngineerRemote | Part-time / Internship / Freelance / Contract
About Nsight

Nsight Inc. is a Tokyo-based AI company developing and deploying AI solutions for manufacturing and logistics.

Founded by engineers with experience in KEYENCE's machine vision division, we have delivered over 40 production deployments.

We are looking for hands-on engineers who can design, build, deploy, and maintain AI systems using local LLMs, GPUs, and autonomous AI agents.

Our focus is not simply on using AI tools, but on building reliable systems that enable AI to perform real-world tasks autonomously.

Responsibilities
  • Build and optimize local LLM inference systems using llama.cpp, vLLM, Ollama, Transformers, and other frameworks
  • Deploy and optimize LLMs and VLMs on GPUs, considering quantization, VRAM usage, latency, and throughput
  • Develop multi-agent systems for task decomposition, orchestration, tool execution, and result validation
  • Build automated workflows integrating Slack, APIs, internal databases, and business systems
  • Implement RAG pipelines, document retrieval, and long-term knowledge management
  • Design reliable, always-on services using Linux, Docker, systemd, schedulers, and background workers
  • Implement monitoring, error handling, retries, and automated recovery
  • Evaluate and integrate emerging AI models, agent frameworks, and development tools
Requirements
  • Hands-on Python development experience
  • Experience building and operating Linux-based services
  • Practical experience deploying local LLMs or GPU inference systems
  • Experience implementing AI agents, LLM-powered workflows, or tool integrations
  • Ability to independently investigate technical challenges and deliver working solutions
Preferred Qualifications
  • Experience with llama.cpp, vLLM, Ollama, or model quantization
  • Experience with RAG, vector databases, VLMs, or multimodal AI
  • Experience with Docker, GitHub, CI/CD, and monitoring
  • Familiarity with MCP and AI agent frameworks
  • Experience using Claude Code or other AI coding tools
  • Experience building production systems that operate autonomously
Example Projects

You may work on systems that:

  1. Receive requests through Slack or other interfaces
  2. Retrieve relevant company knowledge and documents
  3. Break down tasks and select suitable AI models or agents
  4. Execute actions through tools and APIs
  5. Validate results and handle failures automatically
  6. Return completed results to users
  7. Retain useful knowledge for future tasks

We value practical engineering, reliability, autonomy, and continuous improvement.

Employment & Working Conditions
  • Part-time and internship opportunities are available for candidates eligible to work in Japan
  • Freelance / independent contractor opportunities are available to candidates in Japan and overseas
  • Project-based contracts are welcome
  • Remote work is available
  • Compensation is negotiable based on experience, skills, and project scope
  • Work schedules and engagement terms are flexible and discussed individually
Application Requirements

Please include:

  • A description of an AI system you personally built or operated
  • Models, GPUs, inference runtimes, and frameworks you have used
  • Examples of tasks you automated
  • One technical problem or production failure you encountered and how you resolved it
  • A brief architecture proposal for a multi-agent workflow integrating Slack, AI agents, tool execution, review, and selective long-term memory


We evaluate practical experience and problem-solving ability rather than academic credentials alone.

Apply here:

https://www.nsight.jp/careers/contact/

Company careers page:

https://www.nsight.jp/careers/



ローカルLLM/AIエージェントエンジニア募集リモート可|アルバイト・インターン・業務委託
Nsightについて

Nsight株式会社は、製造・物流業界向けにAIシステムの開発・導入を行う企業です。

元キーエンス画像処理事業部のメンバーが創業し、40件以上の本番導入実績があります。

現在、ローカルLLMやAIエージェントを活用したシステムを、自ら設計・構築・運用できるエンジニアを募集しています。

単にAIツールを利用するだけでなく、AIが自律的に業務を実行し、安定して稼働し続ける仕組みを開発する仕事です。


仕事内容
  • ローカルLLMの構築・最適化(llama.cpp、vLLM、Ollamaなど)
  • GPU推論環境の構築、モデル選定、量子化、推論性能の最適化
  • 複数AIエージェントのオーケストレーション
  • Slack・API・社内システムと連携した業務自動化
  • RAG・文書検索・長期記憶の実装
  • Linux・Docker・systemdを活用した常時稼働基盤の構築
  • 監視・エラー処理・自動復旧の実装
  • 最新のAIモデルやエージェントフレームワークの検証・導入


必須スキル
  • Pythonによる開発経験
  • Linuxサーバーの構築・運用経験
  • ローカルLLMまたはGPU推論の実装経験
  • AIエージェントやLLMを利用したツール連携の実装経験
  • 技術的課題を自ら調査し、実装まで進められる能力


歓迎スキル
  • llama.cpp、vLLM、Ollamaなどの利用経験
  • RAG、ベクトル検索、VLM、マルチモーダルAIの開発経験
  • Docker、GitHub、CI/CD、監視システムの経験
  • MCPやAIエージェントフレームワークの利用経験
  • Claude CodeなどのAIコーディングツールの実務利用経験
  • 自律稼働するシステムの開発・運用経験


募集形態・勤務条件
  • 国内で就労可能な方:アルバイト・インターン
  • 国内・海外の方:業務委託
  • 案件単位での参画も歓迎
  • リモート勤務可能
  • 報酬は経験・スキル・担当範囲に応じて相談
  • 稼働時間や契約条件は個別に調整


応募時に確認したいこと
  • ご自身で構築・運用したAIシステムの概要
  • 使用したモデル・GPU・推論環境・フレームワーク
  • 実際に自動化した業務の内容
  • 開発中に直面した技術的課題や障害、その解決方法
  • Slack・複数AIエージェント・ツール実行・結果検証・長期記憶を組み合わせたシステムの簡単な構成案


学歴や資格以上に、実際の開発経験・技術力・問題解決能力を重視します。

応募フォーム:

https://www.nsight.jp/careers/contact/

採用情報:

https://www.nsight.jp/careers/

Similar jobs

Apply for this job100% free