Principle Applied AI Engineer (LLM Master)

【關於我們】 Raccoon AI 是新興的生成式 AI Chatbot 解決方案提供商，專注幫助電子商務、網路平台等企業自動化處理客服訊息。我們自研的 AI 引擎可即時回覆 50–80% 的線上對話，大幅降低客服負擔、提升顧客體驗，進一步優化轉換率與營運效率。 【關於這個角色】 我們要找一位對 LLM 底層原理有真實、深入理解的技術主導者，擔任團隊在 LLM 上的技術大師。你不只是會用 API、調 prompt，遇到模型行為異常時，你能從第一原理（tokenization、attention、取樣、context window、訓練分布）推理出根因，把「玄學調參」變成「可解釋的工程決策」，並在必要時為團隊提供基於底層原理的建議與觀點。 你也會主導我們的模型策略：評估我們該持續使用 hosted 模型、還是投入 fine-tune / 自訓，並用數據、成本與技術權衡扛起這個決策。 【工作內容】 主導 LLM 系統架構與品質：prompt、RAG 檢索、multi-agent / 工具呼叫、評測方法論的整體設計與決策。 從第一原理 debug 模型行為：幻覺、function-calling 不穩、檢索品質、多語系斷詞、非確定性等問題的根因分析。 擁有並主導模型策略：hosted vs fine-tune vs 自訓的取捨評估與決策，涵蓋品質、延遲、成本、資料與維運。 建立科學化的評測與決策流程：讓 prompt / 模型升版有可量化的依據，而非憑感覺。 主導模型 / 供應商選型與多供應商抽象層策略。 擔任團隊技術權威與導師：指導工程師、在關鍵決策上提供基於原理的觀點，提升整體 LLM 工程能力。 追蹤領域前沿：讀 paper、評估新模型與新技術，並翻譯成可落地的應用決策。 【你需要具備】 對 LLM 內核有深入理解：transformer / attention、tokenization、pretraining / fine-tuning / RLHF、decoding 與取樣、embeddings、context window、scaling 行為。 紮實的 production LLM / 生成式 AI 系統實作經驗：RAG、agent / 工具呼叫、prompt engineering、eval，且有上線實績。 能做並能用數據與成本論證 build-vs-buy / fine-tune vs RAG vs prompt 這類策略決策 精熟 LLM 生態（LLM orchestration 框架、向量檢索、eval 工具）。 優秀的溝通與影響力，能對非技術人員做說明並影響架構決策。 紮實的軟體工程能力，能交付易於維運的 production 程式碼。 約 5 年以上軟體 / ML 經驗，其中 2–3 年以上為 production LLM / GenAI 相關經驗 (年資僅供參考) 【你可能還有 】 實際 fine-tune / 訓練 / 蒸餾模型經驗（LoRA、SFT、RLHF / DPO） 研究 / 論文背景，或能復現 paper。 多語系 / 中文（CJK）NLP 經驗。 推論優化、模型 serving、大規模成本 / 延遲控制。 建立 LLM 評測 / 可觀測性（tracing）系統的經驗。 【我們希望你是】 對底層原理有真正的好奇心與求真精神：遇到模型異常，不滿足於調 prompt 試試，而是願意回推到第一原理找答案。 能在資訊不完全、方向尚未定案的情況下，用證據與權衡做出高風險的模型策略判斷的人。 能把複雜的技術原理分享給非工程人員，也能在架構決策上說服團隊、帶領工程師成長。 務實的 applied 心態：重視上線成效與可維運性，而非只停留在研究或 notebook demo。 對前沿技術保持關注與好奇，但最終能把新知識轉譯成可落地的產品與工程決策。