🌐 English | 繁體中文
你好，我是莊家賓，一位專注於 AI 領域開發應用的工程師。以下是我實作的專案，整合模型訓練、雲端部署與Demo展示，歡迎點擊體驗 。
🧑💻 技能總覽 / Tech Stack
| 類別 | 技術 |
|---|---|
| AI / 自架 LLM ·VLM | Gemma-4-26B、Qwen3.6、Qwen3-VL、MedGemma、Llama-3.2-Vision、Qwen2.5-7B / 14B、llama.cpp / llama-server、vLLM、TensorRT-LLM、GGUF / 4-bit 量化、AWQ / GPTQ / FP8(ModelOpt) |
| Agent 架構 | Planner / Executor（ReAct）/ Verifier、MCP（Model Context Protocol） |
| RAG / 檢索 | BM25(調參)、bge-m3(dense)、RRF hybrid 融合、bge-reranker-v2-m3、NVIDIA NIM reranker |
| LLM 評測 | LLM-as-judge(faithfulness)、Cohen's κ 校準、分層校準集、recall@k / hit@k / MRR、judge 雙向人工稽核 |
| 可信賴 AI / 不確定性 | Conformal Prediction(統計保證)、Selective Prediction(選擇性棄答 / 轉人工)、跨模型 disagreement、Risk–Coverage / per-label AUC |
| 深度學習框架 | PyTorch、TensorFlow、ONNX、HuggingFace transformers |
| 電腦視覺 | ViT、EfficientNetV2 + CBAM、YOLOv8 Nano（Ultralytics）、OpenCV、TorchXRayVision |
| 軟體品質 / 測試 | pytest、hypothesis(property-based)、mutation testing、mypy strict、ruff、pip-audit、GitHub Actions CI |
| 訓練與可解釋性 | Focal Loss、Mixup、CutMix、Grad-CAM、Score-CAM、SHAP、Confusion Matrix |
| 醫療資料標準 | HAPI FHIR R4、MedAgentBench、MIMIC-CXR / CheXpert |
| 後端 / API | FastAPI、Flask、Nginx、Uvicorn、Gradio |
| 雲端 / 部署 | Azure、AWS EC2 / RDS、GCP Compute Engine / Cloud Run、Docker |
| 系統整合 | LineBot、MySQL、HTML / JS |
| 工具 / 語言 | MobaXterm、Git、Python、WSL2 |
📂 專案二：單卡 RAG 選型實驗(SelectRAG)
🏆 成果亮點
👉 在單張 RTX 4090 上用受控對照實驗回答「RAG 該用哪種配置」:檢索、推論引擎、數值格式一次只動一軸，結論是 hybrid + reranker 讓 recall@3 從 0.808 升到 0.941,GPTQ-Int4 讓生成吞吐達 bf16 的 2.36 倍；連評分用的 LLM judge 都做了雙向人工稽核，確認量化沒有多出可量測的錯誤。
▶️ 觀看 Web Demo
🧰 技術亮點