twguard
TWGuard 是一個推論安全研究計畫，旨在提出適用於臺灣語境，的大語言模型安全護欄（LLM guardrail），以滿足 AI 技術落地安全合規需求。 藉由高品質真實語料及人工標注，我們提出一個能反映臺灣語境的安全護欄模型，能攔截偵測各種帶有有害意圖的 LLM 提示詞（Prompt），例如犯罪、違法專業建議、色情、兒童性剝削等。 在評測中我們的模型顯著優於 Nvidia、Google、Meta、OpenAI、Alibaba 等 AI lab 的最佳模型（SOTA）。 我們的研究著重於反映臺灣語境情境，以期成果能適用於真實案場： 1. 基於語境設計：多數研究著重於中文支援，然而實際語境存在 code-mixing，例如臺灣常見注音文、網路用語、本土語言並用的情況。測試顯示...