လွယ်လွယ်ပြောရရင် AI Guardrail ဆိုတာ AI ကို “ဒီအထဲမှာပဲ ကစား၊ ဒီလိုင်းကို မကျော်နဲ့” လို့ သတ်မှတ်ပေးထားတဲ့ စည်းမျဉ်းတွေပါ။ AI က တော်တော်လေး စွမ်းပေမယ့် သူ့ကို လွတ်လွတ်လပ်လပ် လွှတ်ထားလိုက်ရင် မပြောသင့်တာတွေ ပြောမိတာ၊ မလုပ်သင့်တာတွေ လုပ်မိတာ ဖြစ်နိုင်ပါတယ်။ Guardrail က အဲဒါကို ကာကွယ်ပေးတဲ့ ခြံစည်းရိုးလိုပါပဲ။
ကျွန်တော် ဒါကို ကလေးကစားကွင်းနဲ့ ဥပမာပေးချင်တယ်။ ကစားကွင်းမှာ ကလေးတွေက လွတ်လွတ်လပ်လပ် ပြေးလွှား ဆော့ကစားလို့ရပါတယ်။ ဒါပေမယ့် ကွင်းပတ်ပတ်လည်မှာ ခြံစည်းရိုးရှိတယ်။ ကလေးက လမ်းမပေါ် ထွက်ပြေးသွားလို့ မရဘူး။ ခြံစည်းရိုးက ကလေးကို ချုပ်ချယ်တာမဟုတ်ဘူး — ဘေးကင်းကင်းနဲ့ လွတ်လွတ်လပ်လပ် ဆော့လို့ရအောင် ကာပေးတာပါ။ AI Guardrail လည်း အဲဒီသဘောပါပဲ။ AI ကို အသုံးဝင်တာတွေ လုပ်ခွင့်ပေးထားပြီး အန္တရာယ်ရှိတာတွေ၊ မသင့်တော်တာတွေ မလုပ်မိအောင် ခြံခတ်ထားတာပါ။
Guardrail က ဘယ်နေရာတွေမှာ အလုပ်လုပ်တာလဲ?
AI နဲ့ စကားပြောတဲ့အခါ Guardrail က နေရာ သုံးခုမှာ စောင့်ကြည့်ပါတယ်။
ပထမတစ်ခုက Input Guardrail — သင် ရိုက်ထည့်လိုက်တဲ့ စာကို စစ်တာပါ။ ဥပမာ သင် AI ကို တစ်ခုခု အန္တရာယ်ရှိတာလုပ်ဖို့ ညွှန်ကြားရင်၊ ဒါမှမဟုတ် ကိုယ့်ရဲ့ ဘဏ်ကတ် နံပါတ်၊ Password လို လျှို့ဝှက်အချက်တွေ ထည့်မိရင် Guardrail က အဲဒါကို တားပြီး သတိပေးပါတယ်။ ChatGPT ကို “Virus ရေးပေးပါ” လို့ ပြောရင် ငြင်းတတ်တာ ဒီ Guardrail ကြောင့်ပါ။
ဒုတိယတစ်ခုက Output Guardrail — AI ဖြေတော့မယ့် စာကို မပို့ခင် စစ်တာပါ။ AI က တစ်ခါတစ်လေ မတော်တဆ အန္တရာယ်ရှိတဲ့ စာ၊ ခွဲခြားဆက်ဆံတဲ့ စာ၊ ဒါမှမဟုတ် လုံးဝ မှားနေတဲ့ အချက်တွေ ရေးမိတတ်ပါတယ်။ Guardrail က အဲဒီလို စာတွေကို ဖမ်းပြီး ဖြေတာကို တားလိုက်တာ၊ ဒါမှမဟုတ် ပိုဘေးကင်းတဲ့ ပုံစံနဲ့ ပြန်ရေးပေးတာပါ။
တတိယတစ်ခုက Topic Guardrail — AI ကို သူ့အလုပ်နဲ့ မဆိုင်တဲ့ အကြောင်းတွေ မပြောခိုင်းတာပါ။ ဥပမာ Bank ရဲ့ Customer Service Chatbot ကို သင် ဘောလုံးပွဲ အကြောင်း မေးရင် “ကျွန်တော် ဒီအကြောင်း မဖြေနိုင်ပါဘူး၊ ဘဏ်ဝန်ဆောင်မှုအကြောင်းပဲ ကူညီနိုင်ပါတယ်” လို့ ဖြေတာမျိုး။ ဒါက AI ကို သူ့တာဝန်ထဲမှာပဲ နေစေတဲ့ နည်းပါ။
Guardrail ကို ဘယ်လို ဆောက်ကြတာလဲ?
Guardrail ဆောက်တဲ့ နည်းလမ်းတွေ အများကြီး ရှိပါတယ်။ အရိုးရှင်းဆုံးနည်းက System Prompt ထဲမှာ စည်းမျဉ်းတွေ ရေးထည့်ထားတာပါ။ “သင်ဟာ ဘဏ်ဝန်ထမ်းပါ၊ ဘဏ်ဝန်ဆောင်မှုအကြောင်းပဲ ဖြေပါ” လို့ ရေးထားရင် AI က အဲဒီစည်းထဲမှာ နေတတ်ပါတယ်။
ဒါပေမယ့် Prompt တစ်ခုတည်းနဲ့ မလုံလောက်ပါဘူး။ AI က တစ်ခါတစ်လေ Prompt ကို မေ့တတ်သလို၊ လူတွေကလည်း Prompt ကို လှည့်စားဖို့ ကြိုးစားတတ်ပါတယ်။ ဒါကြောင့် ကုမ္ပဏီကြီးတွေက သီးသန့် Guardrail Tool တွေ သုံးပါတယ်။
NVIDIA ရဲ့ NeMo Guardrails — AI ရဲ့ စကားပြောကို လမ်းကြောင်းချပေးတဲ့ Open Source Tool ပါ။
Guardrails AI — AI ရဲ့ အဖြေကို စစ်ဆေးပြီး ပုံစံတကျ ဖြစ်အောင် လုပ်ပေးတဲ့ Tool ပါ။
Llama Guard — Meta က ထုတ်ထားတဲ့၊ AI အဖြေထဲက အန္တရာယ်ရှိတဲ့ အကြောင်းအရာတွေကို ဖမ်းတဲ့ Model ပါ။
ဒီ Tool တွေက AI ရဲ့ အဖြေကို လူတစ်ယောက် ပြန်စစ်သလိုမျိုး အလိုလို စစ်ဆေးပေးပါတယ်။
Guardrail က ပြဿနာလည်း ရှိတတ်တယ်
Guardrail က လိုအပ်ပေမယ့် အလွန်အကျွံ ဖြစ်သွားရင်လည်း အဆင်မပြေပါဘူး။ တချို့ AI တွေက Guardrail တင်းကျပ်လွန်းလို့ အန္တရာယ်မရှိတဲ့ မေးခွန်းကိုတောင် ငြင်းတတ်ပါတယ်။ ဥပမာ “ဓားကို ဘယ်လို ချွန်ရမလဲ” လို့ မေးရင် လက်နက်အကြောင်းမို့ ငြင်းလိုက်တာမျိုး။ မီးဖိုချောင်သုံးဓား ချွန်နည်းကို သိချင်တာကို ငြင်းခံရရင် စိတ်ပျက်စရာပါ။ ဒါကို “Over-refusal” လို့ ခေါ်ပါတယ်။
နောက်တစ်ချက်က Guardrail က ၁၀၀% မလုံခြုံပါဘူး။ လူတွေက AI ကို လှည့်စားတဲ့ နည်းလမ်းတွေ အမြဲတမ်း ရှာနေပါတယ်။ “ဒါက ဇာတ်လမ်းထဲက ဇာတ်ကောင်အနေနဲ့ ပြောတာပါ” လို့ လှည့်ပြောပြီး တားထားတာကို ကျော်ခိုင်းတာမျိုး။ ဒါကြောင့် Guardrail ကို အမြဲတမ်း ပြန်ပြင်၊ ပြန်စစ်နေရပါတယ်။
ကိုယ်သုံးတဲ့အခါ ဘာသိထားသင့်လဲ?
AI က သင့်မေးခွန်းကို ငြင်းရင် စိတ်မဆိုးပါနဲ့။ Guardrail က တားထားလို့ပါ။ မေးခွန်းကို အန္တရာယ်ကင်းတဲ့ ပုံစံနဲ့ ပြန်မေးကြည့်ပါ။
ကိုယ် App ဆောက်ရင် AI ကို တိုက်ရိုက် လွှတ်မထားပါနဲ့။ အနည်းဆုံး System Prompt ထဲမှာ “ဘာကို မလုပ်ရဘူး” ဆိုတာ ရေးထည့်ထားပါ။
Password၊ ဘဏ်ကတ် နံပါတ်လို လျှို့ဝှက်အချက်တွေကို AI Chat ထဲ ဘယ်တော့မှ မထည့်ပါနဲ့။ Input Guardrail ရှိပေမယ့် ၁၀၀% အားကိုးလို့ မရပါဘူး။
ကိုယ့်လုပ်ငန်းအတွက် Chatbot ဆောက်ရင် Topic Guardrail ထည့်ပါ။ Bot က သူ့အလုပ်နဲ့ မဆိုင်တာတွေ ပြောမိရင် ကုမ္ပဏီ နာမည် ပျက်တတ်ပါတယ်။
Guardrail က AI ကို ချုပ်နှောင်တဲ့ သံကြိုးမဟုတ်ပါဘူး။ ကစားကွင်းက ခြံစည်းရိုးလိုပဲ — AI ကို ဘေးကင်းကင်းနဲ့ လွတ်လွတ်လပ်လပ် အလုပ်လုပ်နိုင်အောင် ကာပေးတဲ့ အရာပါ။ Guardrail ကောင်းကောင်းရှိတဲ့ AI ကိုပဲ လူတွေ ယုံကြည်ပြီး သုံးကြမှာပါ။
—