လွယ်လွယ်ပြောရင် Small Language Model (SLM) ဆိုတာ ChatGPT လို ကြီးမားတဲ့ AI model တွေရဲ့ “အငယ်စား version” ပါ။ Parameter ဘီလီယံ ရာချီ ပါတဲ့ LLM ကြီးတွေနဲ့ မတူဘဲ SLM က parameter သန်း ဂဏန်း ဒါမှမဟုတ် ဘီလီယံ အနည်းငယ်ပဲ ပါလို့ ဖုန်း ဒါမှမဟုတ် laptop ပေါ်မှာ တိုက်ရိုက် run လို့ရတယ် — cloud server ဆီ data ပို့စရာ မလိုဘူး။
စားသောက်ဆိုင်နဲ့ ဥပမာပေးရအောင်။ LLM ကြီးက မြို့ကြီးက နာမည်ကြီး စားသောက်ဆိုင်ကြီးလိုပဲ — ဟင်းမျိုးစုံ ရပေမယ့် ဆိုင်ကို သွားရတယ် (internet လိုတယ်)၊ စောင့်ရတယ် (latency ရှိတယ်)၊ ပိုက်ဆံလည်း ပေးရတယ် (API cost)။ SLM ကျ အိမ်မှာ ထမင်းဟင်း ချက်တတ်တဲ့ မိသားစုဝင်လိုပဲ — ဟင်း အမျိုးအစား နည်းပေမယ့် ဗိုက်ဆာတာနဲ့ ချက်ချင်း စားရတယ်၊ ဘယ်သူ့မှ စောင့်စရာ မလိုဘူး၊ ကိုယ့်အိမ်ထဲက အကြောင်း ဘယ်သူ့မှ မသိဘူး။
နေ့တိုင်းသုံး ဥပမာတွေ —
Samsung Galaxy AI ရဲ့ Live Translate / Call Translate တစ်ချို့က ဖုန်းထဲမှာပဲ run တယ် — လေယာဉ်ပေါ် internet မရှိလည်း ဘာသာပြန်လို့ရတယ်
Google Pixel ရဲ့ Recorder app က အသံဖမ်းတာကို စာသားပြောင်းတာ ဖုန်းထဲမှာပဲ လုပ်တယ်
iPhone ရဲ့ Apple Intelligence feature တစ်ချို့လည်း on-device ပဲ run တယ် — ကိုယ့် message တွေ server ပေါ် မတက်ဘူး
SLM ဘာလို့ အရေးကြီးလာတာလဲ —
Internet မလိုဘူး — တောထဲ၊ လေယာဉ်ပေါ်၊ data ကုန်နေတဲ့ အချိန်လည်း အလုပ်လုပ်တယ်
Privacy ပိုကောင်းတယ် — ကိုယ့်စာတွေ၊ ကိုယ့်ပုံတွေ cloud server ပေါ် တက်စရာ မလိုဘူး
မြန်တယ် — server ကို စောင့်စရာ မလိုတော့ latency နည်းတယ်
အခမဲ့ — API ဖိုး ပေးစရာ မလိုဘူး
ဒါပေမယ့် အားနည်းချက်လည်း ရှိတယ်။ LLM ကြီးလောက် မတော်ဘူး — ရှုပ်ထွေးတဲ့ reasoning၊ code ရေးတာ၊ ရှည်လျားတဲ့ စာတွေ ရေးတာမှာ ကွာခြားချက် သိသာတယ်။ ပြီးတော့ ဖုန်းရဲ့ RAM နဲ့ battery ကို တော်တော် စားတယ်။ ဒါကြောင့် အခု industry trend က “hybrid” — လွယ်တဲ့ အလုပ် SLM က ဖုန်းထဲမှာ လုပ်၊ ခက်တဲ့ အလုပ်ကျ cloud LLM ကြီးဆီ လွှဲတဲ့ ပုံစံ။
ကိုယ်တိုင် စမ်းချင်ရင် —
Laptop ရှိရင် Ollama (ollama.com) ကို install လုပ်ပြီး ollama run llama3.2:1b လို့ ရိုက်ကြည့် — internet ပိတ်ထားလည်း အလုပ်လုပ်တယ်
ဖုန်းပေါ်မှာ စမ်းချင်ရင် PocketPal AI လို app တွေနဲ့ small model တစ်ခု download ဆွဲပြီး run ကြည့်လို့ရတယ်
Developer ဆိုရင် app ထဲ SLM ထည့်ချင်ရင် llama.cpp၊ MLX (Mac အတွက်)၊ ONNX Runtime လို library တွေ ရှိတယ်
တစ်ခုတော့ သတိထားပါ — SLM တွေလည်း hallucinate လုပ်တတ်တယ်။ အဖြေတိုင်းကို အဟုတ်မှတ်ပြီး ဆေးညွှန်း၊ ဥပဒေလို အရေးကြီးတဲ့ ကိစ္စတွေမှာ အသုံးမချမိစေနဲ့။
AI ခေတ်က cloud ကြီးတစ်ခုတည်းမှာ မဟုတ်တော့ဘူး — ကိုယ့်အိတ်ကပ်ထဲက ဖုန်းလေးထဲမှာပါ ရောက်လာပြီ။ နောက် ၂-၃ နှစ်အတွင်း “internet မရှိလည်း AI သုံးတယ်” ဆိုတာ ပုံမှန်ဖြစ်လာလိမ့်မယ်။ 🙂
