သဘာဝဘာသာစကား စီမံဆောင်ရွက်မှု

သဘာဝဘာသာစကား စီမံဆောင်ရွက်မှု (အင်္ဂလိပ်: Natural language processing - NLP) (သို့မဟုတ်) လူသားဘာသာစကား စီမံဆောင်ရွက်မှု ဆိုသည်မှာ လူသားတို့ အသုံးပြုသည့် ဘာသာစကားဆိုင်ရာ အချက်အလက်များကို ကွန်ပျူတာဖြင့် စနစ်တကျ ခွဲခြမ်းစိပ်ဖြာ ဆောင်ရွက်ခြင်း ဖြစ်သည်။ ဤနေရာတွင် "သဘာဝဘာသာစကား" (Natural Language) ဆိုသည်မှာ လူသားတို့အချင်းချင်း ဆက်သွယ်ပြောဆိုရန်အတွက် သမိုင်းအစဉ်အဆက် သဘာဝအလျောက် ဖြစ်ပေါ်တိုးတက်လာသည့် မြန်မာစကား၊ အင်္ဂလိပ်စကား၊ ဂျပန်စကား စသည့် လူသားဘာသာစကားများကို ဆိုလိုခြင်းဖြစ်သည်။ ၎င်းသည် ကွန်ပျူတာကုဒ်များ ရေးသားရာတွင် အသုံးပြုသည့် C++, Java, Python စသော စနစ်တကျ သတ်မှတ်ထားသည့် "ကွန်ပျူတာ ပရိုဂရမ်မင်း ဘာသာစကားများ" (Formal/Programming Languages) နှင့် ကွဲပြားခြားနားပါသည်။ ဤနည်းပညာသည် ကွန်ပျူတာသိပ္ပံပညာရပ်၏ အစိတ်အပိုင်းတစ်ခုဖြစ်ပြီး ဉာဏ်ရည်တု (AI) နည်းပညာနှင့်လည်း တိုက်ရိုက် ဆက်နွှယ်နေပါသည်။ NLP ၏ အဓိက ရည်ရွယ်ချက်မှာ ကွန်ပျူတာများအား လူသားတို့၏ ဘာသာစကားကို နားလည်ခြင်း၊ ဘာသာပြန်ဆိုခြင်းနှင့် တုံ့ပြန်ခြင်းများ ပြုလုပ်နိုင်စေရန် ဖြစ်သည်။ ထို့အပြင် အချက်အလက် ရှာဖွေထုတ်ယူခြင်း၊ ဗဟုသုတများကို စနစ်တကျ ဖော်ပြခြင်း၊ ကွန်ပျူတာသုံး ဘာသာဗေဒနှင့် အထွေထွေ ဘာသာဗေဒ ပညာရပ်များနှင့်လည်း များစွာ သက်ဆိုင်ပါသည်။^[၁]

NLP စနစ်တစ်ခု၏ အဓိက လုပ်ဆောင်ရမည့် လုပ်ငန်းစဉ်ကြီးများတွင် အောက်ပါတို့ ပါဝင်ပါသည် -

စကားပြောသံကို ကွန်ပျူတာက မှတ်မိအောင် လုပ်ဆောင်ခြင်း (Speech Recognition)
စာသားများကို အမျိုးအစား ခွဲခြားခြင်း (Text Classification)
သဘာဝဘာသာစကားကို နားလည်အောင် လုပ်ဆောင်ခြင်း (Natural Language Understanding)
သဘာဝဘာသာစကားကို ပြန်လည် ထုတ်လုပ်ပေးခြင်း (Natural Language Generation)

သမိုင်းကြောင်း နောက်ခံ

သဘာဝဘာသာစကား စီမံဆောင်ရွက်မှု နည်းပညာသည် ၁၉၅၀ ပြည့်လွန်နှစ်များကတည်းက စတင် မြစ်ဖျားခံခဲ့သည်။^[၂] ၁၉၅၀ ပြည့်နှစ်တွင် အလန် ကျူးရင်း (Alan Turing) က "Computing Machinery and Intelligence" အမည်ရှိ ဆောင်းပါးတစ်စောင်ကို ရေးသားထုတ်ဝေခဲ့သည်။ ၎င်းဆောင်းပါးတွင် စက်ပစ္စည်းများ၏ ဉာဏ်ရည်ဉာဏ်သွေးကို တိုင်းတာရန်အတွက် ယခုအခါ "ကျူးရင်း စစ်ဆေးမှု" (Turing test) ဟု ခေါ်ဆိုသည့် စံနှုန်းတစ်ခုကို အဆိုပြုခဲ့သည်။ ထိုစဉ်က ဤစစ်ဆေးမှုကို ဉာဏ်ရည်တု နည်းပညာနှင့် သီးခြားခွဲထုတ်ပြီး ပြဿနာတစ်ခုအနေဖြင့် အတိအကျ သတ်မှတ်ထားခြင်း မရှိသေးသော်လည်း၊ သူအဆိုပြုခဲ့သည့် စစ်ဆေးမှုတွင် သဘာဝဘာသာစကားကို အလိုအလျောက် အဓိပ္ပာယ်ဖွင့်ဆိုခြင်းနှင့် ပြန်လည်ထုတ်လုပ်ခြင်း လုပ်ငန်းစဉ်များ ပါဝင်နေပြီ ဖြစ်သည်။

သင်္ကေတအခြေပြု သဘာဝဘာသာစကား စီမံဆောင်ရွက်မှု (Symbolic NLP) - ၁၉၅၀ ပြည့်လွန်နှစ်များမှ ၁၉၉၀ ပြည့်လွန်နှစ်များအစောပိုင်းအထိ

သင်္ကေတအခြေပြု NLP (Symbolic NLP) ၏ အခြေခံသဘောတရားကို ဂျွန်ဆားလ် (John Searle) ၏ "တရုတ်စာအခန်း" (Chinese room) စိတ်ကူးပုံဖော် စမ်းသပ်ချက်ဖြင့် ထင်ရှားစွာ သရုပ်ဖော်လေ့ရှိသည်။ ၎င်းသဘောတရားမှာ ကွန်ပျူတာတစ်ခုအား မေးခွန်းနှင့် ကိုက်ညီမည့် အဖြေများပါဝင်သော စည်းကမ်းချက်များ (ဥပမာ- တရုတ်စကားပြောလမ်းညွှန်စာအုပ်) ပေးထားပါက၊ ကွန်ပျူတာသည် မိမိထံရောက်ရှိလာသော အချက်အလက်များကို ထိုစည်းကမ်းချက်များနှင့် တိုက်ဆိုင်စစ်ဆေးပြီး အသုံးချခြင်းဖြင့် လူသားတို့၏ ဘာသာစကားကို နားလည်သကဲ့သို့ (သို့မဟုတ် အခြား NLP လုပ်ငန်းစဉ်များကို လုပ်ဆောင်နိုင်သကဲ့သို့) ပုံတူမျိုးပွား လုပ်ဆောင်ပေးခြင်း ဖြစ်သည်။

၁၉၅၀ ပြည့်လွန်နှစ်များ ၁၉၅၄ ခုနှစ်တွင် ပြုလုပ်ခဲ့သော ဂျော့ခ်ျတောင်း စမ်းသပ်ချက် (Georgetown experiment) ၌ ရုရှားဘာသာစကား စာကြောင်း ၆၀ ကျော်ကို အင်္ဂလိပ်ဘာသာစကားသို့ အလိုအလျောက် အပြည့်အဝ ဘာသာပြန်ဆိုနိုင်ခဲ့သည်။ ထိုစဉ်က သုတေသီများက နောက်ထပ် ၃ နှစ်မှ ၅ နှစ်အတွင်း စက်ဖြင့် ဘာသာပြန်ဆိုခြင်း (Machine Translation) ပြဿနာကို အပြီးသတ် ဖြေရှင်းနိုင်လိမ့်မည်ဟု ကြွေးကြော်ခဲ့ကြသည်။^[၃] သို့သော်လည်း လက်တွေ့တိုးတက်မှုမှာ အလွန်နှေးကွေးခဲ့ပြီး ၁၉၆၆ ခုနှစ်တွင် ထွက်ရှိလာသော ALPAC အစီရင်ခံစာ၌ ဆယ်စုနှစ်တစ်ခုကြာ သုတေသနပြုမှုသည် မျှော်မှန်းချက်များကို ပြည့်မီအောင် မစွမ်းဆောင်နိုင်ကြောင်း ဖော်ပြခဲ့ပြီးနောက် စက်ဖြင့်ဘာသာပြန်ဆိုခြင်း လုပ်ငန်းများအတွက် ရန်ပုံငွေ ထောက်ပံ့မှု သိသိသာသာ လျော့ကျသွားခဲ့သည်။ ထို့ကြောင့် ၁၉၈၀ ပြည့်လွန်နှစ်များအနှောင်းပိုင်း ပထမဆုံးသော ကိန်းဂဏန်းအခြေပြု စက်မှုဘာသာပြန်စနစ်များ (Statistical Machine Translation Systems) ပေါ်ပေါက်မလာခင်အထိ အမေရိကန်နိုင်ငံတွင် စက်ဖြင့်ဘာသာပြန်ဆိုခြင်း သုတေသနလုပ်ငန်းများ လုံးဝနီးပါး ရပ်ဆိုင်းသွားခဲ့ရသည်။ (သို့သော် ဂျပန်နှင့် ဥရောပကဲ့သို့ အခြားဒေသများတွင်မူ သုတေသနအချို့ ဆက်လက်ရှိနေခဲ့သည်။^[၄])
၁၉၆၀ ပြည့်လွန်နှစ်များ ၁၉၆၀ ပြည့်လွန်နှစ်များအတွင်း ထူးခြားစွာ အောင်မြင်ခဲ့သော NLP စနစ်အချို့ ပေါ်ထွက်ခဲ့သည်။ ၎င်းတို့မှာ ကန့်သတ်ထားသော ဝေါဟာရများဖြင့် ဂျီဩမေတြီပုံစံကမ္ဘာငယ်လေး (Blocks Worlds) ထဲတွင် လုပ်ဆောင်နိုင်သည့် SHRDLU အမည်ရှိ သဘာဝဘာသာစကားစနစ်နှင့် ၁၉၆၄ ခုနှစ်မှ ၁၉၆၆ ခုနှစ်အတွင်း ဂျိုးဇက် ဝိုက်ဇင်ဘမ်း (Joseph Weizenbaum) ရေးသားခဲ့သော ရော်ဂျာရီယန် စိတ်ဓာတ်ရေးရာ ကုထုံးပညာရှင်အဖြစ် ပုံတူဖန်တီးထားသည့် ELIZA စနစ်တို့ ဖြစ်ကြသည်။ ELIZA စနစ်သည် လူသားတို့၏ အတွေးအခေါ် သို့မဟုတ် ခံစားချက်ဆိုင်ရာ အချက်အလက်များကို အနည်းငယ်မျှသာ အသုံးပြုထားသော်လည်း လူသားအချင်းချင်း ဆက်သွယ်ပြောဆိုနေသကဲ့သို့ ထင်မှတ်ရသော အပြန်အလှန် တုံ့ပြန်မှုများကို ဖန်တီးနိုင်ခဲ့သည်။ စမ်းသပ်သူ (လူနာ) က ELIZA တွင် သိုလှောင်ထားသော အလွန်နည်းပါးသည့် ဗဟုသုတအခြေခံထက် ကျော်လွန်ပြီး ပြောဆိုလာသည့်အခါတွင်မူ ယေဘုယျဆန်သော တုံ့ပြန်မှုမျိုးကိုသာ ပေးနိုင်တော့သည်။ ဥပမာအားဖြင့် "ကျွန်တော့်ခေါင်းကိုက်နေတယ်" ဟု ပြောပါက ELIZA က "မင်းခေါင်းကိုက်နေတယ်လို့ ဘာလို့ပြောတာလဲ" ဟု ပြန်လည်မေးခွန်းထုတ်သည့် ပုံစံမျိုး ဖြစ်သည်။ ထိုခေတ်ကာလက ရော့စ် ကွီလီယန် (Ross Quillian) ၏ သဘာဝဘာသာစကားဆိုင်ရာ အောင်မြင်သော သုတေသနလုပ်ငန်းတစ်ခုတွင် ဝေါဟာရလုံးရေ ၂၀ မျှသာ အသုံးပြုပြသနိုင်ခဲ့ခြင်းမှာ ထိုအချိန်က ကွန်ပျူတာ၏ မှတ်ဉာဏ် (Memory) ထဲတွင် ထိုမျှသာ ဆံ့ဝင်နိုင်ခြင်းကြောင့် ဖြစ်သည်။^[၅]
၁၉၇၀ ပြည့်လွန်နှစ်များ ၁၉၇၀ ပြည့်လွန်နှစ်များအတွင်း ပရိုဂရမ်မာ အများအပြားသည် ပြင်ပကမ္ဘာမှ အချက်အလက်များကို ကွန်ပျူတာ နားလည်နိုင်သော အချက်အလက်ပုံစံအဖြစ် စနစ်တကျ ဖွဲ့စည်းတည်ဆောက်ပေးသည့် "သဘောတရားအခြေခံ အလွှာအဆင့်ဆင့်ဆိုင်ရာစနစ်များ" (Conceptual Ontologies) ကို စတင်ရေးသားခဲ့ကြသည်။ ထင်ရှားသော နမူနာများမှာ MARGIE (Schank, 1975)၊ SAM (Cullingford, 1978)၊ PAM (Wilensky, 1978)၊ TaleSpin (Meehan, 1976)၊ QUALM (Lehnert, 1977)၊ Politics (Carbonell, 1979) နှင့် Plot Units (Lehnert 1981) တို့ ဖြစ်ကြသည်။ ဤကာလအတွင်းမှာပင် PARRY ကဲ့သို့သော ကနဦး စကားပြောစက်ရုပ် (Chatterbots) များကို စတင်ရေးသားခဲ့ကြသည်။
၁၉၈၀ ပြည့်လွန်နှစ်များ ၁၉၈၀ ပြည့်လွန်နှစ်များနှင့် ၁၉၉၀ ပြည့်လွန်နှစ်များအစောပိုင်းသည် NLP တွင် သင်္ကေတအခြေပြု နည်းလမ်းများ (Symbolic Methods) အရှိန်အဟုန်အကောင်းဆုံး ရွှေခေတ်ကာလ ဖြစ်ခဲ့သည်။ ထိုခေတ်က အဓိကအာရုံစိုက်ခဲ့သော နယ်ပယ်များတွင် စည်းကမ်းချက်အခြေပြု စာကြောင်းခွဲခြမ်းစိပ်ဖြာခြင်း သုတေသနများ (ဥပမာ- Generative Grammar ကို ကွန်ပျူတာတွင် လက်တွေ့အသုံးချနိုင်ရန် မွေးဖွားလာသော HPSG စနစ်)၊ စကားလုံးတည်ဆောက်ပုံစနစ် (Morphology) (ဥပမာ- အဆင့်နှစ်ဆင့် စကားလုံးတည်ဆောက်ပုံစနစ်^[၆])၊ အဓိပ္ပာယ်ဗေဒ (Semantics) (ဥပမာ- Lesk Algorithm)၊ ညွှန်းဆိုမှုစနစ် (Reference) (ဥပမာ- Centering Theory အတွင်းရှိ လေ့လာမှုများ^[၇]) နှင့် သဘာဝဘာသာစကား နားလည်မှုဆိုင်ရာ အခြားနယ်ပယ်များ (ဥပမာ- Rhetorical Structure Theory) တို့ ပါဝင်သည်။ ထို့အပြင် Racter နှင့် Jabberwacky ကဲ့သို့သော စကားပြောစက်ရုပ်များကို ဆက်လက်ဖော်ထုတ်သည့် အခြားသုတေသနလမ်းကြောင်းများလည်း ရှိခဲ့သည်။ ဤကာလအတွင်း (နောက်ပိုင်း ၁၉၉၀ ပြည့်လွန်နှစ်များတွင် ကိန်းဂဏန်းအခြေပြုစနစ်သို့ ကူးပြောင်းသွားစေရန် လမ်းခင်းပေးခဲ့သည့်) အရေးကြီးသော တိုးတက်မှုတစ်ခုမှာ အရေအတွက်အခြေပြု အကဲဖြတ်ခြင်းစနစ် (Quantitative Evaluation) ကို ပိုမိုအလေးထား အသုံးပြုလာခြင်းပင် ဖြစ်သည်။^[၈]

ကိန်းဂဏန်းအခြေပြု သဘာဝဘာသာစကား စီမံဆောင်ရွက်မှု (Statistical NLP) - ၁၉၉၀ ပြည့်လွန်နှစ်များမှ ယနေ့ခေတ်အထိ

၁၉၈၀ ပြည့်လွန်နှစ်များအထိ သဘာဝဘာသာစကား စီမံဆောင်ရွက်မှုစနစ် အများစုကို လူသားတို့ ကိုယ်တိုင် လက်ဖြင့် ရေးသားထားသော ရှုပ်ထွေးသည့် စည်းကမ်းချက်များအပေါ် အခြေခံ၍ တည်ဆောက်ခဲ့ကြသည်။ သို့သော်လည်း ၁၉၈၀ ပြည့်လွန်နှစ်များ အနှောင်းပိုင်းမှ စတင်ကာ ဘာသာစကား စီမံဆောင်ရွက်မှု ကဏ္ဍတွင် ဒေတာအခြေပြုသင်ယူမှုစနစ် (Machine Learning) Algorithm များကို စတင်မိတ်ဆက် အသုံးပြုခဲ့သဖြင့် ကြီးမားသော တော်လှန်ပြောင်းလဲမှုတစ်ရပ် ပေါ်ပေါက်ခဲ့သည်။ ဤကဲ့သို့ ကူးပြောင်းလာခြင်းသည် ကွန်ပျူတာများ၏ တွက်ချက်နိုင်စွမ်းအား ပိုမိုမြင့်မားလာခြင်း (မိုး၏နိယာမ - Moore's law ကိုကြည့်ပါ) နှင့် နာအွန် ချုမ်းစကီး (Chomsky) ၏ ဘာသာဗေဒ သီအိုရီများ (ဥပမာ- ပြောင်းလဲဖွဲ့စည်းမှု သဒ္ဒါသီအိုရီ) လွှမ်းမိုးမှု လျော့ကျလာခြင်းတို့ကြောင့် ဖြစ်သည်။ ချုမ်းစကီး၏ သီအိုရီ အခြေခံများသည် စက်သင်ယူမှုစနစ်ဖြင့် ဘာသာစကား စီမံဆောင်ရွက်ရာတွင် အသုံးပြုသည့် "ဘာသာစကား အချက်အလက်စုဆောင်းမှုအခြေပြု ဘာသာဗေဒ" (Corpus Linguistics) နည်းလမ်းကို အားမပေးခဲ့ပေ။^[၉]

၁၉၉၀ ပြည့်လွန်နှစ်များ သဘာဝဘာသာစကား စီမံဆောင်ရွက်မှုတွင် ကိန်းဂဏန်းအခြေပြု နည်းလမ်းများ၏ ကနဦး ထူးခြားသော အောင်မြင်မှု အများစုသည် စက်ဖြင့် ဘာသာပြန်ဆိုခြင်း (Machine Translation) နယ်ပယ်တွင် ဖြစ်ထွန်းခဲ့သည်။ အထူးသဖြင့် IBM Research ၏ IBM စာကြောင်း ညှိနှိုင်းမှုမော်ဒယ်များ (IBM alignment models) ကဲ့သို့သော လုပ်ဆောင်ချက်များကြောင့် ဖြစ်သည်။ ဤစနစ်များသည် ကနေဒါ လွှတ်တော်နှင့် ဥရောပသမဂ္ဂတို့က အစိုးရ၏ လုပ်ငန်းစဉ် အားလုံးကို တရားဝင် ဘာသာစကားအားလုံးသို့ ဘာသာပြန်ဆိုရမည်ဟူသော ဥပဒေများကြောင့် ပေါ်ထွက်လာသည့် ဘာသာစကားမျိုးစုံသုံး စာသားအချက်အလက်စုကြီး (Multilingual Textual Corpora) ကို အကျိုးရှိရှိ အသုံးချနိုင်ခဲ့သည်။ သို့သော်လည်း စနစ်အများစုမှာ ၎င်းတို့ လုပ်ဆောင်ရန် သီးသန့်ရည်ရွယ် တည်ဆောက်ထားသော ဘာသာစကား အချက်အလက်စုများအပေါ်တွင်သာ မှီခိုနေခဲ့ရသည်။ ဤသို့ မှီခိုနေရခြင်းသည် နည်းပညာကို ကျယ်ကျယ်ပြန့်ပြန့်နှင့် ထိရောက်စွာ အသုံးချနိုင်မှု အပိုင်းတွင် အဓိက အကန့်အသတ်တစ်ခု ဖြစ်ခဲ့ပြီး ယနေ့တိုင် အလားတူစနစ်များအပေါ် သက်ရောက်မှု ရှိနေဆဲ ဖြစ်သည်။ ထို့ကြောင့် အချက်အလက် ပမာဏ အကန့်အသတ်ရှိသော နေရာများတွင် ထိရောက်စွာ သင်ယူနိုင်မည့် နည်းလမ်းများ ရှာဖွေရေးအတွက် သုတေသနလုပ်ငန်းများကို အလေးထား လုပ်ဆောင်လာကြသည်။
၂၀၀၀ ပြည့်လွန်နှစ်များ ၁၉၉၀ ပြည့်လွန်နှစ်များ အလယ်ပိုင်းမှ စတင်ကာ အင်တာနက် ကွန်ရက်ကြီး ကြီးထွားလာသည်နှင့်အမျှ ပြုပြင်မွမ်းမံထားခြင်း မရှိသော (အညွှန်းတပ်မထားသော) ဘာသာစကား အချက်အလက် အကြမ်း အမြောက်အမြားကို ရရှိလာနိုင်ခဲ့သည်။ ထို့ကြောင့် သုတေသနလုပ်ငန်းများသည် လမ်းညွှန်မှုမဲ့ စက်သင်ယူမှုစနစ် (Unsupervised Learning) နှင့် လမ်းညွှန်မှုတစ်ဝက်တစ်ပျက် စက်သင်ယူမှုစနစ် (Semi-supervised Learning) များဆီသို့ ပိုမိုအာရုံစိုက်လာခဲ့သည်။ ဤစနစ်များသည် လူသားတို့က အဖြေများကို လက်ဖြင့် အညွှန်းတပ်ပေးထားခြင်း မရှိသည့် အချက်အလက်များမှ သော်လည်းကောင်း၊ အညွှန်းတပ်ထားသော အချက်အလက်နှင့် အညွှန်းမတပ်ထားသော အချက်အလက် နှစ်မျိုးလုံးကို တွဲဖက်၍သော်လည်းကောင်း အလိုအလျောက် သင်ယူနိုင်စွမ်း ရှိကြသည်။ ယေဘုယျအားဖြင့် ဤလုပ်ငန်းစဉ်သည် လမ်းညွှန်မှုပါသော စက်သင်ယူမှုစနစ် (Supervised Learning) ထက် များစွာ ပိုမိုခက်ခဲပြီး သတ်မှတ်ထားသည့် အချက်အလက် ပမာဏတစ်ခုပေါ်တွင် တွက်ချက်ရာ၌ တိကျမှု ပိုမိုနည်းပါးလေ့ရှိသည်။ သို့သော်လည်း အင်တာနက်စာမျက်နှာတစ်ခုလုံးရှိ အကြောင်းအရာများ အပါအဝင် အညွှန်းမတပ်ထားသော အချက်အလက် အမြောက်အမြားကို အလွယ်တကူ ရရှိနိုင်ခြင်းကြောင့်၊ အသုံးပြုသည့် စနစ်သည် လက်တွေ့ကျကျနှင့် အချိန်တိုတိုအတွင်း တွက်ချက်နိုင်စွမ်းရှိပါက နိမ့်ကျသော ထိရောက်မှုကို အချက်အလက် ပမာဏအင်အားဖြင့် ပြန်လည်ကာမိစေနိုင်သည်။
၂၀၀၃ ခုနှစ် ထိုခေတ်ကာလက အကောင်းဆုံး ကိန်းဂဏန်းအခြေပြု စနစ်ဖြစ်သည့် စကားလုံး n-gram မော်ဒယ် (Word n-gram model) ကို ဘန်ဂျီအို (Bengio) နှင့် အဖွဲ့က တီထွင်လိုက်သော အလွှာစုံ ပါဆက်ထရွန် စနစ် (Multi-layer Perceptron) က သာလွန်ကျော်ဖြတ်သွားခဲ့သည်။ ၎င်းစနစ်သည် ဝှက်ထားသောအလွှာ (Hidden Layer) တစ်ခုတည်း ပါဝင်ပြီး စကားလုံးအချို့၏ ရှေ့နောက်အကြောင်းအရာ အလျားကို အသုံးပြုကာ စကားလုံးပေါင်း ၁၄ သန်းအထိ လေ့ကျင့်သင်ကြားပေးထားသော စနစ်ဖြစ်သည်။^[၁၀]
၂၀၁၀ ပြည့်နှစ် တိုမတ်စ် မီကိုလော့ဗ် (Tomáš Mikolov - ထိုစဉ်က Brno နည်းပညာတက္ကသိုလ်မှ ပါရဂူဘွဲ့သင်တန်းသား) နှင့် အဖွဲ့သည် ဝှက်ထားသောအလွှာတစ်ခုတည်း ပါဝင်သည့် ရိုးရှင်းသော ထပ်တလဲလဲဖြစ် အာရုံကြောပုံတူကွန်ရက် (Simple Recurrent Neural Network) ကို ဘာသာစကားမော်ဒယ်ဖန်တီးမှု (Language Modeling)^[၁၁] တွင် အသုံးချခဲ့ပြီး နောက်ပိုင်းနှစ်များတွင် Word2vec စနစ်ကို ဆက်လက် တီထွင်ခဲ့သည်။ ၂၀၁၀ ပြည့်လွန်နှစ်များတွင် သဘာဝဘာသာစကား စီမံဆောင်ရွက်မှု ကဏ္ဍ၌ အချက်အလက်များကို ကိုယ်စားပြုသင်ယူခြင်း (Representation Learning) နှင့် (ဝှက်ထားသောအလွှာ အများအပြား ပါဝင်သည့်) နက်ရှိုင်းသော အာရုံကြောပုံတူကွန်ရက်ပုံစံ (Deep Neural Network-style) စက်သင်ယူမှု နည်းလမ်းများကို ကျယ်ကျယ်ပြန့်ပြန့် အသုံးပြုလာကြသည်။ ဤကဲ့သို့ ပြောင်းလဲလာခြင်းသည် အဆိုပါ နည်းပညာများသည် ဘာသာစကားမော်ဒယ်ဖန်တီးမှုနှင့် စာကြောင်းခွဲခြမ်းစိပ်ဖြာမှု ကဲ့သို့သော သဘာဝဘာသာစကားဆိုင်ရာ လုပ်ငန်း အမြောက်အမြားတွင် အကောင်းဆုံးသော ရလဒ်များကို စွမ်းဆောင်နိုင်ကြောင်း သက်သေပြနိုင်ခဲ့ခြင်းကြောင့် ဖြစ်သည်။^[၁၂]^[၁၃] ဤနည်းပညာသည် ဆေးပညာနှင့် ကျန်းမာရေးစောင့်ရှောက်မှု ကဏ္ဍများတွင် ပိုမိုအရေးပါလာပြီး၊ လူနာများအား ကုသမှု ပိုမိုကောင်းမွန်အောင် အဆင့်မြှင့်တင်ရာတွင် သော်လည်းကောင်း၊ လူနာ၏ ကိုယ်ရေးကိုယ်တာ အချက်အလက်များကို ကာကွယ်ရာတွင် သော်လည်းကောင်း၊ အခြားနည်းလမ်းဖြင့် လေ့လာရန် ခက်ခဲသော လျှပ်စစ်ကျန်းမာရေး မှတ်တမ်းများ (Electronic Health Records) ထဲရှိ ဆရာဝန်များ၏ မှတ်စုများနှင့် စာသားများကို ခွဲခြမ်းစိပ်ဖြာ လေ့လာရန်အတွက် NLP က များစွာ အထောက်အကူပြုလျက် ရှိသည်။^[၁၄]^[၁၅]^[၁၆]^[၁၇]^[၁၈]

အသုံးပြုသည့် နည်းလမ်းများ - သင်္ကေတအခြေပြုနည်းလမ်း၊ ကိန်းဂဏန်းအခြေပြုနည်းလမ်းနှင့် အာရုံကြောပုံတူကွန်ရက်နည်းလမ်းများ

သမိုင်းကြောင်းအရ အထွေထွေဉာဏ်ရည်တု (AI) ကဏ္ဍနှင့် သဘာဝဘာသာစကား စီမံဆောင်ရွက်မှု (NLP) ကဏ္ဍနှစ်ခုလုံးတွင် အစောဆုံး စတင်အသုံးပြုခဲ့သည့် နည်းလမ်းမှာ သင်္ကေတအခြေပြုနည်းလမ်း (Symbolic approach) ဖြစ်သည်။ ဤနည်းလမ်းသည် သင်္ကေတများကို စီမံခန့်ခွဲရန်အတွက် စည်းကမ်းချက်များကို လူကိုယ်တိုင် အပင်ပန်းခံ ရေးသားခြင်းဖြစ်ပြီး ၎င်းကို အဘိဓာန်တွင် ရှာဖွေတိုက်ဆိုင်စစ်ဆေးသည့် စနစ်နှင့် တွဲဖက်အသုံးပြုသည်။ ဥပမာအားဖြင့် သဒ္ဒါစည်းကမ်းများကို ရေးသားခြင်း သို့မဟုတ် စကားလုံးများ၏ အခြေခံရင်းမြစ်ကို ရှာဖွေရန်အတွက် ဗေဒင်ကိန်းဂဏန်းကဲ့သို့ မှန်းဆချက်စည်းကမ်းများ (Heuristic rules for stemming) ကို ဖန်တီးခြင်းတို့ ဖြစ်ကြသည်။^[၁၉]^[၂၀]

အခြားတစ်ဖက်တွင်မူ ကိန်းဂဏန်းအခြေပြုနည်းလမ်းနှင့် အာရုံကြောပုံတူကွန်ရက်နည်းလမ်း နှစ်မျိုးလုံး ပါဝင်သော ဒေတာအခြေပြုသင်ယူမှုစနစ်နည်းလမ်းများ (Machine learning approaches) သည် သင်္ကေတအခြေပြုနည်းလမ်းထက် အောက်ပါအတိုင်း များစွာ ပိုမိုအားသာချက်ရှိပါသည် -

ကိန်းဂဏန်းအခြေပြုနည်းလမ်းနှင့် အာရုံကြောပုံတူကွန်ရက်နည်းလမ်းများသည် စာသားအချက်အလက်စုကြီးများ (Corpus) ဆီမှ ထုတ်နုတ်ရရှိသော အသုံးအများဆုံး အခြေအနေများကို ပိုမိုအာရုံစိုက် လေ့လာကြသည်။ စည်းကမ်းချက်အခြေပြုနည်းလမ်း (Rule-based approach) တွင်မူ အသုံးနည်းသော အခြေအနေနှင့် အသုံးများသော အခြေအနေ နှစ်ခုလုံးအတွက် စည်းကမ်းချက်များကို တန်းတူရည်တူ ထည့်သွင်းရေးသားပေးရန် လိုအပ်သည်။
ကိန်းဂဏန်းအခြေပြုနည်းလမ်း သို့မဟုတ် အာရုံကြောပုံတူကွန်ရက်နည်းလမ်းများဖြင့် တည်ဆောက်ထားသော ဘာသာစကားမော်ဒယ်များ (Language models) သည် စည်းကမ်းချက်အခြေပြုစနစ်များနှင့် နှိုင်းယှဉ်ပါက စိမ်းနေသော အချက်အလက်များ (ဥပမာ- ယခင်က မမြင်ဖူးသော စကားလုံး သို့မဟုတ် ဝါကျတည်ဆောက်ပုံများ) နှင့် မှားယွင်းနေသော အချက်အလက်များ (ဥပမာ- စာလုံးပေါင်းမှားခြင်း သို့မဟုတ် စကားလုံးအချို့ မတော်တဆ ကျန်ရစ်ခဲ့ခြင်း) ကို ပိုမိုခံနိုင်ရည်ရှိပြီး တုံ့ပြန်ဆောင်ရွက်နိုင်သည်။ ထို့ပြင် စည်းကမ်းချက်အခြေပြုစနစ်များကို တည်ဆောက်ရန်အတွက် ကုန်ကျစရိတ် ပိုမိုများပြားသည်။
ဖြစ်တန်စွမ်းအခြေပြု (Probabilistic) ဘာသာစကားမော်ဒယ်များသည် ပမာဏပိုမိုကြီးမားလာလေလေ တိကျမှု ပိုမိုမြင့်မားလာလေလေ ဖြစ်သည်။ စည်းကမ်းချက်အခြေပြုစနစ်များတွင်မူ စည်းကမ်းချက် အရေအတွက်နှင့် ရှုပ်ထွေးမှုများကို တိုးမြှင့်မှသာ တိကျမှု အနည်းငယ် တက်လာနိုင်မည်ဖြစ်ပြီး ၎င်းသည် နောက်ဆုံးတွင် စနစ်တစ်ခုလုံးကို ကိုင်တွယ်ဖြေရှင်းရန် မဖြစ်နိုင်တော့သည့် ပြဿနာများ (Intractability problems) ဆီသို့ ဦးတည်သွားစေသည်။

စည်းကမ်းချက်အခြေပြုစနစ်များကို အောက်ပါအခြေအနေများတွင် ယေဘုယျအားဖြင့် အသုံးပြုလေ့ရှိပါသည် -

ဒေတာအခြေပြုသင်ယူမှုနည်းလမ်းများကို အောင်မြင်စွာ အသုံးချနိုင်ရန်အတွက် လေ့ကျင့်ပေးမည့် ဒေတာအချက်အလက် (Training data) ပမာဏ မလုံလောက်သည့် အခြေအနေမျိုးတွင် အသုံးပြုသည်။ ဥပမာအားဖြင့် Apertium စနစ်ကဲ့သို့သော အရင်းအမြစ်နည်းပါးသည့် ဘာသာစကားများ (Low-resource languages) ကို စက်ဖြင့် ဘာသာပြန်ဆိုရာတွင် အသုံးပြုခြင်း ဖြစ်သည်။
NLP လုပ်ငန်းစဉ်လမ်းကြောင်းများ (NLP pipelines) တွင် ရှေ့ပြေးပြင်ဆင်မှုလုပ်ငန်းများ (Preprocessing) အတွက် အသုံးပြုသည်။ ဥပမာအားဖြင့် စာသားများကို အစိတ်အပိုင်းအသေးလေးများအဖြစ် ပိုင်းဖြတ်ခြင်း (Tokenization) ကဲ့သို့သော လုပ်ငန်းများ ဖြစ်သည်။
NLP လုပ်ငန်းစဉ်လမ်းကြောင်းများမှ ထွက်ပေါ်လာသော ရလဒ်များကို နောက်ဆက်တွဲ ပြုပြင်မွမ်းမံရန်နှင့် ပြောင်းလဲရန် (Post-processing) အတွက် အသုံးပြုသည်။ ဥပမာအားဖြင့် သဒ္ဒါဖွဲ့စည်းပုံ ခွဲခြမ်းစိပ်ဖြာချက်များထဲမှ ဗဟုသုတနှင့် အချက်အလက်များကို ထုတ်ယူခြင်း (Knowledge extraction) ကဲ့သို့သော လုပ်ငန်းများ ဖြစ်သည်။

ကိန်းဂဏန်းအခြေပြုနည်းလမ်း (Statistical approach)

၁၉၈၀ ပြည့်လွန်နှစ်များ အနှောင်းပိုင်းနှင့် ၁၉၉၀ ပြည့်လွန်နှစ်များ အလယ်ပိုင်းတွင် ကိန်းဂဏန်းအခြေပြုနည်းလမ်းသည် ဉာဏ်ရည်တုနည်းပညာ၏ ဆောင်းရာသီ (AI winter) ဟုခေါ်သော သုတေသနများ အေးခဲရပ်ဆိုင်းနေသည့် ကာလကို အဆုံးသတ်ပေးခဲ့သည်။ ထိုဆောင်းရာသီကာလသည် စည်းကမ်းချက်အခြေပြုနည်းလမ်းများ၏ စွမ်းဆောင်ရည် ညံ့ဖျင်းမှုများကြောင့် ဖြစ်ပေါ်ခဲ့ရခြင်း ဖြစ်သည်။^[၂၁]^[၂၂]

"အကယ်၍... သို့ဖြစ်လျှင်" (If-then) ဟူသော ပုံသေစည်းကမ်းချက်စနစ်များကို ထုတ်လုပ်ပေးသည့် အစောဆုံး ဆုံးဖြတ်ချက်သစ်ပင်ပုံစံများ (Decision trees) သည် ရှေးဟောင်း စည်းကမ်းချက်အခြေပြုနည်းလမ်းများနှင့် အလွန်တူညီနေသေးသည်။ စကားလုံး ဝါစင်္ဂအမျိုးအစား အညွှန်းတပ်ခြင်း (Part-of-speech tagging) လုပ်ငန်းတွင် ဝှက်ထားသော မာကော့ဗ်မော်ဒယ်များ (Hidden Markov models) ကို စတင်ထည့်သွင်း အသုံးချနိုင်ခဲ့သည့် အချိန်မှသာ ရှေးဟောင်း စည်းကမ်းချက်အခြေပြုနည်းလမ်းများ၏ ခေတ်စနစ် အပြီးသတ် ချုပ်ငြိမ်းသွားခဲ့သည်။

အာရုံကြောပုံတူကွန်ရက်နည်းလမ်းများ

ကိန်းဂဏန်းအခြေပြုနည်းလမ်းများ (Statistical methods) ၏ အဓိကအားနည်းချက်မှာ ရှုပ်ထွေးဆန်းပြားသော အချက်အလက်အင်္ဂါရပ်များကို လူကိုယ်တိုင် စနစ်တကျ စီမံဖန်တီးပေးရခြင်း (Feature engineering) ဖြစ်သည်။ ၂၀၁၅ ခုနှစ်မှစတင်၍^[၂၃] အာရုံကြောပုံတူကွန်ရက်အခြေပြုနည်းလမ်းများသည် ရှေးရိုးသုံး ကိန်းဂဏန်းအခြေပြုနည်းလမ်းများ၏နေရာတွင် အစားထိုးကာ ပိုမိုခေတ်စားလာခဲ့သည်။ ဤနည်းလမ်းများသည် စကားလုံးများ၏ အဓိပ္ပာယ်ဆိုင်ရာ ဝိသေသလက္ခဏာများကို ဖမ်းယူနိုင်ရန်အတွက် အဓိပ္ပာယ်ဗေဒကွန်ရက်များ (Semantic networks)^[၂၄] နှင့် စကားလုံးမြှုပ်နှံမှုစနစ် (Word embeddings) များကို အသုံးပြုကြသည်။

ထို့ကြောင့် စကားလုံး ဝါစင်္ဂအမျိုးအစား အညွှန်းတပ်ခြင်း (Part-of-speech tagging) နှင့် ဝါကျဖွဲ့စည်းပုံခွဲခြမ်းစိပ်ဖြာခြင်း (Dependency parsing) ကဲ့သို့သော ကြားခံလုပ်ငန်းစဉ်များကို လုပ်ဆောင်ရန် မလိုအပ်တော့ပေ။

ထိုစဉ်က အသစ်ထွင်ခဲ့သော အစီအစဉ်လိုက်ပြောင်းလဲခြင်းစနစ် (Sequence-to-sequence transformations) ပေါ်တွင် အခြေခံထားသည့် အာရုံကြောပုံတူကွန်ရက်သုံး စက်မှုဘာသာပြန်စနစ် (Neural machine translation) သည် ယခင်က ကိန်းဂဏန်းအခြေပြုစက်မှုဘာသာပြန်စနစ်တွင် မဖြစ်မနေလိုအပ်ခဲ့သော စကားလုံးအနက်ညှိခြင်း (Word alignment) ကဲ့သို့သော ကြားခံအဆင့်များကို လုံးဝအသုံးမလိုတော့အောင် လုပ်ဆောင်ပေးခဲ့သည်။

အများဆုံးလုပ်ဆောင်လေ့ရှိသော NLP လုပ်ငန်းစဉ်များ

အောက်ပါတို့သည် သဘာဝဘာသာစကားစီမံဆောင်ရွက်မှုကဏ္ဍတွင် အများဆုံး သုတေသနပြုလုပ်လေ့ရှိသော လုပ်ငန်းစဉ်အချို့ ဖြစ်ကြသည်။ ဤလုပ်ငန်းစဉ်အချို့ကို ပြင်ပကမ္ဘာတွင် တိုက်ရိုက်လက်တွေ့အသုံးချနိုင်ပြီး အချို့လုပ်ငန်းစဉ်များကိုမူ ပိုမိုကြီးမားသော လုပ်ငန်းစဉ်ကြီးများကို ဖြေရှင်းရာတွင် အထောက်အကူပြုမည့် ကြားခံလုပ်ငန်းစဉ်ငယ်များအဖြစ် အများဆုံး အသုံးပြုကြသည်။

သဘာဝဘာသာစကားစီမံဆောင်ရွက်မှုလုပ်ငန်းစဉ်များသည် အချင်းချင်း အလွန်နီးကပ်စွာ ဆက်နွှယ်နေသော်လည်း လေ့လာရလွယ်ကူစေရန်အတွက် ၎င်းတို့ကို ကဏ္ဍအလိုက် ထပ်မံခွဲခြားနိုင်သည်။ ယေဘုယျအားဖြင့် ခွဲခြားထားသော ကဏ္ဍများကို အောက်တွင် ဖော်ပြပေးထားပါသည်။

စာသားနှင့် စကားပြောသံ စီမံဆောင်ရွက်မှု

စာလုံးပုံရိပ်ဖတ်စနစ် (Optical character recognition - OCR)

ဤစနစ်သည် စာရိုက်နှိပ်ထားသော စာသားများပါဝင်သည့် ပုံရိပ် (Image) တစ်ခုကို ကွန်ပျူတာထဲသို့ ထည့်သွင်းပေးလိုက်သည့်အခါ၊ ၎င်းပုံရိပ်ထဲမှ စာသားများကို ကွန်ပျူတာက အလိုအလျောက် မှတ်မိဖတ်ရှုပြီး တည်းဖြတ်၍ရသော စာသားအစစ်အမှန် (Text) အဖြစ် ပြောင်းလဲပေးခြင်း ဖြစ်သည်။ ယနေ့ခေတ်တွင် ဤနည်းပညာကို ကတ်ပြားများ၊ စာရွက်စာတမ်းများနှင့် လမ်းညွှန်ဆိုင်းဘုတ်များကို ဖုန်းကင်မရာဖြင့် ဖတ်ရှုဘာသာပြန်ဆိုရာ၌ ကျယ်ကျယ်ပြန့်ပြန့် အသုံးပြုနေကြပြီ ဖြစ်သည်။

စကားပြောသံကို စာသားအဖြစ် ပြောင်းလဲခြင်း (Speech recognition)

ဤစနစ်သည် လူတစ်ဦး သို့မဟုတ် လူအများ ဆက်တိုက်ပြောဆိုထားသည့် အသံဖိုင် (Sound clip) ကို နားထောင်ပြီး ၎င်းစကားပြောသံများကို စာသားအဖြစ်သို့ အလိုအလျောက် ပြန်လည်ဖော်ထုတ်ပေးခြင်း ဖြစ်သည်။ ဤလုပ်ငန်းစဉ်သည် စာသားကို အသံပြောင်းသည့်စနစ် (Text-to-speech) ၏ ဆန့်ကျင်ဘက်ဖြစ်ပြီး၊ ဉာဏ်ရည်တုနည်းပညာတွင် အလွန်တရာ ဖြေရှင်းရခက်ခဲသောကြောင့် "AI-complete" (ဉာဏ်ရည်တု အပြည့်အဝရမှသာ ဖြေရှင်းနိုင်မည့် ပြဿနာ) ဟု အလွတ်သဘော တင်စားခေါ်ဆိုကြသည့် ပြဿနာရပ်ကြီးများထဲမှ တစ်ခုဖြစ်သည်။
လူသားတို့သည် သဘာဝအတိုင်း စကားပြောသည့်အခါ စကားလုံးတစ်လုံးနှင့်တစ်လုံးကြားတွင် ရပ်နားလေ့မရှိဘဲ ဆက်တိုက်ပြောဆိုကြသဖြင့် စကားပြောသံကို စကားလုံးအလိုက် ပိုင်းဖြတ်ခြင်း (Speech segmentation) လုပ်ငန်းစဉ်ကို မဖြစ်မနေ ကြားခံလုပ်ဆောင်ပေးရသည်။ ထို့ပြင် ဘာသာစကားအများစုတွင် ရှေ့စကားလုံးနှင့် နောက်စကားလုံးတို့၏ အသံများသည် အချင်းချင်း ရောယှက်ပေါင်းစပ်သွားလေ့ရှိသောကြောင့် (၎င်းကို Coarticulation ဟု ခေါ်သည်)၊ လှိုင်းပုံသဏ္ဌာန်ရှိသော အင်နာလော့အသံလှိုင်း (Analog signal) များကို တိကျပြတ်သားသော ဒီဂျစ်တယ်စာလုံးများအဖြစ် ပြောင်းလဲရန် အလွန်ခက်ခဲလှသည်။ ထို့အပြင် လူတစ်ဦးနှင့်တစ်ဦးသည် ဒေသန္တရလေသံ (Accent) နှင့် စကားပြောနှုန်း မတူညီကြသော်လည်း၊ စကားပြောသံဖတ်စနစ်သည် ထိုကွဲပြားခြားနားလှသော အသံပေါင်းစုံကို နားလည်ပြီး တူညီသော စာသားအဓိပ္ပာယ်ထွက်အောင် တိကျစွာ မှတ်မိနိုင်စွမ်း ရှိရမည်ဖြစ်သည်။

စကားပြောသံကို စကားလုံးအလိုက် ပိုင်းဖြတ်ခြင်း (Speech segmentation)

ဤစနစ်သည် လူသားတို့ ပြောဆိုထားသည့် အသံဖိုင်ကို နားထောင်ပြီး ၎င်းအသံလှိုင်းထဲမှ စကားလုံးတစ်လုံးချင်းစီကို သီးခြားစီ အပိုင်းပိုင်း ပြတ်တောက်သွားအောင် ခွဲထုတ်ပေးခြင်း ဖြစ်သည်။ ဤလုပ်ငန်းစဉ်သည် စကားပြောသံကို စာသားအဖြစ်ပြောင်းလဲခြင်း (Speech recognition) ၏ ကြားခံလုပ်ငန်းငယ်တစ်ခုဖြစ်ပြီး၊ ပုံမှန်အားဖြင့် ၎င်းနှင့် တစ်စုတစ်စည်းတည်း တွဲဖက်လုပ်ဆောင်လေ့ရှိသည်။

စာသားကို စကားပြောသံအဖြစ် ပြောင်းလဲခြင်း (Text-to-speech)

ဤစနစ်သည် ကွန်ပျူတာထဲရှိ စာသားများကို စနစ်တကျ ခွဲခြမ်းစိပ်ဖြာပြီး လူသားတို့ အသံထွက် ပြောဆိုသကဲ့သို့ သဘာဝကျသော စကားပြောသံအဖြစ် ပြောင်းလဲထုတ်လုပ်ပေးခြင်း ဖြစ်သည်။ စာသားကို အသံပြောင်းပေးသည့် ဤနည်းပညာသည် မျက်စိမမြင်ရသူများနှင့် အမြင်အာရုံ ချို့တဲ့သူများ စာပေဖတ်ရှုနိုင်စေရန် သို့မဟုတ် ဖုန်းနှင့် ကွန်ပျူတာများကို အသံဖြင့် အလွယ်တကူ အသုံးပြုနိုင်စေရန်အတွက် ကြီးမားသော အထောက်အကူပြု ကိရိယာတစ်ခုအဖြစ် သုံးစွဲနိုင်ပါသည်။^[၂၅]

စကားလုံးအလိုက် ပိုင်းဖြတ်ခြင်း (Word segmentation / Tokenization)

တိုကင်ပြုလုပ်ခြင်း (Tokenization) ဆိုသည်မှာ စာသားများကို ကွန်ပျူတာက ပိုမိုကိုင်တွယ်ရ လွယ်ကူစေရန်အတွက် စကားလုံးတစ်လုံးချင်းစီ သို့မဟုတ် စကားလုံးအပိုင်းအစလေးများအဖြစ် စနစ်တကျ ပိုင်းဖြတ်ပေးသည့် စာသားစီမံဆောင်ရွက်မှု နည်းပညာတစ်ခု ဖြစ်သည်။ ဤနည်းပညာကို လုပ်ဆောင်ပြီးပါက အဓိက အစိတ်အပိုင်းနှစ်ခု ရရှိလာမည်ဖြစ်သည် - ၎င်းတို့မှာ စကားလုံးအညွှန်း (Word index) နှင့် တိုကင်ခွဲထားသောစာသား (Tokenized text) တို့ ဖြစ်ကြသည်။ စကားလုံးအညွှန်း ဆိုသည်မှာ ထပ်မနေသော စကားလုံးတစ်လုံးချင်းစီကို သီးသန့်ကိန်းဂဏန်း ကုဒ်နံပါတ်များအဖြစ် သတ်မှတ်ပေးထားသည့် စာရင်း ဖြစ်သည်။ တိုကင်ခွဲထားသောစာသား တွင်မူ မူလစာသားထဲရှိ စကားလုံးများနေရာတွင် ၎င်းတို့နှင့် ကိုက်ညီသော ကိန်းဂဏန်းကုဒ် (Numerical token) များဖြင့် အစားထိုးလဲလှယ်ပေးလိုက်သည်။ အဆိုပါ ကိန်းဂဏန်းတိုကင်များကို အလွှာစုံသင်ယူမှုစနစ်နည်းလမ်း (Deep learning methods) အမျိုးမျိုးတွင် သင်္ချာနည်းအရ တွက်ချက်ရန်အတွက် ဆက်လက်အသုံးပြုကြသည်။^[၂၆]
အင်္ဂလိပ်ဘာသာစကားကဲ့သို့ စာလုံးများအတွက်မူ စကားလုံးတစ်လုံးနှင့်တစ်လုံးကြားတွင် "Space" ပါဝင်ပြီးသားဖြစ်၍ ဤလုပ်ငန်းစဉ်သည် အလွန်လွယ်ကူလှသည်။ သို့သော်လည်း မြန်မာ၊ တရုတ်၊ ဂျပန်နှင့် ထိုင်းဘာသာစကားကဲ့သို့သော စာရေးစနစ်များတွင်မူ စကားလုံးများအကြား ထင်ရှားသော စာလုံးခြားသင်္ကေတများ ( Spaces ) မသုံးဘဲ ဆက်တိုက်ရေးသားလေ့ရှိကြသည်။ ထို့ကြောင့် အဆိုပါ ဘာသာစကားများအတွက် စာသားများကို စကားလုံးအလိုက် မှန်ကန်စွာ ပိုင်းဖြတ်နိုင်ရန်မှာ ထိုဘာသာစကား၏ ဝေါဟာရဗဟုသုတနှင့် စကားလုံးတည်ဆောက်ပုံ (Morphology) တို့ကို အထူးတလည် နားလည်ထားရန် လိုအပ်သဖြင့် အလွန်အရေးကြီးပြီး ခက်ခဲသော လုပ်ငန်းစဉ်ကြီးတစ်ခု ဖြစ်လာသည်။ တစ်ခါတစ်ရံတွင် အချက်အလက်တူးဖော်ခြင်း (Data mining) ကဏ္ဍ၌ စကားလုံးအိတ်ပုံစံ (Bag of words - BOW) တည်ဆောက်ခြင်းကဲ့သို့သော လုပ်ငန်းစဉ်များတွင်လည်း ဤနည်းလမ်းကို အသုံးချကြသည်။^[၂၇]^[၂၈]

စကားလုံးတည်ဆောက်ပုံ ခွဲခြမ်းစိပ်ဖြာခြင်း

မူလစကားလုံးပုံစံသို့ ပြောင်းလဲခြင်း (Lemmatization)

ဤလုပ်ငန်းစဉ်သည် စကားလုံးများ၏ အဆုံးတွင် ပုံသဏ္ဌာန်အမျိုးမျိုး ပြောင်းလဲနေသော ဝိဘတ်နှင့် နောက်ဆက်တွဲများကို ဖယ်ရှားပြီး၊ အဘိဓာန်တွင် ရှာဖွေနိုင်သည့် မူလအခြေခံစကားလုံးပုံစံ (Lemma) သို့ ပြန်လည်ပြောင်းလဲပေးခြင်း ဖြစ်သည်။ ၎င်းသည် စကားလုံးများကို စံနှုန်းတစ်ခုတည်းအတွင်းသို့ ရောက်ရှိစေရန် လျှော့ချပေးသည့် နည်းလမ်းတစ်ခုဖြစ်သည်။ အခြားနည်းလမ်းများနှင့် မတူညီသည့်အချက်မှာ ဤနည်းလမ်းသည် စကားလုံးများကို မူလအစစ်အမှန်ပုံစံသို့ ပြန်လည်ပြောင်းလဲရန်အတွက် အဘိဓာန် (Dictionary) သို့မဟုတ် ဘာသာဗေဒဆိုင်ရာ အချက်အလက်များကို အသုံးပြု၍ စနစ်တကျ တိုက်ဆိုင်စစ်ဆေးခြင်း ဖြစ်သည်။^[၂၉]
မြန်မာဘာသာစကားတွင် ဥပမာပြရလျှင် "သွားခဲ့သည်"၊ "သွားနေသည်"၊ "သွားလိမ့်မည်" စသည့် စကားလုံးများမှ နောက်ဆက်တွဲများကို ဖြုတ်ချ၍ အခြေခံစကားလုံးဖြစ်သည့် "သွား" ဟူ၍ ပြန်လည်ဖော်ထုတ်ယူခြင်းမျိုး ဖြစ်သည်။

စကားလုံးအစိတ်အပိုင်းအလိုက် ပိုင်းဖြတ်ခြင်း (Morphological segmentation)

ဤစနစ်သည် စကားလုံးတစ်လုံးချင်းစီကို အဓိပ္ပာယ်သက်ရောက်မှုရှိသော အသေးငယ်ဆုံးသော စကားလုံးအစိတ်အပိုင်းလေးများ (Morphemes) အဖြစ် သီးခြားစီ ခွဲထုတ်ပြီး၊ ၎င်းအစိတ်အပိုင်းတစ်ခုချင်းစီ၏ အမျိုးအစားကို ခွဲခြားသတ်မှတ်ပေးခြင်း ဖြစ်သည်။ ဤလုပ်ငန်းစဉ်၏ ခက်ခဲနက်နဲမှုသည် လေ့လာနေသော ဘာသာစကား၏ စကားလုံးတည်ဆောက်ပုံ (Morphology) ရှုပ်ထွေးမှုအပေါ်တွင် များစွာ တည်မှီနေသည်။
အင်္ဂလိပ်ဘာသာစကားသည် စကားလုံးတည်ဆောက်ပုံ (အထူးသဖြင့် ဝိဘတ်ပြောင်းလဲမှုပုံစံ) အလွန်ရိုးရှင်းသောကြောင့် ဤလုပ်ငန်းစဉ်ကို လုံးဝကျော်ဖြတ်သွားလေ့ရှိပြီး စကားလုံးတစ်လုံး၏ ပြောင်းလဲနေသော ပုံစံအားလုံး (ဥပမာ- "open, opens, opened, opening") ကို သီးခြားစကားလုံးများအဖြစ် တိုက်ရိုက် သတ်မှတ်သုံးစွဲနိုင်သည်။ သို့သော်လည်း စကားလုံးတစ်ခုတည်းတွင် အစိတ်အပိုင်းများစွာကို ဆက်တိုက်ကပ်၍ သုံးစွဲလေ့ရှိသော (Highly agglutinated) တူရကီဘာသာစကား သို့မဟုတ် အိန္ဒိယနိုင်ငံသုံး မိတေး (Meitei) ဘာသာစကားများနှင့် မြန်မာဘာသာစကားကဲ့သို့သော နေရာမျိုးတွင်မူ ထိုသို့လုပ်ဆောင်ရန် မဖြစ်နိုင်ပေ။ အကြောင်းမှာ အဆိုပါဘာသာစကားများတွင် အဘိဓာန်၌ပါသော မူလစကားလုံးတစ်လုံးချင်းစီမှနေ၍ နောက်ဆက်တွဲ ဝိဘတ်များစွာ ပေါင်းစပ်ပြီး ဖြစ်ပေါ်လာနိုင်သော စကားလုံးပုံသဏ္ဌာန် အမျိုးအစားပေါင်း ထောင်ချီ၍ ရှိနေနိုင်သောကြောင့် ဖြစ်သည်။^[၃၀]

စကားလုံးဝါစင်္ဂအမျိုးအစား အညွှန်းတပ်ခြင်း (Part-of-speech tagging)

ဤစနစ်သည် ဝါကျတစ်ခုအတွင်းရှိ စကားလုံးတစ်လုံးချင်းစီကို ကြည့်ရှုပြီး ၎င်းတို့သည် နာမ်၊ နာမ်စား၊ ကြိယာ၊ နာမဝိသေသန စသည့် မည်သည့်သဒ္ဒါဆိုင်ရာ ဝါစင်္ဂအမျိုးအစား (Part of speech - POS) ဖြစ်သည်ကို တိကျစွာ ခွဲခြားသတ်မှတ်ပေးခြင်း ဖြစ်သည်။ ဘာသာစကားတစ်ခုတွင် စကားလုံးအတော်များများ (အထူးသဖြင့် အသုံးများသော စကားလုံးများ) သည် ရှေ့နောက်စကားစပ်အပေါ် မူတည်ပြီး စကားလုံးအမျိုးအစား အများအပြားအဖြစ် ကူးပြောင်းအသုံးတော်ခံနိုင်သည်။
ဥပမာအားဖြင့် အင်္ဂလိပ်စာလုံး "book" သည် နာမ်အဖြစ် ("the book on the table" - စာအုပ်) သုံးနိုင်သကဲ့သို့ ကြိယာအဖြစ် ("to book a flight" - ကြိုတင်မှာယူသည်) လည်း သုံးနိုင်သည်။ ထို့အတူ "set" ဟူသော စကားလုံးသည် နာမ်၊ ကြိယာ သို့မဟုတ် နာမဝိသေသန ဖြစ်နိုင်ပြီး "out" ဆိုလျှင် အနည်းဆုံး မတူညီသော သဒ္ဒါအမျိုးအစား ၅ မျိုးအထိ ဖြစ်နိုင်သည်။ မြန်မာဘာသာစကားတွင်လည်း 'က' ဟူသော စကားလုံးသည် ကြိယာအဖြစ် ('သူ ကသည်။' - ကခုန်သည်) သုံးနိုင်သကဲ့သို့၊ ကတ္တားဝိဘတ် (နောက်ဆက်တွဲ သဒ္ဒါစကားလုံး) အနေဖြင့် 'သူက ကျောင်းသား ဖြစ်သည်။' - လူပုဂ္ဂိုလ်ကို ညွှန်းဆိုသည်) လည်း ဖြစ်နိုင်သဖြင့် စနစ်သည် ဝါကျတစ်ခုချင်းစီ၏ ရှေ့နောက်စကားစပ်ကို ကြည့်ရှုကာ စကားလုံးများ၏ အဓိပ္ပာယ်မှန်ကို တိကျစွာ ဖော်ထုတ်ရန်အတွက် အလွန်အရေးကြီးသည်။

စကားလုံးရင်းမြစ် ရှာဖွေခြင်း (Stemming)

ဤလုပ်ငန်းစဉ်သည် ပုံသဏ္ဌာန်ပြောင်းလဲနေသော (သို့မဟုတ် တွဲဖက်နောက်ဆက်တွဲများကြောင့် ရှည်လျားနေသော) စကားလုံးများကို ၎င်းတို့၏ အခြေခံ ပင်မမြစ်ဖျားခံရာ စာလုံးပုံစံ (Root/Stem) သို့ စည်းကမ်းချက်များအတိုင်း ဖြတ်တောက်လျှော့ချပေးခြင်း ဖြစ်သည်။ ဥပမာအားဖြင့် အင်္ဂလိပ်စာလုံး "closed"၊ "closing"၊ "closes" စသည့် စကားလုံးများအားလုံးကို ၎င်းတို့၏ ပင်မရင်းမြစ် "close" ဟူသော စာလုံးပုံစံသို့ ဖြတ်တောက်ပြောင်းလဲပစ်ခြင်း ဖြစ်သည်။
မြန်မာဘာသာစကားတွင်မူ စကားလုံးနောက်၌ ကပ်ပါလာတတ်သည့် ပစ္စည်းများ၊ ဝိဘတ်များနှင့် ကူညီကြိယာများကို ဖြတ်တောက်ရာတွင် ဤနည်းလမ်းကို အသုံးပြုသည်။ ဥပမာအားဖြင့် "စားခဲ့သည်"၊ "စားနေသည်"၊ "စားကြစို့" စသည့် စကားလုံးများမှ နောက်ဆက်တွဲများကို ဖြတ်တောက်ပြီး ပင်မအခြေခံအဓိပ္ပာယ်ဖြစ်သော "စား" ဟူသည့် ကြိယာရင်းမြစ်ကို ထုတ်ယူခြင်း ဖြစ်သည်။
စကားလုံးရင်းမြစ် ရှာဖွေခြင်း (Stemming) သည် စာလုံးအဓိပ္ပာယ်အခြေခံ ရှာဖွေခြင်း (Lemmatization) နှင့် ရလဒ်ချင်း ဆင်တူသော်လည်း၊ ၎င်းသည် အဘိဓာန် (Lexicon) ကို အသုံးမပြုဘဲ စာလုံးဖြတ်တောက်မှုဆိုင်ရာ စနစ်တကျ သတ်မှတ်ထားသော ပုံသေစည်းကမ်းချက်များ (Rules/Algorithms) အပေါ်တွင်သာ အခြေခံ၍ စာလုံးအဆုံးသတ်များကို စက်မှုဆန်ဆန် ဖြတ်တောက်ခြင်း ဖြစ်သည်။ ထို့ကြောင့် တစ်ခါတစ်ရံတွင် အဘိဓာန်ထဲ၌ သီးခြားအဓိပ္ပာယ်မရှိသော စာလုံးအကြွင်းအကျန်များ ထွက်ပေါ်လာတတ်သည့် အားနည်းချက် ရှိသည်။ (ဥပမာ- အင်္ဂလိပ်စာလုံး "studies" ကို ဖြတ်တောက်ရာတွင် အဘိဓာန်၌ အဓိပ္ပာယ်မရှိသည့် "studi" ဟူသော စာလုံးပုံစံမျိုး ထွက်လာတတ်ခြင်း ဖြစ်သည်။)

ဝါကျဖွဲ့စည်းပုံဆိုင်ရာ ခွဲခြမ်းစိပ်ဖြာခြင်း

သဒ္ဒါစည်းကမ်းချက် ပျိုးထောင်ခြင်း^[၃၁] (Grammar induction) ဤလုပ်ငန်းစဉ်သည် ဘာသာစကားတစ်ခု၏ ဝါကျဖွဲ့စည်းပုံနှင့် သဒ္ဒါစနစ်ကို အတိအကျ ဖော်ပြနိုင်မည့် ပုံသေ သဒ္ဒါစည်းကမ်းချက်စနစ် (Formal grammar) တစ်ခုကို ကွန်ပျူတာက အလိုအလျောက် ရှာဖွေဖော်ထုတ် တည်ဆောက်ခြင်း ဖြစ်သည်။

ဝါကျအဆုံးသတ် ပိုင်းဖြတ်ခြင်း (Sentence breaking / Sentence boundary disambiguation)

ဤစနစ်သည် စာသားအမြောက်အမြား (Chunk of text) ထဲမှ ဝါကျတစ်ခုနှင့်တစ်ခုကြား နယ်နိမိတ် သို့မဟုတ် ဝါကျအဆုံးသတ်များကို တိကျစွာ ရှာဖွေပေးခြင်း ဖြစ်သည်။ အင်္ဂလိပ်စာတွင် ဝါကျအဆုံးသတ်များကို ပုံမှန်အားဖြင့် အစက် (Periods - ".") သို့မဟုတ် အခြားပုဒ်ဖြတ်ပုဒ်ရပ်သင်္ကေတများဖြင့် မှတ်သားလေ့ရှိသော်လည်း၊ အဆိုပါသင်္ကေတများသည် အခြားနေရာများ (ဥပမာ- စာလုံးအက္ခရာအကျဉ်းများ ဖော်ပြခြင်း) တွင်လည်း အသုံးပြုနေသောကြောင့် ဝါကျအစစ်အမှန် ပြီးဆုံးခြင်း ဟုတ်မဟုတ်ကို စနစ်တကျ ခွဲခြားသတ်မှတ်ပေးရသည်။ မြန်မာဘာသာစကားတွင်မူ "။" (ပုဒ်မ) သင်္ကေတကို ကြည့်၍ ဝါကျအဆုံးသတ်ကို ခွဲခြားရသည်။

ဝါကျခွဲခြမ်းစိပ်ဖြာခြင်း (Parsing)

ဤစနစ်သည် ပေးထားသော ဝါကျတစ်ခု၏ သဒ္ဒါဆိုင်ရာ ဖွဲ့စည်းပုံသစ်ပင် (Parse tree) ကို ရှာဖွေဖော်ထုတ်ပေးခြင်း ဖြစ်သည်။ လူသားတို့အသုံးပြုသည့် သဘာဝဘာသာစကားများ၏ သဒ္ဒါစနစ်သည် ရှေ့နောက်စကားစပ်အပေါ် မူတည်၍ အဓိပ္ပာယ် ကွဲပြားဝေဝါးတတ်သဖြင့် ပုံမှန်ဝါကျတစ်ခုတွင်ပင် ဖြစ်နိုင်ခြေရှိသော ခွဲမ်းစိပ်ဖြာမှုပုံစံ အမြောက်အမြား ရှိနေနိုင်သည်။ အံ့ဩစရာကောင်းသည်မှာ သာမန်ဝါကျတစ်ကြောင်းအတွက်ပင် ဖြစ်နိုင်ခြေရှိသော သဒ္ဒါဖွဲ့စည်းပုံပေါင်း ထောင်ချီ၍ ရှိနေနိုင်ပြီး ၎င်းတို့ထဲမှ အများစုမှာ လူသားတစ်ဦးအတွက် လုံးဝ အဓိပ္ပာယ်မရှိသော ပုံစံများ ဖြစ်နေတတ်သည်။

ဝါကျခွဲခြမ်းစိပ်ဖြာခြင်း (Parsing) တွင် အဓိကအားဖြင့် အောက်ပါအတိုင်း နည်းလမ်းနှစ်မျိုး ရှိပါသည် -
- မှီခိုမှုအခြေပြု ခွဲခြမ်းစိပ်ဖြာခြင်း (Dependency parsing): ဤနည်းလမ်းသည် ဝါကျတစ်ခုအတွင်းရှိ စကားလုံးအချင်းချင်း ဆက်နွှယ်မှုအပေါ်တွင်သာ အဓိကအာရုံစိုက်ပြီး ပင်မကံပုဒ် (Primary objects) နှင့် ကြိယာပုဒ် (Predicates) ကဲ့သို့သော အစိတ်အပိုင်းများကို အမှတ်အသားပြု ခွဲခြားပေးသည်။
- အစိတ်အပိုင်းအခြေပြု ခွဲခြမ်းစိပ်ဖြာခြင်း (Constituency parsing): ဤနည်းလမ်းသည် ဖြစ်တန်စွမ်းအခြေပြု ရှေ့နောက်ကင်းလွတ်သဒ္ဒါစနစ် (Probabilistic context-free grammar - PCFG) ကို အသုံးပြု၍ ဝါကျ၏ သဒ္ဒါဖွဲ့စည်းပုံသစ်ပင်ကြီးတစ်ခုလုံးကို အဆင့်ဆင့် တည်ဆောက်ပေးခြင်းအပေါ် အာရုံစိုက်သည်။

စကားလုံးအဓိပ္ပာယ်ဗေဒ (Lexical semantics - စာသားနောက်ခံအတွင်းရှိ စကားလုံးတစ်လုံးချင်းစီ၏ အဓိပ္ပာယ်)

An entity linking pipeline

စကားလုံးအဓိပ္ပာယ်ဗေဒ (Lexical semantics)

ဤလုပ်ငန်းစဉ်သည် ရှေ့နောက်စကားစပ် (Context) အတွင်းရှိ စကားလုံးတစ်လုံးချင်းစီ၏ ကွန်ပျူတာသုံး တွက်ချက်မှုဆိုင်ရာ အဓိပ္ပာယ်အစစ်အမှန် (Computational meaning) မှာ မည်သို့ဖြစ်သည်ကို ဖော်ထုတ်ပေးခြင်း ဖြစ်သည်။

ဖြန့်ကျက်မှုအခြေပြု အဓိပ္ပာယ်ဗေဒ (Distributional semantics)

ဤစနစ်သည် ဘာသာစကားဆိုင်ရာ အချက်အလက်များ (Data) ထဲမှနေ၍ စကားလုံးများ၏ အဓိပ္ပာယ်ဆိုင်ရာ ကိုယ်စားပြုမှုပုံစံ (Semantic representations) များကို စက်က အလိုအလျောက် မည်သို့လေ့လာသင်ယူနိုင်မည်နည်း ဟူသောအချက်ကို လုပ်ဆောင်ပေးခြင်း ဖြစ်သည်။

အမည်နာမများအား ခွဲခြားမှတ်မိခြင်း (Named entity recognition - NER)

ဤစနစ်သည် စာသားအဆက်မပြတ် စီးဆင်းလာမှု (Stream of text) အတွင်းရှိ မည်သည့်အချက်အလက်များသည် လူပုဂ္ဂိုလ်၊ နေရာဒေသ သို့မဟုတ် အဖွဲ့အစည်း စသည့် ကိုယ်ပိုင်နာမ် (Proper names) များ ဖြစ်ကြသည်ကို ခွဲခြားပေးပြီး၊ ၎င်းတို့သည် မည်သည့်အမျိုးအစား ဖြစ်သည် (ဥပမာ- လူပုဂ္ဂိုလ်၊ တည်နေရာ သို့မဟုတ် ကုမ္ပဏီ/အဖွဲ့အစည်း) ကိုပါ တိကျစွာ သတ်မှတ်ပေးခြင်း ဖြစ်သည်။
အင်္ဂလိပ်ဘာသာစကားကဲ့သို့ စာရေးစနစ်များတွင် စာလုံးကြီး (Capitalization) ဖြင့် ရေးသားခြင်းသည် အမည်နာမများကို ရှာဖွေရန် အထောက်အကူပြုနိုင်သော်လည်း၊ ၎င်းသည် အမည်နာမ၏ အမျိုးအစား (လူလား၊ နေရာလား) ကို တိကျစွာ မခွဲခြားပေးနိုင်သည့်အပြင်၊ အမြဲတမ်းလည်း မမှန်ကန် သို့မဟုတ် မလုံလောက်နိုင်ပေ။ ဥပမာအားဖြင့် ဝါကျတစ်ကြောင်း၏ အစဦးဆုံး စာလုံးကိုလည်း စာလုံးကြီးဖြင့် ရေးသားလေ့ရှိပြီး ကိုယ်ပိုင်နာမ်အမည်များသည် စကားလုံးအတော်များများအထိ ရှည်လျားနိုင်ကာ အချို့စာလုံးများကိုသာ စာလုံးကြီးဖြင့် ရေးသားထားတတ်သည်။ ထို့အပြင် အနောက်တိုင်းစာရေးစနစ်မဟုတ်သော အခြားဘာသာစကားအများစု (ဥပမာ- မြန်မာ၊ တရုတ် သို့မဟုတ် အာရပ်) တွင် စာလုံးကြီး/စာလုံးသေး ဟူ၍ လုံးဝမရှိကြဘဲ၊ စာလုံးကြီးစနစ်ရှိသော ဘာသာစကားအချို့တွင်လည်း အမည်နာမများကို ခွဲခြားရန်အတွက် ၎င်းစနစ်ကို ပုံမှန်တစိုက်မတ်မတ် အသုံးမပြုကြပေ။ ဥပမာအားဖြင့် ဂျာမန်ဘာသာစကားသည် အမည်နာမ ဟုတ်ဟုတ် မဟုတ်ဟုတ် နာမ် (Nouns) အားလုံးကို စာလုံးကြီးဖြင့် ရေးသားလေ့ရှိပြီး၊ ပြင်သစ်နှင့် စပိန်ဘာသာစကားများတွင်မူ နာမဝိသေသနအဖြစ် အသုံးတော်ခံသော အမည်နာမများကို စာလုံးကြီးဖြင့် မရေးသားကြပေ။ ဤလုပ်ငန်းစဉ်ကို တိုကင်အမျိုးအစား ခွဲခြားခြင်း (Token classification) ဟုလည်း ခေါ်ဆိုကြသည်။^[၃၂]

စိတ်ခံစားမှု ခွဲခြမ်းစိပ်ဖြာခြင်း (Sentiment analysis)

စိတ်ခံစားမှု ခွဲခြမ်းစိပ်ဖြာခြင်း ဆိုသည်မှာ စာသားများအတွင်း ဖော်ပြထားသော စိတ်ခံစားမှု သို့မဟုတ် လေသံကို ရှာဖွေဖော်ထုတ်ပြီး အမျိုးအစား ခွဲခြားသတ်မှတ်ပေးခြင်း ဖြစ်သည်။ ဤနည်းပညာသည် ရေးသားထားသော စာသားကို ကြည့်ရှုစစ်ဆေးပြီး ၎င်းစာသားသည် အကောင်းမြင်သဘော (Positive)၊ အဆိုးမြင်သဘော (Negative) သို့မဟုတ် ကြားနေသဘော (Neutral) မည်သည့် စိတ်ခံစားမှုကို ဖော်ပြနေသည်ကို ဆုံးဖြတ်ပေးသည်။
စိတ်ခံစားမှုကို အမျိုးအစားခွဲခြားသည့် မော်ဒယ် (Models) များသည် ပုံမှန်အားဖြင့် စကားလုံး n-grams များ၊ စကားလုံးကြိမ်နှုန်းနှင့် ပြောင်းပြန်စာရွက်စာတမ်းကြိမ်နှုန်း အင်္ဂါရပ်များ (TF-IDF features)၊ လူကိုယ်တိုင် ဖန်တီးထားသော အင်္ဂါရပ်များကို အသုံးပြုကြသည် သို့မဟုတ် စာသားအစီအစဉ်များအတွင်းရှိ ရေရှည်နှင့် ရေတိုဆက်နွှယ်မှု နှစ်မျိုးလုံးကို မှတ်မိနိုင်စွမ်းရှိစေရန် ဒီဇိုင်းဆွဲထားသည့် Deep learning models ကို အသုံးပြု၍ တွက်ချက်ကြသည်။ စိတ်ခံစားမှု ခွဲခြမ်းစိပ်ဖြာခြင်းကို အွန်လိုင်းလူမှုကွန်ရက်နှင့် ပလက်ဖောင်းအမျိုးမျိုးပေါ်ရှိ သုံးစွဲသူများ၏ ကုန်ပစ္စည်းသုံးသပ်ချက် ဝေဖန်ချက် (Customer reviews) များကို အလိုအလျောက် အမျိုးအစားခွဲခြားခြင်းကဲ့သို့သော လုပ်ငန်းကဏ္ဍ အမြောက်အမြားတွင် ကျယ်ကျယ်ပြန့်ပြန့် လက်တွေ့အသုံးချလျက် ရှိသည်။^[၂၆]

နည်းပညာသုံး ဝေါဟာရများ ထုတ်ယူခြင်း (Terminology extraction)

ဤလုပ်ငန်းစဉ်၏ ရည်ရွယ်ချက်မှာ ပေးထားသော စာသားအချက်အလက်စုကြီး (Corpus) ထဲမှနေ၍ ဆက်စပ်မှုရှိသော နည်းပညာသုံး ဝေါဟာရများနှင့် အခေါ်အဝေါ်များကို ကွန်ပျူတာက အလိုအလျောက် ရှာဖွေထုတ်ယူပေးရန် ဖြစ်သည်။

စကားလုံးအဓိပ္ပာယ် ကွဲပြားမှု ဖြေရှင်းခြင်း (Word-sense disambiguation - WSD)

ဘာသာစကားတစ်ခုတွင် စကားလုံးအတော်များများ၌ အဓိပ္ပာယ်တစ်ခုထက်မက ရှိနေတတ်ကြသဖြင့်၊ ကွန်ပျူတာသည် ရှေ့နောက်စကားစပ်အတွင်း အကိုက်ညီဆုံးနှင့် အဓိပ္ပာယ်အရှိဆုံး ဖြစ်မည့် အနက်အဓိပ္ပာယ်ကို တိကျစွာ ရွေးချယ်ပေးရသည့် လုပ်ငန်းစဉ် ဖြစ်သည်။ ဤပြဿနာကို ဖြေရှင်းရန်အတွက် ပုံမှန်အားဖြင့် စကားလုံးများနှင့် ၎င်းတို့နှင့် သက်ဆိုင်သည့် အဓိပ္ပာယ်ဖွင့်ဆိုချက် စာရင်းများကို အဘိဓာန် သို့မဟုတ် WordNet ကဲ့သို့သော အွန်လိုင်း သတင်းအချက်အလက် အရင်းအမြစ်များဆီမှ ရယူအသုံးပြုကြသည်။

အမည်နာမ ချိတ်ဆက်ခြင်း (Entity linking)

ဝါကျအတွင်းရှိ စကားလုံးအတော်များများ (အထူးသဖြင့် ကိုယ်ပိုင်နာမ်များ) သည် ပြင်သစ်ကမ္ဘာရှိ တကယ့် အမည်နာမများနှင့် သက်ဆိုင်နေတတ်သည်။ ဤလုပ်ငန်းစဉ်သည် ရှေ့နောက်စကားစပ်အတွင်း ညွှန်းဆိုထားသော အဆိုပါစကားလုံးသည် မည်သည့်ထင်ရှားကျော်ကြားသူ၊ မည်သည့်နေရာဒေသ သို့မဟုတ် မည်သည့်ကုမ္ပဏီအဖွဲ့အစည်း (Entity) ကို အတိအကျ ဆိုလိုခြင်းဖြစ်သည်ကို ရွေးချယ်ချိတ်ဆက်ပေးခြင်း ဖြစ်သည်။

ဆက်နွှယ်မှုဆိုင်ရာ အဓိပ္ပာယ်ဗေဒ (Relational semantics - ဝါကျတစ်ကြောင်းချင်းစီ၏ အဓိပ္ပာယ်ဖွင့်ဆိုချက်)

ပတ်သက်ဆက်နွှယ်မှု ထုတ်ယူခြင်း (Relationship extraction)

ဤစနစ်သည် စာသားအမြောက်အမြား (Chunk of text) ထဲမှနေ၍ ရှာဖွေတွေ့ရှိထားသော အမည်နာမများ (Named entities) အကြား မည်သို့ ပတ်သက်ဆက်နွှယ်နေကြသည်ကို ဖော်ထုတ်ပေးခြင်း ဖြစ်သည်။ ဥပမာအားဖြင့် ပေးထားသော စာသားကို ဖတ်ရှုပြီး "မည်သူက မည်သူနှင့် အိမ်ထောင်ပြုထားသနည်း" သို့မဟုတ် "မည်သူက မည်သည့်ကုမ္ပဏီတွင် အလုပ်လုပ်သနည်း" စသည့် ဆက်စပ်မှုများကို ရှာဖွေပေးသည်။

အဓိပ္ပာယ်ဗေဒဆိုင်ရာ ခွဲခြမ်းစိပ်ဖြာခြင်း (Semantic parsing)

ဤစနစ်သည် စာသားတစ်ခု (ပုံမှန်အားဖြင့် ဝါကျတစ်ကြောင်း) ကို ရယူပြီး ၎င်း၏ အဓိပ္ပာယ်အစစ်အမှန်ကို ကွန်ပျူတာ နားလည်နိုင်သော ပုံသေကိုယ်စားပြုစနစ် (Formal representation) အဖြစ် ပြောင်းလဲထုတ်လုပ်ပေးခြင်း ဖြစ်သည်။ ၎င်းကို ရုပ်ပြဂရပ်ဖ်ပုံစံ (ဥပမာ- AMR ခွဲခြမ်းစိပ်ဖြာမှု) သို့မဟုတ် သင်္ချာနည်းကျ ယုတ္တိဗေဒစနစ် (ဥပမာ- DRT ခွဲခြမ်းစိပ်ဖြာမှု) များဖြင့် ဖော်ပြလေ့ရှိသည်။ ဤစိန်ခေါ်မှုတွင် အခြေခံကျသော အခြားအဓိပ္ပာယ်ဗေဒဆိုင်ရာ NLP လုပ်ငန်းစဉ်အချို့ (ဥပမာ- ကဏ္ဍအလိုက် အဓိပ္ပာယ်သတ်မှတ်ခြင်း၊ စကားလုံးအဓိပ္ပာယ် ကွဲပြားမှုဖြေရှင်းခြင်း) ပါဝင်လေ့ရှိပြီး စာပိုဒ်တစ်ခုလုံး၏ အကြောင်းအရာကို ကျယ်ကျယ်ပြန့်ပြန့် ခွဲခြမ်းစိပ်ဖြာလေ့လာသည့် စကားပြောဆိုမှု/စာသားခွဲခြမ်းစိပ်ဖြာခြင်း (Discourse analysis) အထိလည်း တိုးချဲ့အသုံးချနိုင်သည်။

ကဏ္ဍအလိုက် အဓိပ္ပာယ်သတ်မှတ်ခြင်း (Semantic role labelling)

ဤစနစ်သည် ဝါကျတစ်ကြောင်းချင်းစီကို ကြည့်ရှုပြီး အဓိပ္ပာယ်ဗေဒဆိုင်ရာ ကြိယာအမျိုးအစားနှင့် အပြုအမူပုံစံများ (Semantic predicates / Verbal frames) ကို ရှာဖွေဖော်ထုတ်သည်။ ထို့နောက် ၎င်းအပြုအမူတွင် ပါဝင်ပတ်သက်နေကြသည့် အစိတ်အပိုင်းများကို အဓိပ္ပာယ်ဗေဒဆိုင်ရာ ကဏ္ဍများအလိုက် (ဥပမာ- မည်သူက ပြုလုပ်သူ (Agent) ဖြစ်သည်၊ မည်သူက အပြုခံရသူ (Patient) ဖြစ်သည် စသည်ဖြင့်) တိကျစွာ ခွဲခြားသတ်မှတ်ပေးခြင်း ဖြစ်သည်။

စာသားနှင့် စကားပြောဆိုမှုဗေဒ (Discourse - ဝါကျတစ်ကြောင်းထက်ကျော်လွန်သော အဓိပ္ပာယ်ဖွင့်ဆိုချက်)

ပူးတွဲညွှန်းဆိုမှု ဖြေရှင်းခြင်း (Coreference resolution)

ဤစနစ်သည် ဝါကျတစ်ကြောင်း သို့မဟုတ် စာသားအမြောက်အမြားကို ကြည့်ရှုပြီး မည်သည့်စကားလုံးများ ("Mentions") သည် ပြင်ပကမ္ဘာရှိ တူညီသောအရာဝတ္ထု သို့မဟုတ် တူညီသောပုဂ္ဂိုလ် ("Entities") ကို ရည်ညွှန်းနေကြသည်ကို ဆုံးဖြတ်ပေးခြင်း ဖြစ်သည်။ နာမ်စားညွှန်းဆိုမှု ဖြေရှင်းခြင်း (Anaphora resolution) သည် ဤလုပ်ငန်းစဉ်၏ ထင်ရှားသော နမူနာတစ်ခုဖြစ်ပြီး ၎င်းသည် အနက်အဓိပ္ပာယ် ပေါ်လွင်စေရန် နာမ်စား (Pronouns) များကို ၎င်းတို့ ရည်ညွှန်းသည့် နာမ် သို့မဟုတ် အမည်များနှင့် အတိအကျ ပြန်လည်တွဲဖက်ပေးသည်။
ပိုမိုကျယ်ပြန့်သော ပူးတွဲညွှန်းဆိုမှု ဖြေရှင်းခြင်း လုပ်ငန်းစဉ်တွင် ညွှန်းဆိုပြသသော အသုံးအနှုန်းများအကြား ဆက်စပ်နေသည့် "ပေါင်းကူးဆက်နွှယ်မှုများ" (Bridging relationships) ကို ရှာဖွေခြင်းလည်း ပါဝင်သည်။ ဥပမာအားဖြင့် "သူသည် ဂျွန်၏အိမ်ထဲသို့ ရှေ့တံခါးမှတစ်ဆင့် ဝင်ရောက်ခဲ့သည်" ဟူသော ဝါကျတွင် "ရှေ့တံခါး" သည် ညွှန်းဆိုပြသသော အသုံးအနှုန်းတစ်ခု ဖြစ်သည်။ ဤနေရာတွင် ကွန်ပျူတာက ရှာဖွေဖော်ထုတ်ရမည့် ပေါင်းကူးဆက်နွှယ်မှုမှာ ၎င်းတံခါးသည် အခြားအဆောက်အအုံတစ်ခုခု၏ တံခါးမဟုတ်ဘဲ "ဂျွန်၏အိမ်၏ ရှေ့တံခါး" ဖြစ်သည်ဟူသော အချက်အလက်အစစ်အမှန်ပင် ဖြစ်သည်။

စာသားနှင့် စကားပြောဆိုမှု ခွဲခြမ်းစိပ်ဖြာခြင်း (Discourse analysis)

ဤကဏ္ဍတွင် ဆက်စပ်နေသော လုပ်ငန်းစဉ်အချို့ ပါဝင်သည်။ ပထမလုပ်ငန်းစဉ်မှာ စကားပြောဆိုမှုဆိုင်ရာ ခွဲခြမ်းစိပ်ဖြာခြင်း (Discourse parsing) ဖြစ်ပြီး၊ ၎င်းသည် ဆက်စပ်နေသော စာသားတစ်ခု၏ တည်ဆောက်ပုံကို ရှာဖွေပေးသည်။ တစ်နည်းအားဖြင့် ဝါကျတစ်ကြောင်းနှင့်တစ်ကြောင်းကြား ရှိနေသည့် ဆက်စပ်မှုသဘောသဘာဝများ (ဥပမာ- အသေးစိတ်ချဲ့ထွင်ရှင်းလင်းခြင်း၊ အကြောင်းပြချက်ပေးခြင်း၊ ဆန့်ကျင်ဘက်ဖော်ပြခြင်း) ကို ဖော်ထုတ်ပေးခြင်း ဖြစ်သည်။ အခြားလုပ်ငန်းစဉ်တစ်ခုမှာ စာသားတစ်ခုအတွင်း ပါဝင်သော "စကားပြောဆိုမှုဆိုင်ရာ လုပ်ဆောင်ချက်များ" (Speech acts) ကို မှတ်မိခွဲခြားခြင်း ဖြစ်သည်။ (ဥပမာ- ဟုတ်မဟုတ် မေးခွန်း၊ အကြောင်းအရာမေးခွန်း၊ သာမန်ပြောဆိုချက် သို့မဟုတ် အခိုင်အမာပြောဆိုချက် စသည်ဖြင့် အမျိုးအစား ခွဲခြားခြင်း ဖြစ်သည်။)

သွယ်ဝိုက်သော ကဏ္ဍအလိုက် အဓိပ္ပာယ်သတ်မှတ်ခြင်း (Implicit semantic role labelling)

ဤစနစ်သည် ဝါကျတစ်ကြောင်းအတွင်းရှိ အဓိပ္ပာယ်ဗေဒဆိုင်ရာ ကြိယာအမျိုးအစားများနှင့် ၎င်းဝါကျထဲတွင် အထင်အရှား ပါဝင်နေသည့် အဓိပ္ပာယ်ဗေဒဆိုင်ရာ ကဏ္ဍများကို ရှာဖွေခွဲခြားသည် (အထက်ပါ "ကဏ္ဍအလိုက် အဓိပ္ပာယ်သတ်မှတ်ခြင်း" ကို ကြည့်ပါ)။ ထို့နောက် ၎င်းဝါကျထဲတွင် တိုက်ရိုက်ထည့်သွင်း ဖော်ပြထားခြင်း မရှိသော်လည်း သွယ်ဝိုက်၍ ပါဝင်နေသည့် အဓိပ္ပာယ်ဆိုင်ရာ ကဏ္ဍများကို ထပ်မံရှာဖွေသည်။ ၎င်းတို့ကို စာသား၏ အခြားနေရာတစ်ခုခုတွင် အထင်အရှား ဖော်ပြထားသော အချက်အလက်များနှင့် လုံးဝသတ်မှတ်ဖော်ပြထားခြင်း မရှိသော အချက်အလက်များဟူ၍ အမျိုးအစား ခွဲခြားပြီး၊ အခြားနေရာတွင် ပါဝင်နေသော အချက်အလက်များကို လက်ရှိဝါကျနောက်ခံနှင့် တိုက်ဆိုင်ကာ အဓိပ္ပာယ်ကို ဖြေရှင်းပေးသည်။ ဤလုပ်ငန်းနှင့် အလွန်နီးစပ်သော အခြားလုပ်ငန်းတစ်ခုမှာ Zero anaphora resolution ဖြစ်ပြီး ၎င်းသည် ကတ္တား သို့မဟုတ် ကံပုဒ်များကို မြှုပ်၍ ရေးသားလေ့ရှိသော ဘာသာစကားများ (Pro-drop languages - ဥပမာ- မြန်မာ၊ ဂျပန်ဘာသာစကားများ) အတွက် ပူးတွဲညွှန်းဆိုမှု ဖြေရှင်းခြင်းကို တိုးချဲ့လုပ်ဆောင်ပေးသည့် စနစ်ဖြစ်သည်။

စာသားချင်း ဆီလျော်မှု ရှိမရှိ ဆုံးဖြတ်ခြင်း (Recognizing textual entailment)

ဤစနစ်သည် စာသားအပိုင်းအစ နှစ်ခုကို ရယူပြီး၊ စာသားတစ်ခု မှန်ကန်နေခြင်းသည် အခြားစာသားတစ်ခုကိုလည်း မှန်ကန်စေရန် တိုက်ရိုက်အကြောင်းပြချက် (Entails) ဖြစ်နေပါသလား၊ သို့မဟုတ် အခြားစာသား၏ ဆန့်ကျင်ဘက်အဓိပ္ပာယ်ကို မှန်ကန်စေပါသလား၊ သို့မဟုတ် အခြားစာသားကို မှန်သည်ဖြစ်စေ မှားသည်ဖြစ်စေ ဖြစ်ခွင့်ပေးထားပါသလား စသည်ဖြင့် စာသားနှစ်ခု၏ ဆက်စပ်ထွက်ပေါ်လာမည့် ယုတ္တိဗေဒကို ဆုံးဖြတ်ပေးခြင်း ဖြစ်သည်။^[၃၃]

အကြောင်းအရာအလိုက် ပိုင်းဖြတ်ခြင်းနှင့် မှတ်မိခြင်း (Topic segmentation and recognition)

ဤစနစ်သည် စာသားအမြောက်အမြားကို ဖတ်ရှုပြီး ၎င်းတို့ကို သီးသန့်အကြောင်းအရာ (Topic) တစ်ခုချင်းစီအလိုက် စာပိုဒ်ကဏ္ဍများအဖြစ် အပိုင်းပိုင်း ခွဲထုတ်ပေးကာ၊ ၎င်းခွဲထုတ်လိုက်သော ကဏ္ဍတစ်ခုချင်းစီသည် မည်သည့်အကြောင်းအရာကို ဖော်ပြနေသည်ကိုပါ အလိုအလျောက် သတ်မှတ်ပေးခြင်း ဖြစ်သည်။

ဆွေးနွေးတင်ပြချက်ဆိုင်ရာ အချက်အလက်တူးဖော်ခြင်း (Argument mining) ဤလုပ်ငန်းစဉ်၏ ရည်ရွယ်ချက်မှာ ကွန်ပျူတာပရိုဂရမ်များ၏ အကူအညီဖြင့် သဘာဝဘာသာစကား စာသားများထဲမှနေ၍ အချက်အလက် အခြေအတင် ဆွေးနွေးတင်ပြချက် တည်ဆောက်ပုံများ (Argumentative structures) ကို အလိုအလျောက် ရှာဖွေထုတ်ယူပြီး ဖော်ထုတ်ရန် ဖြစ်သည်။^[၃၄] အဆိုပါ ဆွေးနွေးတင်ပြချက် တည်ဆောက်ပုံများတွင် အခြေခံအကြောင်းရင်းခံများ (Premise)၊ ကောက်ချက်များ (Conclusions)၊ ဆွေးနွေးတင်ပြချက်စနစ်နှင့် ပင်မဆွေးနွေးချက်နှင့် နောက်ဆက်တွဲဆွေးနွေးချက်တို့အကြား ဆက်နွှယ်မှုများ၊ သို့မဟုတ် စကားပြောဆိုမှုအတွင်းရှိ ပင်မဆွေးနွေးချက်နှင့် တန်ပြန်ချေပချက် (Counter-argument) တို့အကြား ဆက်စပ်မှုများ ပါဝင်ပါသည်။^[၃၅]^[၃၆]

အဆင့်မြင့် သဘာဝဘာသာစကား စီမံဆောင်ရွက်မှု အသုံးချလုပ်ငန်းများ (Higher-level NLP applications)

အလိုအလျောက် အကျဉ်းချုပ်ဖော်ပြခြင်း (Automatic summarization / Text summarization)

ဤစနစ်သည် စာသားအမြောက်အမြား (Chunk of text) ကို ဖတ်ရှုပြီး ဖတ်ရှုရလွယ်ကူကာ အဓိပ္ပာယ်ပေါ်လွင်သော အကျဉ်းချုပ်ကို အလိုအလျောက် ထုတ်လုပ်ပေးခြင်း ဖြစ်သည်။ ဤနည်းပညာကို သုတေသနစာတမ်းများ သို့မဟုတ် သတင်းစာများရှိ စီးပွားရေးနှင့် ဘဏ္ဍာရေးကဏ္ဍမှ ဆောင်းပါးများကဲ့သို့ ပုံစံသတ်မှတ်ချက်ရှိပြီးသား စာသားများကို အကျဉ်းချုပ်ဖော်ပြရန်အတွက် အများဆုံး အသုံးပြုကြသည်။

သဒ္ဒါအမှား ပြင်ဆင်ခြင်း (Grammatical error correction)

သဒ္ဒါအမှားများကို ရှာဖွေခြင်းနှင့် ပြင်ဆင်ခြင်း လုပ်ငန်းစဉ်တွင် ဘာသာစကားဆိုင်ရာ ခွဲခြမ်းစိပ်ဖြာမှု အဆင့်အားလုံး (အသံဗေဒ/အက္ခရာအရေးအသား၊ စကားလုံးတည်ဆောက်ပုံ၊ ဝါကျဖွဲ့စည်းပုံ၊ အဓိပ္ပာယ်ဗေဒနှင့် အသုံးချဘာသာဗေဒ) ပါဝင်သဖြင့် ဖြေရှင်းရမည့် ပြဿနာအကွာအဝေး အလွန်ကျယ်ပြန့်သည်။ အင်္ဂလိပ်စာကို ဒုတိယဘာသာစကားအဖြစ် အသုံးပြုနေသူ သို့မဟုတ် လေ့လာနေသူ သန်းပေါင်းရာချီအပေါ် တိုက်ရိုက်သက်ရောက်မှုရှိသဖြင့် ဤနည်းပညာသည် အလွန်အကျိုးသက်ရောက်မှု ရှိလှသည်။ ထို့ကြောင့် ၂၀၁၁ ခုနှစ်ကတည်းက ဤနယ်ပယ်တွင် ပူးပေါင်းလုပ်ဆောင်ရမည့် သုတေသနလုပ်ငန်း အမြောက်အမြား ရှိခဲ့သည်။^[၃၇]^[၃၈]^[၃၉] အက္ခရာအရေးအသား၊ စကားလုံးတည်ဆောက်ပုံ၊ ဝါကျဖွဲ့စည်းပုံနှင့် အဓိပ္ပာယ်ဗေဒဆိုင်ရာ အချို့သော အစိတ်အပိုင်းများတွင် GPT-2 ကဲ့သို့သော အစွမ်းထက်သည့် အာရုံကြောကွန်ရက်သုံး ဘာသာစကားမော်ဒယ်များ တိုးတက်လာမှုကြောင့်၊ ဤပြဿနာကို ၂၀၁၉ ခုနှစ်ကတည်းက အများအားဖြင့် ဖြေရှင်းပြီးသား ပြဿနာတစ်ခုအဖြစ် သတ်မှတ်နိုင်ခဲ့ပြီး ယခုအခါ စီးပွားရေးလုပ်ငန်းသုံး အသုံးချဆော့ဖ်ဝဲလ်အမျိုးမျိုး (ဥပမာ- Grammarly ကဲ့သို့သော စနစ်များ) တွင် ထည့်သွင်းရောင်းချနေပြီ ဖြစ်သည်။

ယုတ္တိဗေဒဘာသာစကားသို့ ပြောင်းလဲခြင်း (Logic translation)

ဤစနစ်သည် လူသားတို့ပြောဆိုသော သဘာဝဘာသာစကားဖြင့် ရေးသားထားသည့် စာသားများကို ကွန်ပျူတာသင်္ချာနည်းကျ ပုံသေယုတ္တိဗေဒစနစ် (Formal logic) သို့ ပြောင်းလဲပေးခြင်း ဖြစ်သည်။

စက်မှုဘာသာပြန်စနစ် (Machine translation - MT)

ဤစနစ်သည် လူသားဘာသာစကားတစ်ခုမှ အခြားလူသားဘာသာစကားတစ်ခုသို့ စာသားများကို အလိုအလျောက် ပြန်ဆိုပေးခြင်း ဖြစ်သည်။ ဤလုပ်ငန်းစဉ်သည် အခက်ခဲဆုံး ပြဿနာများထဲမှ တစ်ခုဖြစ်ပြီး "AI-complete" (ဉာဏ်ရည်တု အပြည့်အဝရမှသာ ဖြေရှင်းနိုင်မည့် ပြဿနာ) အုပ်စုတွင် ပါဝင်သည်။ အကြောင်းမှာ ဘာသာပြန်ခြင်းကို မှန်ကန်စွာ လုပ်ဆောင်နိုင်ရန်အတွက် လူသားတို့ ပိုင်ဆိုင်ထားသော အသိပညာ ဗဟုသုတအမျိုးအစားအားလုံး (သဒ္ဒါစနစ်၊ အဓိပ္ပာယ်ဗေဒနှင့် ပြင်ပကမ္ဘာမှ တကယ့်အချက်အလက်များ) ကို ကွန်ပျူတာက သိရှိနားလည်ထားရန် လိုအပ်သောကြောင့် ဖြစ်သည်။

သဘာဝဘာသာစကားကို နားလည်အောင်လုပ်ဆောင်ခြင်း (Natural language understanding - NLU)

ဤစနစ်သည် စာသားအမြောက်အမြားကို ကွန်ပျူတာပရိုဂရမ်များက ပိုမိုလွယ်ကူစွာ စီမံခန့်ခွဲနိုင်မည့် ပထမအဆင့် ယုတ္တိဗေဒတည်ဆောက်ပုံများ (First-order logic structures) ကဲ့သို့သော ပုံသေကိုယ်စားပြုစနစ်များသို့ ပြောင်းလဲပေးခြင်း ဖြစ်သည်။ သဘာဝဘာသာစကားကို နားလည်အောင်လုပ်ဆောင်ခြင်း (NLU) တွင် ပုံမှန်အားဖြင့် သဘာဝဘာသာစကားအယူအဆများကို စနစ်တကျ မှတ်တမ်းတင်ထားသော အသုံးအနှုန်းများဆီမှ ထွက်ပေါ်လာနိုင်သည့် ဖြစ်နိုင်ခြေရှိသော အဓိပ္ပာယ်အမြောက်အမြားထဲမှနေ၍ အမှန်တကယ် ဆိုလိုရင်းဖြစ်သော စိတ်ကူးအဓိပ္ပာယ်ကို ရှာဖွေဖော်ထုတ်ပေးရသည်။ ဘာသာစကားဆိုင်ရာ မေတာမော်ဒယ်များ (Language metamodels) နှင့် ဗဟုသုတအလွှာအဆင့်ဆင့်စနစ်များ (Ontologies) ကို မိတ်ဆက်တည်ဆောက်ခြင်းသည် ထိရောက်သော်လည်း လက်တွေ့စမ်းသပ်ချက်အပေါ် အခြေခံသော ဖြေရှင်းနည်းများ ဖြစ်သည်။ အဓိပ္ပာယ်ဗေဒဆိုင်ရာ အခြေခံအုတ်မြစ်တစ်ခု တည်ဆောက်ရန်အတွက် သဘာဝဘာသာစကား၏ အဓိပ္ပာယ်ကို သွယ်ဝိုက်သောယူဆချက်များ (ဥပမာ- ကမ္ဘာပိတ်ယူဆချက် (Closed-world assumption) နှင့် ကမ္ဘာဖွင့်ယူဆချက် သို့မဟုတ် ပုဂ္ဂလဓိဋ္ဌာန်ကျသော ဟုတ်/မဟုတ် နှင့် ဓမ္မဓိဋ္ဌာန်ကျသော မှန်/မှား) နှင့် ရောထွေးမှုမရှိစေဘဲ အတိအကျ ပုံသေဖော်ထုတ်နိုင်ရန် မျှော်မှန်းလုပ်ဆောင်လျက် ရှိသည်။^[၄၀]

သဘာဝဘာသာစကားကို ပြန်လည်ထုတ်လုပ်ပေးခြင်း (Natural language generation - NLG)

ဤစနစ်သည် ကွန်ပျူတာဒေတာဘေ့စ်များထဲရှိ အချက်အလက်များ သို့မဟုတ် အဓိပ္ပာယ်ဗေဒဆိုင်ရာ ရည်ရွယ်ချက်များကို လူသားတို့ ဖတ်ရှုရလွယ်ကူသော ဘာသာစကားအဖြစ်သို့ ပြန်လည်ပြောင်းလဲ ထုတ်လုပ်ပေးခြင်း ဖြစ်သည်။

စာအုပ်များ အလိုအလျောက် ရေးသားထုတ်လုပ်ခြင်း (Book generation)

ဤလုပ်ငန်းသည် စင်စစ်အားဖြင့် NLP သီးသန့်လုပ်ငန်းစဉ်တစ်ခု မဟုတ်သော်လည်း သဘာဝဘာသာစကား ပြန်လည်ထုတ်လုပ်ပေးခြင်း (NLG) နှင့် အခြား NLP လုပ်ငန်းစဉ်များကို တိုးချဲ့ကာ စာအုပ်တစ်အုပ်လုံးကို အစအဆုံး ဖန်တီးပေးခြင်း ဖြစ်သည်။ ၁၉၈၄ ခုနှစ်တွင် စည်းကမ်းချက်အခြေပြုစနစ် (Rule-based system) ကို အသုံးပြု၍ ပထမဆုံး စက်မှုဖန်တီးမှုစာအုပ် ဖြစ်သော "Racter, The policeman's beard is half-constructed" ကို ရေးသားခဲ့သည်။^[၄၁] ၂၀၁၈ ခုနှစ်တွင် အာရုံကြောကွန်ရက်ဖြင့် ပထမဆုံး ရေးသားထုတ်ဝေခဲ့သည့် "1 the Road" စာအုပ်သည် စကားလုံးပေါင်း သန်း ၆၀ ကျော် ပါဝင်ပြီး ၎င်းကို ဝတ္ထုတစ်ပုဒ်အဖြစ် ဈေးကွက်တင်ခဲ့သည်။ ဤစနစ်နှစ်ခုလုံးသည် အခြေခံအားဖြင့် ဆန်းပြားသော်လည်း အတွင်းစိတ်အဓိပ္ပာယ် လုံးဝမပါဝင်သော (Semantics-free) ဘာသာစကားမော်ဒယ်များသာ ဖြစ်ကြသည်။ ၂၀၁၉ ခုနှစ်တွင်မူ သိပ္ပာယ်ဆိုင်ရာ ပထမဆုံး စက်မှုဖန်တီးမှုစာအုပ် ဖြစ်သော "Beta Writer, Lithium-Ion Batteries, Springer, Cham" ကို ထုတ်ဝေနိုင်ခဲ့သည်။^[၄၂] ၎င်းစာအုပ်သည် ယခင်စာအုပ်များနှင့်မတူဘဲ တကယ့်ပြင်ပကမ္ဘာမှ အချက်အလက်အစစ်အမှန်များအပေါ် အခြေခံထားပြီး စာသားအကျဉ်းချုပ်ဖော်ပြခြင်း နည်းပညာကို အသုံးပြု၍ ရေးသားထားခြင်း ဖြစ်သည်။

စာရွက်စာတမ်းဆိုင်ရာ ဉာဏ်ရည်တုစနစ် (Document AI)

စာရွက်စာတမ်းဆိုင်ရာ ဉာဏ်ရည်တု ပလက်ဖောင်း (Document AI platform) သည် NLP နည်းပညာ၏ အပေါ်တွင် ထပ်ဆင့်တည်ဆောက်ထားခြင်း ဖြစ်သည်။ ၎င်းသည် ဉာဏ်ရည်တု၊ စက်သင်ယူမှု သို့မဟုတ် NLP ဆိုင်ရာ ကြိုတင်အတွေ့အကြုံ လုံးဝမရှိသော သာမန်အသုံးပြုသူများကိုပင် မတူညီသော စာရွက်စာတမ်းအမျိုးအစားများထဲမှ မိမိတို့လိုအပ်သည့် သီးသန့်အချက်အလက်များကို ထုတ်ယူနိုင်စေရန် ကွန်ပျူတာကို အလွယ်တကူ လေ့ကျင့်သင်ကြားပေးနိုင်သည်။ NLP စွမ်းအင်သုံး Document AI သည် နည်းပညာပိုင်း ကျွမ်းကျင်မှုမရှိသော လုပ်ငန်းခွင်အဖွဲ့များ (ဥပမာ- ရှေ့နေများ၊ စီးပွားရေးလုပ်ငန်းဆိုင်ရာ ခွဲမ်းစိပ်ဖြာသူများနှင့် စာရင်းကိုင်များ) အနေဖြင့် စာရွက်စာတမ်းများထဲတွင် ဝှက်ကွယ်နေသည့် အချက်အလက်များကို လျင်မြန်စွာ ရှာဖွေကြည့်ရှုနိုင်အောင် စွမ်းဆောင်ပေးသည်။^[၄၃]

အပြန်အလှန် စကားပြောဆိုမှု စီမံခန့်ခွဲခြင်း (Dialogue management)

ဤစနစ်သည် လူသားတစ်ဦးနှင့် အပြန်အလှန် စကားပြောဆို ဆက်သွယ်နိုင်ရန်အတွက် ရည်ရွယ်တည်ဆောက်ထားသော ကွန်ပျူတာစနစ်များ (ဥပမာ- Chatbots များနှင့် Voice assistants များ) ဖြစ်ကြသည်။

မေးခွန်းနှင့်အဖြေစနစ် (Question answering)

ဤစနစ်သည် လူသားဘာသာစကားဖြင့် မေးမြန်းထားသော မေးခွန်းတစ်ခုကို ဖတ်ရှုပြီး ၎င်းနှင့်ကိုက်ညီမည့် အဖြေမှန်ကို ရှာဖွေဖော်ထုတ်ပေးခြင်း ဖြစ်သည်။ ပုံမှန်မေးခွန်းများတွင် အတိအကျ မှန်ကန်သော အဖြေတစ်ခု ရှိတတ်ကြသော်လည်း (ဥပမာ- "ကနေဒါနိုင်ငံ၏ မြို့တော်မှာ ဘာလဲ?")၊ တစ်ခါတစ်ရံတွင် အဖြေအတိအကျမရှိဘဲ ကျယ်ပြန့်စွာ တွေးတောရသော မေးခွန်းများကိုလည်း ထည့်သွင်းတွက်ချက်ကြသည် (ဥပမာ- "ဘဝရဲ့ အဓိပ္ပာယ်က ဘာလဲ?")။

စာသားမှ ပုံရိပ်ဖန်တီးခြင်း (Text-to-image generation)

ဤစနစ်သည် ပေးထားသော ပုံရိပ်တစ်ခု၏ ဖော်ပြချက်စာသားကို ဖတ်ရှုပြီး၊ ၎င်းဖော်ပြချက်နှင့် အတိအကျ ကိုက်ညီမည့် ပုံရိပ် (Image) တစ်ခုကို အလိုအလျောက် ထုတ်လုပ်ဖန်တီးပေးခြင်း ဖြစ်သည်။^[၄၄]

စာသားမှ မြင်ကွင်းဖန်တီးခြင်း (Text-to-scene generation)

ဤစနစ်သည် ပေးထားသော မြင်ကွင်းတစ်ခု၏ ဖော်ပြချက်စာသားကို အခြေခံ၍ ၎င်းမြင်ကွင်း၏ သုံးဖက်မြင်မော်ဒယ် (3D model of the scene) တစ်ခုကို အလိုအလျောက် တည်ဆောက်ထုတ်လုပ်ပေးခြင်း ဖြစ်သည်။^[၄၅]^[၄၆]

စာသားမှ ဗီဒီယိုဖန်တီးခြင်း (Text-to-video)

ဤစနစ်သည် ပေးထားသော ဗီဒီယိုတစ်ခု၏ ဖော်ပြချက်စာသားကို ဖတ်ရှုပြီး၊ ၎င်းဖော်ပြချက်နှင့် ကိုက်ညီမည့် ဗီဒီယို (Video) တစ်ခုကို အလိုအလျောက် ဖန်တီးပေးခြင်း ဖြစ်သည်။^[၄၇]^[၄၈]

ယေဘုယျ ဦးတည်ချက်များနှင့် (ဖြစ်နိုင်ခြေရှိသော) အနာဂတ်လမ်းကြောင်းများ (General tendencies and future directions)

ဤနယ်ပယ်တွင် ရေရှည်ဖြစ်ထွန်းခဲ့သော ဖြစ်စဉ်များအပေါ် အခြေခံ၍ NLP ၏ အနာဂတ်ဦးတည်ချက်များကို ခန့်မှန်းတွက်ချက်နိုင်သည်။ CoNLL Shared Tasks ၏ ရေရှည်သုတေသန စီးရီးများအရ ဦးတည်ချက် သုံးခုကို အောက်ပါအတိုင်း တွေ့ရှိနိုင်ပါသည်^[၄၉] -

သဘာဝဘာသာစကား၏ ပိုမိုနက်ရှိုင်းပြီး စိတ္တဇဆန်သော "သိမြင်မှု" (Cognitive) ဆိုင်ရာ အစိတ်အပိုင်းများကို ပိုမိုအာရုံစိုက်လာခြင်း: (၁၉၉၉-၂၀၀၁ တွင် အပေါ်ယံစာကြောင်းခွဲခြင်း၊ ၂၀၀၂-၀၃ တွင် အမည်နာမများအား ခွဲခြားမှတ်မိခြင်း၊ ၂၀၀၆-၀၉/၂၀၁၇-၁၈ တွင် မှီခိုမှုဝါကျဖွဲ့စည်းပုံ၊ ၂၀၀၄-၀၅/၂၀၀၈-၀၉ တွင် ကဏ္ဍအလိုက် အဓိပ္ပာယ်သတ်မှတ်ခြင်း၊ ၂၀၁၁-၁၂ တွင် ပူးတွဲညွှန်းဆိုမှုဖြေရှင်းခြင်း၊ ၂၀၁၅-၁၆ တွင် စကားပြောဆိုမှုဆိုင်ရာ ခွဲခြမ်းစိပ်ဖြာခြင်း၊ ၂၀၁၉ တွင် အဓိပ္ပာယ်ဗေဒဆိုင်ရာ ခွဲခြမ်းစိပ်ဖြာခြင်း စသည်ဖြင့် အဆင့်ဆင့် တိုးတက်လာခဲ့သည်။)
ဘာသာစကားမျိုးစုံသုံးစနစ် (Multilinguality) နှင့် ပုံစံမျိုးစုံသုံးစနစ် (Multimodality) များအပေါ် စိတ်ဝင်စားမှု တိုးပွားလာခြင်း: (၁၉၉၉ ကတည်းက အင်္ဂလိပ်ဘာသာစကား၊ ၂၀၀၂ မှစ၍ စပိန်နှင့် ဒတ်ခ်ျ၊ ၂၀၀၃ မှစ၍ ဂျာမန်၊ ၂၀၀၆ မှစ၍ ဘူဂေးရီးယား၊ ဒိန်းမတ်၊ ဂျပန်၊ ပေါ်တူဂီ၊ ဆလိုဗေးနီးယား၊ ဆွီဒင်နှင့် တူရကီ၊ ၂၀၀၇ မှစ၍ ဘတ်စ်ခ်၊ ကာတာလန်၊ တရုတ်၊ ဂရိ၊ ဟန်ဂေရီ၊ အီတလီ၊ တူရကီ၊ ၂၀၀၉ မှစ၍ ချက်၊ ၂၀၁၂ မှစ၍ အာရပ်၊ ၂၀၁၇ တွင် ဘာသာစကား ၄၀ ကျော်၊ ၂၀၁၈ တွင် ဘာသာစကား ၆၀ ကျော်မှ ၁၀၀ ကျော်အထိ တိုးချဲ့ သုတေသနပြုလာနိုင်ခဲ့သည်။)
သင်္ကေတအခြေပြု ကိုယ်စားပြုစနစ်များကို ဖယ်ရှားပစ်ခြင်း: (စည်းကမ်းချက်အခြေပြုစနစ်များမှတစ်ဆင့် လမ်းညွှန်မှုပါသော စက်သင်ယူမှုစနစ်များဆီသို့၊ ၎င်းမှတစ်ဆင့် လမ်းညွှန်မှုအားနည်းသော စက်သင်ယူမှုနည်းလမ်းများ၊ အချက်အလက်များကို ကိုယ်စားပြုသင်ယူခြင်း (Representation learning) နှင့် အစမှအဆုံး တိုက်ရိုက်တွက်ချက်သော စနစ်များ (End-to-end systems) ဆီသို့ ကူးပြောင်းလာခြင်း ဖြစ်သည်။)

သိမြင်နားလည်မှုစွမ်းရည် (Cognition)

အဆင့်မြင့် သဘာဝဘာသာစကား စီမံဆောင်ရွက်မှု (NLP) အသုံးချလုပ်ငန်း အများစုတွင် လူသားတို့၏ ဉာဏ်ရည်ထက်မြက်သော အပြုအမူများနှင့် သဘာဝဘာသာစကားကို အမှန်တကယ် နားလည်သဘောပေါက်သည့် ပုံစံမျိုးကို တုပလုပ်ဆောင်သော အစိတ်အပိုင်းများ ပါဝင်ကြသည်။ ပိုမိုကျယ်ပြန့်စွာ ပြောရလျှင် ပိုမိုအဆင့်မြင့်လာသော သိမြင်နားလည်မှုဆိုင်ရာ အပြုအမူများကို နည်းပညာအရ လက်တွေ့အသုံးချနိုင်အောင် ဖန်တီးခြင်းသည် NLP ၏ အဓိက တိုးတက်ပြောင်းလဲလာသည့် လမ်းကြောင်းများထဲမှ တစ်ခုဖြစ်သည် (အထက်တွင် ဖော်ပြခဲ့သော CoNLL shared tasks များ၏ ဦးတည်ချက်များကို ကြည့်ပါ)။

"သိမြင်နားလည်မှုစွမ်းရည်" (Cognition) ဆိုသည်မှာ "အတွေးအခေါ်၊ အတွေ့အကြုံနှင့် အာရုံခံစားမှုများမှတစ်ဆင့် ဗဟုသုတနှင့် နားလည်သဘောပေါက်မှုများကို ရယူဆည်းပူးသည့် စိတ်ပိုင်းဆိုင်ရာ လုပ်ဆောင်ချက် သို့မဟုတ် လုပ်ငန်းစဉ်" ကို ဆိုလိုခြင်း ဖြစ်သည်။^[၅၀] သိမြင်မှုသိပ္ပာယ်ပညာရပ် (Cognitive science) ဆိုသည်မှာ လူသားတို့၏ စိတ်နှင့် ၎င်း၏လုပ်ငန်းစဉ်များကို နယ်ပယ်စုံပညာရပ်များ ပေါင်းစပ်၍ သိပ္ပာယ်နည်းကျ သိပ္ပံပညာရပ်ဆိုင်ရာ လေ့လာခြင်း ဖြစ်သည်။^[၅၁] သိမြင်မှုဘာသာဗေဒ (Cognitive linguistics) ဆိုသည်မှာ စိတ်ပညာနှင့် ဘာသာဗေဒ နယ်ပယ်နှစ်ခုလုံးမှ ဗဟုသုတနှင့် သုတေသနများကို ပေါင်းစပ်ထားသော ဘာသာဗေဒ၏ နယ်ပယ်စုံခွဲတစ်ခု ဖြစ်သည်။^[၅၂] အထူးသဖြင့် သင်္ကေတအခြေပြု NLP (Symbolic NLP) ခေတ်ကာလအတွင်း၌ ကွန်ပျူတာသုံး ဘာသာဗေဒ နယ်ပယ်သည် သိမြင်မှုဆိုင်ရာ လေ့လာမှုများနှင့် အလွန်ခိုင်မာသော ဆက်ဆံရေး ရှိခဲ့သည်။

ဥပမာအားဖြင့် ဂျော့ခ်ျ လေကော့ဗ် (George Lakoff) သည် သိမြင်မှုသိပ္ပာယ်ပညာရပ်ဆိုင်ရာ အမြင်နှင့် သိမြင်မှုဘာသာဗေဒ၏ ရှာဖွေတွေ့ရှိချက်များကို အသုံးပြု၍^[၅၃] NLP အယ်လ်ဂိုရီသမ်များ တည်ဆောက်နိုင်မည့် နည်းလမ်းတစ်ခုကို အောက်ပါအတိုင်း အဓိကအချက် နှစ်ချက်ဖြင့် အဆိုပြုခဲ့သည် -

သဘောတရားအခြေခံ တင်စားချက်သီအိုရီ (Theory of conceptual metaphor) ကို အသုံးချခြင်း လေကော့ဗ်က ဤသီအိုရီကို "စိတ်ကူးတစ်ခုအား အခြားစိတ်ကူးတစ်ခု၏ အသုံးအနှုန်းများဖြင့် နားလည်ခြင်း" ဟု ရှင်းပြထားပြီး ၎င်းသည် စာရေးသူ၏ ဆိုလိုရင်းရည်ရွယ်ချက်ကို သိရှိစေရန် အထောက်အကူပြုသည်။^[၅၄] ဥပမာအားဖြင့် အင်္ဂလိပ်စကားလုံး "big" (ကြီးမားသော) ကို နှိုင်းယှဉ်မှုတစ်ခုတွင် အသုံးပြုသည့်အခါ ("That is a big tree" - ထိုအပင်သည် ကြီးမားသောအပင် ဖြစ်သည်) စာရေးသူသည် ၎င်းအပင်သည် အခြားအပင်များနှင့် နှိုင်းယှဉ်လျှင် သို့မဟုတ် မိမိအတွေ့အကြုံအရ ရုပ်ပိုင်းဆိုင်ရာအရ ထွားကျိုင်းကြီးမားသည်ဟု ဆိုလိုခြင်း ဖြစ်သည်။ သို့သော် ၎င်းကို တင်စားချက်အဖြစ် သုံးစွဲသည့်အခါတွင်မူ ("Tomorrow is a big day" - မနက်ဖြန်သည် နေ့ထူးနေ့မြတ်ကြီး ဖြစ်သည်) စာရေးသူသည် အရေးကြီးမှုသဘောကို ဆိုလိုခြင်း ဖြစ်သည်။ ၎င်းအပြင် "She is a big person" (သူမသည် ကြီးမြတ်သူ/ကြီးမားသူ ဖြစ်သည်) ဟူသော အခြားအသုံးအနှုန်းများ၏ နောက်ကွယ်မှ ရည်ရွယ်ချက်မှာမူ နောက်ထပ် အချက်အလက်များ ထပ်မံမရရှိပါက လူသားတစ်ဦးအတွက်ဖြစ်စေ၊ သိမြင်မှုအခြေပြု NLP စနစ်အတွက်ဖြစ်စေ အဓိပ္ပာယ် အနည်းငယ် ဝေဝါးနေဦးမည် ဖြစ်သည်။
စကားလုံးတစ်လုံးချင်းစီ၊ စာသား၊ ဝါကျ သို့မဟုတ် စာပိုဒ်တစ်ခု၏ ဆက်စပ်အဓိပ္ပာယ်ကို တိုင်းတာခြင်း ခွဲခြမ်းစိပ်ဖြာမည့် စာသား၏ ရှေ့နှင့်နောက်တွင် ပါရှိသော အချက်အလက်များအပေါ် အခြေခံ၍ ၎င်းစာသား၏ "ဆက်စပ်အဓိပ္ပာယ် တိုင်းတာမှုနှုန်း" (Relative measure of meaning) ကို သတ်မှတ်ပေးခြင်း ဖြစ်သည်။ ၎င်းကို ဖြစ်တန်စွမ်းအခြေပြု ရှေ့နောက်ကင်းလွတ်သဒ္ဒါစနစ် (PCFG) ကဲ့သို့သော နည်းလမ်းများဖြင့် လုပ်ဆောင်သည်။ အဆိုပါ အယ်လ်ဂိုရီသမ်များအတွက် သင်္ချာညီမျှခြင်းကို အမေရိကန် မူပိုင်ခွင့်အမှတ် ၉၂၆၉၃၅၃ (US Patent 9269353) တွင် အောက်ပါအတိုင်း တင်ပြထားသည်^[၅၅] -

{RMM(token_{N})}={PMM(token_{N})}\times {\frac {1}{2d}}\left(\sum _{i=-d}^{d}{((PMM(token_{N})}\times {PF(token_{N-i},token_{N},token_{N+i}))_{i}}\right)

ယင်းညီမျှခြင်းတွင် -

RMM သည် ဆက်စပ်အဓိပ္ပာယ် တိုင်းတာမှုနှုန်း (Relative measure of meaning) ဖြစ်သည်။
token သည် စာသားအပိုင်းအစ၊ ဝါကျ၊ စာသားစု သို့မဟုတ် စကားလုံးတစ်လုံးချင်းစီ ဖြစ်သည်။
N သည် ခွဲခြမ်းစိပ်ဖြာနေသော တိုကင် (Tokens) အရေအတွက် ဖြစ်သည်။
PMM သည် ဘာသာစကားအချက်အလက်စု (Corpora) အပေါ် အခြေခံ၍ တွက်ချက်ထားသော အဓိပ္ပာယ် ဖြစ်နိုင်ခြေနှုန်း ဖြစ်သည်။
d သည် တိုကင်ပေါင်း N အရေအတွက်အတွင်း အဆိုပါတိုကင် တည်ရှိနေသော သုညမဟုတ်သည့် တည်နေရာ (Location) ဖြစ်သည်။
PF သည် ထိုဘာသာစကားအတွက် သီးသန့်သတ်မှတ်ထားသော ဖြစ်တန်စွမ်း လုပ်ဆောင်ချက် (Probability function) ဖြစ်သည်။

သိမြင်မှုဘာသာဗေဒနှင့် ဆက်နွှယ်မှုများသည် NLP ၏ သမိုင်းဝင် အမွေအနှစ်များဖြစ်သော်လည်း ၁၉၉၀ ပြည့်လွန်နှစ်များအတွင်း ကိန်းဂဏန်းအခြေပြုစနစ်သို့ ကူးပြောင်းသွားခဲ့ပြီးနောက်ပိုင်းတွင် ၎င်းတို့ကို ထည့်သွင်းဆွေးနွေးမှု နည်းပါးသွားခဲ့သည်။ သို့သော်လည်း နည်းပညာအရ လက်တွေ့အသုံးချနိုင်မည့် သိမြင်မှုဆိုင်ရာ စံနမူနာမော်ဒယ်များ (Cognitive models) ကို တည်ဆောက်ရန်အတွက် သိမြင်မှုသဒ္ဒါ (Cognitive grammar)^[၅၆]၊ လုပ်ငန်းဆောင်တာအခြေပြုသဒ္ဒါ (Functional grammar)^[၅၇]၊ တည်ဆောက်ပုံအခြေပြုသဒ္ဒါ (Construction grammar)^[၅၈]၊ ကွန်ပျူတာသုံး စိတ်ပညာဘာသာဗေဒနှင့် သိမြင်မှုဆိုင်ရာ အာရုံကြောသိပ္ပာယ်ပညာရပ် (ဥပမာ- ACT-R) စသည့် မူဘောင်အမျိုးမျိုးအတွင်း ဆက်လက်ကြိုးပမ်းခဲ့ကြသည်။^[၅၉] သို့သော် ၎င်းတို့သည် ပင်မရေစီးကြောင်း NLP နယ်ပယ် (ACL ၏ အဓိကညီလာခံကြီးများတွင် ပါဝင်မှုအပေါ် တိုင်းတာချက်အရ) တွင် အကန့်အသတ်ဖြင့်သာ လက်ခံခြင်း ခံခဲ့ရသည်။

မကြာသေးမီကမှ သိမြင်မှုအခြေပြု NLP ၏ အတွေးအခေါ်များကို နည်းပညာ၏ အလုပ်လုပ်ပုံကို ပြန်လည်ရှင်းပြနိုင်စွမ်း (Explainability) ရရှိစေရန်အတွက် "သိမြင်မှုအခြေပြု ဉာဏ်ရည်တု"^[၆၀] (Cognitive AI) ဟူသော အယူအဆအောက်တွင် ပြန်လည်အသက်သွင်းလာခဲ့သည်။ ထို့အတူ သိမြင်မှုအခြေပြု NLP ၏ အတွေးအခေါ်များသည် ပုံစံမျိုးစုံသုံး နည်းပညာ (Multimodal NLP) ဆိုင်ရာ အာရုံကြောကွန်ရက် မော်ဒယ်များတွင်လည်း (အထင်အရှား ထုတ်ဖော်ပြောဆိုလေ့ မရှိသော်လည်း^[၆၁]) သဘာဝအတိုင်း ကိန်းဝပ်လျက် ရှိသည်။ ၎င်းအပြင် ဉာဏ်ရည်တုနည်းပညာ တိုးတက်လာမှု၊ အထူးသဖြင့် အဆင့်မြင့် ဘာသာစကားမော်ဒယ်ကြီးများ (Large language models) ကို အသုံးပြုထားသည့်^[၆၂] ကိရိယာများနှင့် နည်းပညာများ၊ လန်ဒန်တက္ကသိုလ်ကောလိပ် (University College London) မှ ဗြိတိန်အာရုံကြောသိပ္ပာယ်ပညာရှင်နှင့် သီအိုရီပညာရှင် ကားလ် ဂျေ ဖရစ္စတန် (Karl J. Friston) ၏ စွမ်းအင်လွတ်နိယာမ (Free energy principle)^[၆၃] အပေါ် အခြေခံထားသော အထွေထွေဉာဏ်ရည်တု (Artificial general intelligence - AGI) ဆိုင်ရာ အနာဂတ်ဦးတည်ချက်သစ်များတွင်လည်း ဤသိမြင်မှုအယူအဆများကို ထည့်သွင်းအသုံးပြုနေကြပြီ ဖြစ်သည်။

အခြားကြည့်ရန်

ကိုးကားချက်များ

↑ Eisenstein၊ Jacob (October 1, 2019)။ Introduction to Natural Language Processing။ The MIT Press။ p. 1။ ISBN 978-0-262-04284-0။
↑ NLP။
↑ Hutchins, J. (2005)။ The history of machine translation in a nutshell။ 2019-07-13 တွင် မူရင်းအား မော်ကွန်းတင်ပြီး။ 2019-02-04 တွင် ပြန်စစ်ပြီး။^{[ကိုယ်တိုင်ရေး ရင်းမြစ်]}
↑ "ALPAC: the (in)famous report", John Hutchins, MT News International, no. 14, June 1996, pp. 9–12.
↑ Crevier 1993, pp. 146–148, see also Buchanan 2005, p. 56: "Early programs were necessarily limited in scope by the size and speed of memory"
↑ Koskenniemi၊ Kimmo (1983)၊ Two-level morphology: A general computational model of word-form recognition and production (PDF)၊ Department of General Linguistics, University of Helsinki၊ 2018-12-21 တွင် မူရင်း (PDF) အား မော်ကွန်းတင်ပြီး၊ 2020-08-20 တွင် ပြန်စစ်ပြီး
↑ Joshi, A. K., & Weinstein, S. (1981, August). Control of Inference: Role of Some Aspects of Discourse Structure-Centering. In IJCAI (pp. 385–387).
↑ "Evaluation of natural language processing systems: Issues and approaches" (July 1986). Proceedings of the IEEE 74 (7): 1026–1035. doi:10.1109/PROC.1986.13580. ISSN 1558-2256. Bibcode: 1986IEEEP..74.1026G.
↑ Chomskyan linguistics encourages the investigation of "corner cases" that stress the limits of its theoretical models (comparable to pathological phenomena in mathematics), typically created using thought experiments, rather than the systematic investigation of typical phenomena that occur in real-world data, as is the case in corpus linguistics. The creation and use of such corpora of real-world data is a fundamental part of machine-learning algorithms for natural language processing. In addition, theoretical underpinnings of Chomskyan linguistics such as the so-called "poverty of the stimulus" argument entail that general learning algorithms, as are typically used in machine learning, cannot be successful in language processing. As a result, the Chomskyan paradigm discouraged the application of such models to language processing.
↑ "A neural probabilistic language model" (March 1, 2003). The Journal of Machine Learning Research 3: 1137–1155.
↑ Mikolov၊ Tomáš; Karafiát၊ Martin; Burget၊ Lukáš; Černocký၊ Jan; Khudanpur၊ Sanjeev (26 September 2010)။ "Recurrent neural network based language model" (PDF)။ Interspeech 2010။ Proceedings of the 11th Annual Conference of the International Speech Communication Association, INTERSPEECH 2010 (အင်္ဂလိပ်ဘာသာစကားဖြင့်)။ pp. 1045–1048။ doi:10.21437/Interspeech.2010-343။ S2CID 17048224။
↑ Goldberg, Yoav (2016). "A Primer on Neural Network Models for Natural Language Processing". Journal of Artificial Intelligence Research 57: 345–420. doi:10.1613/jair.4992.
↑ Goodfellow၊ Ian; Bengio၊ Yoshua; Courville၊ Aaron (2016)။ Deep Learning။ MIT Press။
↑ Jozefowicz၊ Rafal; Vinyals၊ Oriol; Schuster၊ Mike; Shazeer၊ Noam; Wu၊ Yonghui (2016)။ Exploring the Limits of Language Modeling။ arXiv:1602.02410။ Bibcode:2016arXiv160202410J။
↑ "Parsing as Language Modeling" . Emnlp 2016.
↑ "Grammar as a Foreign Language" (2014). Nips2015. Bibcode: 2014arXiv1412.7449V.
↑ "Using Natural Language Processing to Measure and Improve Quality of Diabetes Care: A Systematic Review" (in en) (2021-03-19). Journal of Diabetes Science and Technology 15 (3): 553–560. doi:10.1177/19322968211000831. ISSN 1932-2968. PMID 33736486.
↑ "Prevalence of Sensitive Terms in Clinical Notes Using Natural Language Processing Techniques: Observational Study" (in en) (2022-06-10). JMIR Medical Informatics 10 (6). doi:10.2196/38482. ISSN 2291-9694. PMID 35687381.
↑ Winograd၊ Terry (1971)။ Procedures as a Representation for Data in a Computer Program for Understanding Natural Language (ဘွဲ့လွန်စာတမ်း)။ 16 August 2020 တွင် မူရင်း အား မော်ကွန်းတင်ပြီး။ 12 July 2026 တွင် ပြန်စစ်ပြီး။
↑ Schank၊ Roger C.; Abelson၊ Robert P. (1977)။ Scripts, Plans, Goals, and Understanding: An Inquiry Into Human Knowledge Structures။ Hillsdale: Erlbaum။ ISBN 0-470-99033-3။
↑ Mark Johnson. How the statistical revolution changes (computational) linguistics. Proceedings of the EACL 2009 Workshop on the Interaction between Linguistics and Computational Linguistics.
↑ Philip Resnik. Four revolutions. Language Log, February 5, 2011.
↑ Socher၊ Richard။ Deep Learning For NLP-ACL 2012 Tutorial။ 2021-04-14 တွင် မူရင်းအား မော်ကွန်းတင်ပြီး။ 2020-08-17 တွင် ပြန်စစ်ပြီး။ This was an early Deep Learning tutorial at the ACL 2012 and met with both interest and (at the time) skepticism by most participants. Until then, neural learning was basically rejected because of its lack of statistical interpretability. Until 2015, deep learning had evolved into the major framework of NLP. [Link is broken, try http://web.stanford.edu/class/cs224n/]
↑ Segev၊ Elad (2022)။ Semantic Network Analysis in Social Sciences။ London: Routledge။ ISBN 978-0-367-63652-4။ 5 December 2021 တွင် မူရင်းမှ မော်ကွန်းတင်ပြီး ။ 5 December 2021 တွင် ပြန်စစ်ပြီး။
↑ Yi၊ Chucai; Tian၊ Yingli (2012)၊ "Assistive Text Reading from Complex Background for Blind Persons"၊ Camera-Based Document Analysis and Recognition၊ Lecture Notes in Computer Science (အင်္ဂလိပ်ဘာသာစကားဖြင့်)၊ Springer Berlin Heidelberg၊ 7139၊ pp. 15–28၊ CiteSeerX 10.1.1.668.869၊ doi:10.1007/978-3-642-29364-1_2၊ ISBN 978-3-642-29363-4
1 2 Natural Language Processing (NLP) - A Complete Guide (in en) (2023-01-11)။ 2024-05-05 တွင် ပြန်စစ်ပြီး။
↑ "GeeksforGeeks. (n.d.). Tokenization in natural language processing (NLP). GeeksforGeeks." (25 June 2024). Geeksforgeeks.
↑ "Integrating data augmentation and BERT-based deep learning for predicting alpha-glucosidase inhibitors derived from Black Cohosh" (in en) . Scientific Reports 1 (1): 1–15. doi:10.1038/s41598-025-14699-1.
↑ What is Natural Language Processing? Intro to NLP in Machine Learning (in en-US) (2020-12-06)။ 2021-01-09 တွင် ပြန်စစ်ပြီး။
↑ "Manipuri Morpheme Identification" (2012). Proceedings of the 3rd Workshop on South and Southeast Asian Natural Language Processing (SANLP): 95–108.
↑ "Natural language grammar induction using a constituent-context model" (2002). Advances in Neural Information Processing Systems.
↑ "Precision information extraction for rare disease epidemiology at scale" (in en) (2023). Journal of Translational Medicine 21 (1). doi:10.1186/s12967-023-04011-y. PMID 36855134.
↑ PASCAL Recognizing Textual Entailment Challenge (RTE-7) https://tac.nist.gov//2011/RTE/
↑ "Argumentation Mining: State of the Art and Emerging Trends" (in en) (2016-04-20). ACM Transactions on Internet Technology 16 (2): 1–25. doi:10.1145/2850417. ISSN 1533-5399.
↑ Argument Mining – IJCAI2016 Tutorial။ 2021-04-18 တွင် မူရင်းအား မော်ကွန်းတင်ပြီး။ 2021-03-09 တွင် ပြန်စစ်ပြီး။
↑ NLP Approaches to Computational Argumentation – ACL 2016, Berlin (in en-GB)။ 2021-03-09 တွင် ပြန်စစ်ပြီး။
↑ Administration။ Centre for Language Technology (CLT) (in en-au)။ 13 January 2021 တွင် မူရင်းအား မော်ကွန်းတင်ပြီး။ 2021-01-11 တွင် ပြန်စစ်ပြီး။
↑ Shared Task: Grammatical Error Correction။ 2021-01-11 တွင် ပြန်စစ်ပြီး။
↑ Shared Task: Grammatical Error Correction။ 2021-01-11 တွင် ပြန်စစ်ပြီး။
↑ "Formalizing Semantic of Natural Language through Conceptualization from Existence" (2011). International Journal of Innovation, Management and Technology 2 (1): 37–42.
↑ U B U W E B :: Racter။ 2020-08-17 တွင် ပြန်စစ်ပြီး။
↑ Writer၊ Beta (2019)။ Lithium-Ion Batteries (အင်္ဂလိပ်ဘာသာစကားဖြင့်)။ doi:10.1007/978-3-030-16800-1။ ISBN 978-3-030-16799-8။ S2CID 155818532။
↑ Document Understanding AI on Google Cloud (Cloud Next '19) – YouTube (11 April 2019)။ 13 January 2026 တွင် မူရင်းအား မော်ကွန်းတင်ပြီး။ 2021-01-11 တွင် ပြန်စစ်ပြီး။
↑ Robertson၊ Adi (2022-04-06)။ OpenAI's DALL-E AI image generator can now edit pictures, too (in en)။ 2022-06-07 တွင် ပြန်စစ်ပြီး။
↑ The Stanford Natural Language Processing Group။ 2022-06-07 တွင် ပြန်စစ်ပြီး။
↑ Coyne၊ Bob; Sproat၊ Richard (2001-08-01)။ "WordsEye"။ Proceedings of the 28th annual conference on Computer graphics and interactive techniques။ SIGGRAPH '01။ New York, NY, USA: Association for Computing Machinery။ pp. 487–496။ doi:10.1145/383259.383316။ ISBN 978-1-58113-374-5။ S2CID 3842372။
↑ Google announces AI advances in text-to-video, language translation, more (in en-US) (2022-11-02)။ 2022-11-09 တွင် ပြန်စစ်ပြီး။
↑ Vincent၊ James (2022-09-29)။ Meta's new text-to-video AI generator is like DALL-E for video (in en-US)။ 2022-11-09 တွင် ပြန်စစ်ပြီး။
↑ Previous shared tasks | CoNLL။ 2021-01-11 တွင် ပြန်စစ်ပြီး။
↑ Cognition။ Oxford University Press and Dictionary.com။ July 15, 2020 တွင် မူရင်းအား မော်ကွန်းတင်ပြီး။ 6 May 2020 တွင် ပြန်စစ်ပြီး။
↑ Ask the Cognitive Scientist (8 August 2014)။ “Cognitive science is an interdisciplinary field of researchers from Linguistics, psychology, neuroscience, philosophy, computer science, and anthropology that seek to understand the mind.”
↑ Robinson၊ Peter (2008)။ Handbook of Cognitive Linguistics and Second Language Acquisition။ Routledge။ pp. 3–8။ ISBN 978-0-805-85352-0။
↑ Lakoff၊ George (1999)။ Philosophy in the Flesh: The Embodied Mind and Its Challenge to Western Philosophy; Appendix: The Neural Theory of Language Paradigm။ New York Basic Books။ pp. 569–583။ ISBN 978-0-465-05674-3။
↑ Strauss၊ Claudia (1999)။ A Cognitive Theory of Cultural Meaning။ Cambridge University Press။ pp. 156–164။ ISBN 978-0-521-59541-4။
↑ တမ်းပလိတ်:Cite patent
↑ Universal Conceptual Cognitive Annotation (UCCA) (in en-US)။ 2021-01-11 တွင် ပြန်စစ်ပြီး။
↑ Rodríguez, F. C., & Mairal-Usón, R. (2016). Building an RRG computational grammar. Onomazein, (34), 86–117.
↑ Fluid Construction Grammar – A fully operational processing system for construction grammars (in en-US)။ 14 July 2026 တွင် မူရင်းအား မော်ကွန်းတင်ပြီး။ 2021-01-11 တွင် ပြန်စစ်ပြီး။
↑ ACL Member Portal | The Association for Computational Linguistics Member Portal။ 2021-01-11 တွင် ပြန်စစ်ပြီး။
↑ Chunks and Rules (in en)။ 2021-01-11 တွင် ပြန်စစ်ပြီး။
↑ "Grounded Compositional Semantics for Finding and Describing Images with Sentences" (2014). Transactions of the Association for Computational Linguistics 2: 207–218. doi:10.1162/tacl_a_00177.
↑ Dasgupta၊ Ishita; Lampinen၊ Andrew K.; Chan၊ Stephanie C. Y.; Creswell၊ Antonia; Kumaran၊ Dharshan; McClelland၊ James L.; Hill၊ Felix (2022)။ "Language models show human-like content effects on reasoning, Dasgupta, Lampinen et al" (အင်္ဂလိပ်ဘာသာစကားဖြင့်)။ arXiv:2207.07051 [cs.CL]။
↑ Friston၊ Karl J. (2022)။ Active Inference: The Free Energy Principle in Mind, Brain, and Behavior; Chapter 4 The Generative Models of Active Inference။ The MIT Press။ ISBN 978-0-262-36997-8။

နောက်ထပ်ဖတ်ရှုရန်

"Models of natural language understanding" (1995). Proceedings of the National Academy of Sciences of the United States of America 92 (22): 9977–9982. doi:10.1073/pnas.92.22.9977. PMID 7479812. Bibcode: 1995PNAS...92.9977B.
Steven Bird, Ewan Klein, and Edward Loper (2009). Natural Language Processing with Python. O'Reilly Media. ISBN 978-0-596-51649-9.
Kenna Hughes-Castleberry, "A Murder Mystery Puzzle: The literary puzzle Cain's Jawbone, which has stumped humans for decades, reveals the limitations of natural-language-processing algorithms", Scientific American, vol. 329, no. 4 (November 2023), pp. 81–82. "This murder mystery competition has revealed that although NLP (natural-language processing) models are capable of incredible feats, their abilities are very much limited by the amount of context they receive. This [...] could cause [difficulties] for researchers who hope to use them to do things such as analyze ancient languages. In some cases, there are few historical records on long-gone civilizations to serve as training data for such a purpose." (p. 82.)
Daniel Jurafsky and James H. Martin (2008). Speech and Language Processing, 2nd edition. Pearson Prentice Hall. ISBN 978-0-13-187321-6.
Mohamed Zakaria Kurdi (2016). Natural Language Processing and Computational Linguistics: speech, morphology, and syntax, Volume 1. ISTE-Wiley. ISBN 978-1848218482.
Mohamed Zakaria Kurdi (2017). Natural Language Processing and Computational Linguistics: semantics, discourse, and applications, Volume 2. ISTE-Wiley. ISBN 978-1848219212.
Christopher D. Manning, Prabhakar Raghavan, and Hinrich Schütze (2008). Introduction to Information Retrieval. Cambridge University Press. ISBN 978-0-521-86571-5. Official html and pdf versions available without charge.
Christopher D. Manning and Hinrich Schütze (1999). Foundations of Statistical Natural Language Processing. The MIT Press. ISBN 978-0-262-13360-9.
David M. W. Powers and Christopher C. R. Turk (1989). Machine Learning of Natural Language. Springer-Verlag. ISBN 978-0-387-19557-5.

ပြင်ပလင့်ခ်များ

Wikimedia Commons ရှိ သဘာဝဘာသာစကား စီမံဆောင်ရွက်မှု နှင့်ပတ်သက်သော မီဒီယာများ

[nlpintro-1] Eisenstein၊ Jacob (October 1, 2019)။ Introduction to Natural Language Processing။ The MIT Press။ p. 1။ ISBN 978-0-262-04284-0။

[2] NLP။

[3] Hutchins, J. (2005)။ The history of machine translation in a nutshell။ 2019-07-13 တွင် မူရင်းအား မော်ကွန်းတင်ပြီး။ 2019-02-04 တွင် ပြန်စစ်ပြီး။^{[ကိုယ်တိုင်ရေး ရင်းမြစ်]}

[4] "ALPAC: the (in)famous report", John Hutchins, MT News International, no. 14, June 1996, pp. 9–12.

[5] Crevier 1993, pp. 146–148, see also Buchanan 2005, p. 56: "Early programs were necessarily limited in scope by the size and speed of memory"

[6] Koskenniemi၊ Kimmo (1983)၊ Two-level morphology: A general computational model of word-form recognition and production (PDF)၊ Department of General Linguistics, University of Helsinki၊ 2018-12-21 တွင် မူရင်း (PDF) အား မော်ကွန်းတင်ပြီး၊ 2020-08-20 တွင် ပြန်စစ်ပြီး

[7] Joshi, A. K., & Weinstein, S. (1981, August). Control of Inference: Role of Some Aspects of Discourse Structure-Centering. In IJCAI (pp. 385–387).

[8] "Evaluation of natural language processing systems: Issues and approaches" (July 1986). Proceedings of the IEEE 74 (7): 1026–1035. doi:10.1109/PROC.1986.13580. ISSN 1558-2256. Bibcode: 1986IEEEP..74.1026G.

[9] Chomskyan linguistics encourages the investigation of "corner cases" that stress the limits of its theoretical models (comparable to pathological phenomena in mathematics), typically created using thought experiments, rather than the systematic investigation of typical phenomena that occur in real-world data, as is the case in corpus linguistics. The creation and use of such corpora of real-world data is a fundamental part of machine-learning algorithms for natural language processing. In addition, theoretical underpinnings of Chomskyan linguistics such as the so-called "poverty of the stimulus" argument entail that general learning algorithms, as are typically used in machine learning, cannot be successful in language processing. As a result, the Chomskyan paradigm discouraged the application of such models to language processing.

[10] "A neural probabilistic language model" (March 1, 2003). The Journal of Machine Learning Research 3: 1137–1155.

[11] Mikolov၊ Tomáš; Karafiát၊ Martin; Burget၊ Lukáš; Černocký၊ Jan; Khudanpur၊ Sanjeev (26 September 2010)။ "Recurrent neural network based language model" (PDF)။ Interspeech 2010။ Proceedings of the 11th Annual Conference of the International Speech Communication Association, INTERSPEECH 2010 (အင်္ဂလိပ်ဘာသာစကားဖြင့်)။ pp. 1045–1048။ doi:10.21437/Interspeech.2010-343။ S2CID 17048224။

[goldberg:nnlp17-12] Goldberg, Yoav (2016). "A Primer on Neural Network Models for Natural Language Processing". Journal of Artificial Intelligence Research 57: 345–420. doi:10.1613/jair.4992.

[goodfellow:book16-13] Goodfellow၊ Ian; Bengio၊ Yoshua; Courville၊ Aaron (2016)။ Deep Learning။ MIT Press။

[jozefowicz:lm16-14] Jozefowicz၊ Rafal; Vinyals၊ Oriol; Schuster၊ Mike; Shazeer၊ Noam; Wu၊ Yonghui (2016)။ Exploring the Limits of Language Modeling။ arXiv:1602.02410။ Bibcode:2016arXiv160202410J။

[choe:emnlp16-15] "Parsing as Language Modeling" . Emnlp 2016.

[vinyals:nips15-16] "Grammar as a Foreign Language" (2014). Nips2015. Bibcode: 2014arXiv1412.7449V.

[17] "Using Natural Language Processing to Measure and Improve Quality of Diabetes Care: A Systematic Review" (in en) (2021-03-19). Journal of Diabetes Science and Technology 15 (3): 553–560. doi:10.1177/19322968211000831. ISSN 1932-2968. PMID 33736486.

[18] "Prevalence of Sensitive Terms in Clinical Notes Using Natural Language Processing Techniques: Observational Study" (in en) (2022-06-10). JMIR Medical Informatics 10 (6). doi:10.2196/38482. ISSN 2291-9694. PMID 35687381.

[winograd:shrdlu71-19] Winograd၊ Terry (1971)။ Procedures as a Representation for Data in a Computer Program for Understanding Natural Language (ဘွဲ့လွန်စာတမ်း)။ 16 August 2020 တွင် မူရင်း အား မော်ကွန်းတင်ပြီး။ 12 July 2026 တွင် ပြန်စစ်ပြီး။

[schank77-20] Schank၊ Roger C.; Abelson၊ Robert P. (1977)။ Scripts, Plans, Goals, and Understanding: An Inquiry Into Human Knowledge Structures။ Hillsdale: Erlbaum။ ISBN 0-470-99033-3။

[johnson:eacl:ilcl09-21] Mark Johnson. How the statistical revolution changes (computational) linguistics. Proceedings of the EACL 2009 Workshop on the Interaction between Linguistics and Computational Linguistics.

[resnik:langlog11-22] Philip Resnik. Four revolutions. Language Log, February 5, 2011.

[23] Socher၊ Richard။ Deep Learning For NLP-ACL 2012 Tutorial။ 2021-04-14 တွင် မူရင်းအား မော်ကွန်းတင်ပြီး။ 2020-08-17 တွင် ပြန်စစ်ပြီး။ This was an early Deep Learning tutorial at the ACL 2012 and met with both interest and (at the time) skepticism by most participants. Until then, neural learning was basically rejected because of its lack of statistical interpretability. Until 2015, deep learning had evolved into the major framework of NLP. [Link is broken, try http://web.stanford.edu/class/cs224n/]

[24] Segev၊ Elad (2022)။ Semantic Network Analysis in Social Sciences။ London: Routledge။ ISBN 978-0-367-63652-4။ 5 December 2021 တွင် မူရင်းမှ မော်ကွန်းတင်ပြီး ။ 5 December 2021 တွင် ပြန်စစ်ပြီး။

[25] Yi၊ Chucai; Tian၊ Yingli (2012)၊ "Assistive Text Reading from Complex Background for Blind Persons"၊ Camera-Based Document Analysis and Recognition၊ Lecture Notes in Computer Science (အင်္ဂလိပ်ဘာသာစကားဖြင့်)၊ Springer Berlin Heidelberg၊ 7139၊ pp. 15–28၊ CiteSeerX 10.1.1.668.869၊ doi:10.1007/978-3-642-29364-1_2၊ ISBN 978-3-642-29363-4

[:0-26] 1 2 Natural Language Processing (NLP) - A Complete Guide (in en) (2023-01-11)။ 2024-05-05 တွင် ပြန်စစ်ပြီး။

[27] "GeeksforGeeks. (n.d.). Tokenization in natural language processing (NLP). GeeksforGeeks." (25 June 2024). Geeksforgeeks.

[28] "Integrating data augmentation and BERT-based deep learning for predicting alpha-glucosidase inhibitors derived from Black Cohosh" (in en) . Scientific Reports 1 (1): 1–15. doi:10.1038/s41598-025-14699-1.

[29] What is Natural Language Processing? Intro to NLP in Machine Learning (in en-US) (2020-12-06)။ 2021-01-09 တွင် ပြန်စစ်ပြီး။

[30] "Manipuri Morpheme Identification" (2012). Proceedings of the 3rd Workshop on South and Southeast Asian Natural Language Processing (SANLP): 95–108.

[31] "Natural language grammar induction using a constituent-context model" (2002). Advances in Neural Information Processing Systems.

[32] "Precision information extraction for rare disease epidemiology at scale" (in en) (2023). Journal of Translational Medicine 21 (1). doi:10.1186/s12967-023-04011-y. PMID 36855134.

[rte:11-33] PASCAL Recognizing Textual Entailment Challenge (RTE-7) https://tac.nist.gov//2011/RTE/

[34] "Argumentation Mining: State of the Art and Emerging Trends" (in en) (2016-04-20). ACM Transactions on Internet Technology 16 (2): 1–25. doi:10.1145/2850417. ISSN 1533-5399.

[35] Argument Mining – IJCAI2016 Tutorial။ 2021-04-18 တွင် မူရင်းအား မော်ကွန်းတင်ပြီး။ 2021-03-09 တွင် ပြန်စစ်ပြီး။

[36] NLP Approaches to Computational Argumentation – ACL 2016, Berlin (in en-GB)။ 2021-03-09 တွင် ပြန်စစ်ပြီး။

[37] Administration။ Centre for Language Technology (CLT) (in en-au)။ 13 January 2021 တွင် မူရင်းအား မော်ကွန်းတင်ပြီး။ 2021-01-11 တွင် ပြန်စစ်ပြီး။

[38] Shared Task: Grammatical Error Correction။ 2021-01-11 တွင် ပြန်စစ်ပြီး။

[39] Shared Task: Grammatical Error Correction။ 2021-01-11 တွင် ပြန်စစ်ပြီး။

[40] "Formalizing Semantic of Natural Language through Conceptualization from Existence" (2011). International Journal of Innovation, Management and Technology 2 (1): 37–42.

[41] U B U W E B :: Racter။ 2020-08-17 တွင် ပြန်စစ်ပြီး။

[42] Writer၊ Beta (2019)။ Lithium-Ion Batteries (အင်္ဂလိပ်ဘာသာစကားဖြင့်)။ doi:10.1007/978-3-030-16800-1။ ISBN 978-3-030-16799-8။ S2CID 155818532။

[43] Document Understanding AI on Google Cloud (Cloud Next '19) – YouTube (11 April 2019)။ 13 January 2026 တွင် မူရင်းအား မော်ကွန်းတင်ပြီး။ 2021-01-11 တွင် ပြန်စစ်ပြီး။

[44] Robertson၊ Adi (2022-04-06)။ OpenAI's DALL-E AI image generator can now edit pictures, too (in en)။ 2022-06-07 တွင် ပြန်စစ်ပြီး။

[45] The Stanford Natural Language Processing Group။ 2022-06-07 တွင် ပြန်စစ်ပြီး။

[46] Coyne၊ Bob; Sproat၊ Richard (2001-08-01)။ "WordsEye"။ Proceedings of the 28th annual conference on Computer graphics and interactive techniques။ SIGGRAPH '01။ New York, NY, USA: Association for Computing Machinery။ pp. 487–496။ doi:10.1145/383259.383316။ ISBN 978-1-58113-374-5။ S2CID 3842372။

[47] Google announces AI advances in text-to-video, language translation, more (in en-US) (2022-11-02)။ 2022-11-09 တွင် ပြန်စစ်ပြီး။

[48] Vincent၊ James (2022-09-29)။ Meta's new text-to-video AI generator is like DALL-E for video (in en-US)။ 2022-11-09 တွင် ပြန်စစ်ပြီး။

[49] Previous shared tasks | CoNLL။ 2021-01-11 တွင် ပြန်စစ်ပြီး။

[50] Cognition။ Oxford University Press and Dictionary.com။ July 15, 2020 တွင် မူရင်းအား မော်ကွန်းတင်ပြီး။ 6 May 2020 တွင် ပြန်စစ်ပြီး။

[51] Ask the Cognitive Scientist (8 August 2014)။ “Cognitive science is an interdisciplinary field of researchers from Linguistics, psychology, neuroscience, philosophy, computer science, and anthropology that seek to understand the mind.”

[52] Robinson၊ Peter (2008)။ Handbook of Cognitive Linguistics and Second Language Acquisition။ Routledge။ pp. 3–8။ ISBN 978-0-805-85352-0။

[53] Lakoff၊ George (1999)။ Philosophy in the Flesh: The Embodied Mind and Its Challenge to Western Philosophy; Appendix: The Neural Theory of Language Paradigm။ New York Basic Books။ pp. 569–583။ ISBN 978-0-465-05674-3။

[54] Strauss၊ Claudia (1999)။ A Cognitive Theory of Cultural Meaning။ Cambridge University Press။ pp. 156–164။ ISBN 978-0-521-59541-4။

[55] တမ်းပလိတ်:Cite patent

[56] Universal Conceptual Cognitive Annotation (UCCA) (in en-US)။ 2021-01-11 တွင် ပြန်စစ်ပြီး။

[57] Rodríguez, F. C., & Mairal-Usón, R. (2016). Building an RRG computational grammar. Onomazein, (34), 86–117.

[58] Fluid Construction Grammar – A fully operational processing system for construction grammars (in en-US)။ 14 July 2026 တွင် မူရင်းအား မော်ကွန်းတင်ပြီး။ 2021-01-11 တွင် ပြန်စစ်ပြီး။

[59] ACL Member Portal | The Association for Computational Linguistics Member Portal။ 2021-01-11 တွင် ပြန်စစ်ပြီး။

[60] Chunks and Rules (in en)။ 2021-01-11 တွင် ပြန်စစ်ပြီး။

[61] "Grounded Compositional Semantics for Finding and Describing Images with Sentences" (2014). Transactions of the Association for Computational Linguistics 2: 207–218. doi:10.1162/tacl_a_00177.

[62] Dasgupta၊ Ishita; Lampinen၊ Andrew K.; Chan၊ Stephanie C. Y.; Creswell၊ Antonia; Kumaran၊ Dharshan; McClelland၊ James L.; Hill၊ Felix (2022)။ "Language models show human-like content effects on reasoning, Dasgupta, Lampinen et al" (အင်္ဂလိပ်ဘာသာစကားဖြင့်)။ arXiv:2207.07051 [cs.CL]။

[63] Friston၊ Karl J. (2022)။ Active Inference: The Free Energy Principle in Mind, Brain, and Behavior; Chapter 4 The Generative Models of Active Inference။ The MIT Press။ ISBN 978-0-262-36997-8။

[၁]

[၂]

[၃]

[၄]

[၅]

[၆]

[၇]

[၈]

[၉]

[၁၀]

[၁၁]

[၁၂]

[၁၃]

[၁၄]

[၁၅]

[၁၆]

[၁၇]

[၁၈]

[၁၉]

[၂၀]

[၂၁]

[၂၂]

[၂၃]

[၂၄]

[၂၅]

[၂၆]

[၂၇]

[၂၈]

[၂၉]

[၃၀]

[၃၁]

[၃၂]

[၃၃]

[၃၄]

[၃၅]

[၃၆]

[၃၇]

[၃၈]

[၃၉]

[၄၀]

[၄၁]

[၄၂]

[၄၃]

[၄၄]

[၄၅]

[၄၆]

[၄၇]

[၄၈]

[၄၉]

[၅၀]

[၅၁]

[၅၂]

[၅၃]

[၅၄]

[၅၅]

[၅၆]

[၅၇]

[၅၈]

[၅၉]

[၆၀]

[၆၁]

[၆၂]

[၆၃]