Apple Intelligence 2.0: iOS 19.2 ၏ အော့ဖ်လိုင်း LLM နှင့် 「အခန်းအမှတ်ဉာဏ်ရည်」

စာရေးသူ: Boxu Li

iOS 19.2 ကိုယ်ပိုင် AI အဆင့်မြှင့်မှုများ – ဘာကြောင့်စိတ်ဝင်စားဖွယ်ရှိသလဲ?

Apple ၏ iOS 19.2 အပ်ဒိတ် သည် စွန့်စားမှုများရှိသော နည်းပညာချစ်သူများအကြား နာမည်ကြီးခဲ့ပြီး အကြောင်းကောင်းတစ်ခုရှိသည် - ယင်းသည် ကျွန်ုပ်တို့၏ Apple Intelligence လုပ်ဆောင်ချက်များကို အရင်နှစ်ကျော်က မိတ်ဆက်ခဲ့ပြီး အင်အားပြင်းသော on-device စကားအင်္ဂါရပ်ကြီး (LLM) နှင့် အပြင် Scene Memory လုပ်ဆောင်ချက်အသစ်ကို ထည့်သွင်းခြင်းဖြစ်သည်။ ပုံမှန်စကားပြောရမည်ဆိုရင်၊ သင့် iPhone သို့မဟုတ် iPad သည် အင်တာနက်ကို မလိုအပ်ဘဲ ပို၍ ပညာကောင်းလာပြီဖြစ်သည်။ အသုံးပြုသူများသည် ဤအပ်ဒိတ်ကြောင့် Siri နှင့် အခြားသော လက်တွေ့ကျသောလုပ်ဆောင်ချက်များက အခြေအနေကို ပိုမိုနားလည်နိုင်ပြီး အွန်လိုင်းမလိုအပ်ဘဲ လုပ်ဆောင်နိုင်ကြောင်းကြောင့် ရင်သပ်ရှုမောနေကြသည်။ ဤသည်မှာ Apple ၏ AI မဟာဗျူဟာတွင် အရေးပါသော တိုးတက်မှုတစ်ခုဖြစ်ပြီး အသုံးပြုသူ၏ဒေတာကို စက်တွင်ပဲ ထိန်းသိမ်းထားခြင်းဖြင့် နေ့စဉ်အသုံးပြုမှုများတွင် အဆင့်မြင့် မော်ဒယ်များကို ပေါင်းစပ်ထားသည်။ Apple ၏ ပုဂ္ဂိုလ်ရေးသိမ်းဆည်းမှုကို ဦးစားပေးသော ရပ်တည်ချက်ကြောင့် ရင်သပ်ရှုမောမှုကို ပိုမိုအားကောင်းစေသည် - သင့်ကိုယ်ရေးအချက်အလက်ကို ဆာဗာသို့ မပို့ဘဲ (Siri ၏ တိုးတက်သောဖြေကြားမှုများ၊ လိုင်ဗ်ဘာသာပြန်ဆိုမှုများ၊ စာရေးအကူအညီများ၊ ပုံရိပ်ဖန်တီးမှုများ စသဖြင့်) AI စွမ်းဆောင်ရည်များကို သင့်အားပေးစွမ်းသည်။ ဤအင်အားပြင်းခြင်းနှင့် ကိုယ်ရေးကိုယ်တာကို ထိန်းသိမ်းထားခြင်းတို့သည် Apple ၏ AI 2.0 ကို စားသုံးသူနည်းပညာအတွင်း အလားအလာရှိသော ဂိမ်းအပြောင်းအလဲအဖြစ် ရပ်တည်စေသည်။

စားသုံးသူအမြင်အရ iOS 19.2 ရဲ့ AI ဟာ ယခင်ထက် ပို၍ ဉာဏ်ကြီးပြီး အခြေအနေသဘောပေါက် ဖြစ်နေပါတယ်။ Apple ရဲ့ မျှော်မှန်းချက်မှာ "အခြားအများအတွက် AI တစ်ခုဖြစ်ပြီး သင့် iPhone ထဲမှာ တည်ဆောက်ထားသည်" ဟု ခေါ်ဆိုပါသည်[4]။ အတွင်းပိုင်းမှာတော့ ဒီအပ်ဒိတ်ဟာ အသစ်သော စက်တွင်တည်ဆောက်ထားသော မော်ဒယ် (Apple ရဲ့ ကိုယ်ပိုင် ထူထဲသော LLM) နှင့် ဒဏ်ရာမှတ်တမ်း ဆိုတဲ့အရာကို ပေးဆောင်ပြီး သဘာဝကျတဲ့ ဆွေးနွေးမှုများကို ပို၍ ကျွမ်းကျင်စေပါတယ်။ နည်းပညာဖိုရမ်များနဲ့ လူမှုကွန်ရက်တွေမှာ Siri ဟာ အပြန်အလှန် ဆွေးနွေးမှုကို ဆက်လက်နိုင်ခြင်း သို့မဟုတ် သင့်ဖန်သားပြင်ပေါ်ရှိအရာများအပေါ် အခြေခံပြီး လုပ်ဆောင်ချက်များကို အကြံပြုနိုင်ခြင်း ကဲ့သို့သော ဥပမာများနဲ့ ပြည့်နေပါပြီ။ ဒီဆောင်းပါးမှာတော့ Apple ရဲ့ စက်တွင်တည်ဆောက်ထားသော LLM နဲ့ ဒဏ်ရာမှတ်တမ်း တို့ရဲ့ နည်းပညာအားဖြင့် ဖြစ်နေတဲ့အရာများကို ဖျော်ဖြေရန်နှင့် သုံးစွဲသူများ၊ ဖွံ့ဖြိုးသူများ၊ Macaron ကဲ့သို့သော ကိုယ်ပိုင် AI အက်ပ်များအတွက် အရေးကြီးသောအကြောင်းရင်းကို ခွဲခြမ်းဖျော်ဖြေရန် ကြိုးစားပါမည်။ အတူစီးပါ။

Apple Intelligence 2.0 ဆိုတာ တကယ်ကဘာလဲ?

「Apple Intelligence」သည် iOS၊ iPadOS၊ macOS စသည်တို့တွင် ထည့်သွင်းထားသော မျိုးဆက်သစ် AI အင်္ဂါရပ်များအတွက် Apple ၏ အုပ်စုသုံးစကားလုံးဖြစ်သည်[5]။ iOS 18 တွင် ပထမဆုံး ထုတ်လွှင့်ခဲ့ပြီး Writing Tools (မည်သည့် စာသားကွက်တွင်မဆို AI ဖြင့် စာစီစာကုံးနှင့် စာပြန်ရေးခြင်း)၊ Image Playground (စာသားမှ ပုံများ ဖန်တီးခြင်း)၊ အကြောင်းကြားစာ အနှစ်ချုပ်များနှင့် Siri တွင် ChatGPT ထည့်သွင်းခြင်းတို့ ပါဝင်သည်[6]။ ၎င်းကို နေ့စဉ်လုပ်ငန်းများတွင် AI အကူအညီပေးရန် Apple ၏ ဖြေရှင်းချက်အဖြစ် ထင်မြင်ပါ - သို့သော် တင်သွင်းထားသောနှင့် လုံခြုံစွာ ထုတ်လုပ်ရန် ဒီဇိုင်းဆွဲထားသည်။ Apple Intelligence 2.0 (iOS 19.x တွင် ပြုပြင်မွမ်းမံခြင်း) သည် ဤစွမ်းရည်များကို အလွန်တိုးချဲ့သည်။ Apple က ဆိုသည်မှာ အခြေခံအားဖြင့် စနစ်တစ်ခုလုံးတွင် အင်္ဂါရပ်များကို အားပေးသည့် အသစ်သော ကိရိယာပေါ်တွင် အခြေခံသော ကမ္ဘာ့စကားပြောမော်ဒယ် ဖြစ်သည်[1]။ ထို့အပြင် Apple က မြင်သာမှု အတတ်ပညာ လုပ်ဆောင်ချက်များကို ကောင်းမွန်စေရန် အတတ်ပညာတိုးတက်မှုများ (ကင်မရာ သို့မဟုတ် Photos အက်ပ်တွင် အရာဝတ္ထုများနှင့် စာသားများကို အသိအမှတ်ပြုခြင်း)၊ Siri နှင့် ပို၍ သဘာဝကျသော စကားဝိုင်းနှင့် သင့်စက်ပေါ်တွင် အကြောင်းအရာ အသိအမှတ်ပြုခြင်း စသည်တို့ကို ထပ်တိုး ထည့်သွင်းထားသည်။

Apple Intelligence 2.0 ၏အဓိကအင်္ဂါရပ်များတွင်ပါဝင်သည်-

အသုံးပြုသူစက်ပေါ်တွင်ရှိသော အခြေခံမော်ဒယ် (~3 billion parameters) – Apple မှ တည်ဆောက်ထားသော စက်ဉာဏ်မော်ဒယ်သည် A-series နှင့် M-series chips ၏ Neural Engine ပေါ်တွင် လည်ပတ်ပါသည်။ ၎င်းသည် စာသားဖန်တီးခြင်း၊ အကျဉ်းချုပ်ခြင်း၊ ဘာသာပြန်ခြင်းနှင့် အခြားအရာများကို အင်တာနက်မလိုအပ်ဘဲ ဒေသတွင်လုပ်ဆောင်နိုင်သည်။ [7][3] ၎င်းသည် အသေးစားနေရာတွင်ရှိသော်လည်း Apple က မမျှော်လင့်ထားတဲ့ တာဝန်များကို အံ့သြဖွယ် လုပ်ဆောင်နိုင်ဖို့ မော်ဒယ်ကို အထူးပြုလုပ်ထားသည်။ (နောက်ပိုင်းတွင် ငါတို့ ဘယ်လိုလုပ်မလဲဆိုတာ ပြောပြပါမယ်။)
“မြင်ကွင်းမှတ်ဉာဏ်” (အကြောင်းအရာကို သိမြင်ခြင်း) – Siri နှင့် စနစ်ဉာဏ်ရည်သည် ယခု အကြောင်းအရာ (မင်းဘာလုပ်နေမလဲ၊ မျက်နှာပြင်ပေါ်ရှိတာ၊ အခုတလောလုပ်ဆောင်မှု) ကို မှတ်သားပြီး အသုံးပြုနိုင်ပြီ။ ဥပမာ၊ Siri က တစ်ချက်တည်းကနေ နောက်တစ်ချက်တည်းကို ဆက်သွယ်မှုကို ထိန်းသိမ်းနိုင်ပါတယ်။ [6] သို့မဟုတ် စာကြောင်းပေးပို့ချက်ကို ကြည့်နေစဉ် ဒိုင်ယာရီတွင် အစီအစဉ်ထည့်ရန် တင်ပြနိုင်သည်။ Apple က လျှို့ဝှက်ရှိသော အကြောင်းအရာ သိမြင်မှုကို တိုးတက်စေခြင်းဖြစ်ပြီး၊ Siri က မင်းရဲ့ စာ၊ အီးမေးလ်၊ ဖိုင်၊ ဓာတ်ပုံများကို (စက်ပေါ်မှာပဲ) ထိန်းသိမ်းထားနိုင်စေပြီး ဉာဏ်ရည်ရှိစွာ ကူညီနိုင်စေသည်။ [8] ထို့ပြင် မျက်နှာပြင်သိမြင်မှု လည်း ပေါင်းစပ်ထားပြီး မင်းက ဘာ App များ သို့မဟုတ် အကြောင်းအရာကို ကြည့်နေသလဲဆိုတာ သိပြီး သက်ဆိုင်ရာ အပြုအမူများ ပြုလုပ်နိုင်သည်။ (လူ့ကူညီသူတစ်ယောက်လို) [9] “မြင်ကွင်းမှတ်ဉာဏ်” ဆိုသည်မှာ AI ကို ယခုမြင်ကွင်းကို မှတ်သား စေပြီး လိုက်လျောညီထွေ ဖြစ်စေနိုင်သော အကြောင်းအရာ သိမြင်မှုများကို ဖျော်ဖြေရန် အသုံးပြုသော အသုံးအနှုန်းတစ်ခုဖြစ်သည်။
AI Developer ဝင်ရောက်ခွင့် (Foundation Models SDK) – iOS 19 မှာ Apple က သူ့ရဲ့ စက်ပေါ် LLM ကို Developer တွေအတွက် Framework အသစ်တစ်ခုမှတဆင့် ဖွင့်လိုက်တယ်။ [10][11] ဒါဟာ အရမ်းကြီးကြောင်းပါပဲ။ အခြား App တွေအနေနဲ့ Apple ရဲ့ AI ဦးနှောက်ကို ကုဒ်အနည်းငယ်နဲ့ အသုံးပြုနိုင်ပြီဖြစ်ပြီး၊ အင်တာနက်မလိုဘဲ အသုံးပြုနိုင်သည့် ပုံမှန်ဘာသာစကား ရှာဖွေရန် သို့မဟုတ် စာသား/ပုံ ဖန်တီးရေးခြင်းလိုမျိုးသော လုပ်ဆောင်ချက်များကို ဖန်တီးနိုင်ပါသည်။ အရေးကြီးတာက ဒီစက်ပေါ်တွင် ဆုံးဖြတ်ချက်ကို Cloud ကုန်ကျစရိတ်မရှိဘဲဖြစ်ပြီး – OpenAI သို့မဟုတ် အခြားကုမ္ပဏီများကို API ခေါ်ဆိုမှုများ မလိုအပ်ပါ။ [12] Developer များသည် အင်တာနက်မရှိဘဲ လုပ်ဆောင်နိုင်သော AI လုပ်ဆောင်ချက်များကို ဖန်တီးနိုင်ပြီး၊ အသုံးပြုသူဒေတာ မျှဝေခြင်းမရှိဘဲ Apple ၏ လုံခြုံရေး ကတိများနှင့် အညီဖြစ်သည်။
တိုးချဲ့လိုက်သော Multi-Modal လုပ်ဆောင်ချက်များ – Apple ၏ မော်ဒယ်သည် စာသား Chatbot ပဲ မဟုတ်ဘဲ၊ ရုပ်ပုံကြည့်နိုင်စွမ်းလည်း ပါဝင်သည်။ iOS 19 တွင် ၎င်းသည် ပုံများနှင့် အင်တာဖေ့စ် အစိတ်အပိုင်းများကို နားလည်နိုင်သည်။ ဥပမာ၊ မင်းရဲ့ iPhone AI သည် ဖလားယာဓာတ်ပုံကို ရိုက်ပြီး ထိုစာသားကို ဖျော်ဖြေရန် နေ့ရက်၊ အချိန်၊ တည်နေရာကို အလိုအလျောက် ထုတ်ယူပြီး ဒိုင်ယာရီအဖြစ် ဖန်တီးနိုင်သည်။ [13] Live Translation လုပ်ဆောင်ချက်ကတော့ စကားပြောကို နားထောင်ပြီး မျက်နှာပြင်ပေါ်တွင် ဘာသာပြန်စာသား သို့မဟုတ် အသံကို အချိန်နှင့် တပြေးညီ ပေးနိုင်သည်။ [14] ၎င်းတို့သည် LLM ကို ရုပ်ပုံနှင့် အသံစနစ်များနှင့် ပေါင်းစပ်ထားပြီး၊ စာဖတ်ရုံသာမက “မြင်” နှင့် “ကြား” လို့ရသော အထွေထွေ Assistant တစ်ခုဖြစ်စေသည်။

အကျဉ်းချုပ်အားဖြင့် Apple Intelligence 2.0 သည် သင့်စက်ကို အသိဟုခေါ်ရသော နေရာတွင် ပိုမိုထက်မြက်စေခြင်း ဖြစ်ပြီး ၎င်းသည် သင့်ကို ပိုမိုနားလည်နိုင်သည် (သင့်အနေအထား၊ သင့်အကြောင်းအရာ) နှင့် အကြောင်းအရာကို ချက်ချင်း ဖန်တီးရန် သို့မဟုတ် ကူညီရန် အပြင် AI အပြောင်းအလဲကို ဒေသတွင်းတွင်သာ ဆောင်ရွက်ခြင်း ဖြစ်သည်။ iOS 19.2 တွင် အင်အားပြင်းသော အော့ဖ်လိုင်း LLM နှင့် အကြောင်းအရာမှတ်ဉာဏ်စနစ်ကို မိတ်ဆက်ခြင်းသည် Apple ၏ AI အာမခံချက်များအတွက် အရေးကြီးသော ချိန်ခွင်ကျောင်းဖြစ်ပြီး ၎င်းတို့သည် ၎င်းကို မည်သို့ ဆောင်ရွက်ခဲ့သည်ကို နည်းပညာဘက်မှ လေ့လာကြစို့။

ဖုံးအောက်တွင်: Apple ၏ On-Device LLM မည်သို့ လုပ်ဆောင်သည်

စမတ်ဖုန်းတွင် တိုက်ရိုက် လုပ်ဆောင်သော လမ်းကြောင်းမော်ဒယ်ကြီးကို လုပ်ဆောင်ခြင်းသည် အလွန်ခက်ခဲသည် - ဤမော်ဒယ်များသည် ထုံးစံအတိုင်း အကြီးစား၊ သုံးစွဲမှုများနှင့် ကလောင်ဒေတာစင်တာများတွင် လည်ပတ်သည်။ Apple သည် ဤကို မော်ဒယ်လျော့ချခြင်း၊ စိတ်ကြိုက်စီလီကွန်နှင့် ကွက်ကွက်ကွင်းကွင်း အင်ဂျင်နီယာလုပ်ဆောင်မှု စပ်ဆိုင်မှုဖြင့် AI အကျွမ်းမပြည့်သော အထုပ်ကို သင့်လက်ထဲသို့ ထည့်နိုင်ရန် ဖျော်ဖြေရန် အောင်မြင်ခဲ့သည်။ ၎င်း၏ ချွတ်ချက်များမှာ:

မော်ဒယ်သိပ်သည်းနှင့်အရွယ်အစား – Apple ရဲ့ core on-device မော်ဒယ်က အကြမ်းမီး 3 ဘီလီယံ ပါရာမီတာရှိပါတယ်။[15] ဒါဟာ GPT-4 လို မော်ဒယ်ကြီးတွေနဲ့ နှိုင်းယှဉ်ရင် အသေးစားပေမယ့် device အတွက်တော့ "ကြီးမား" လိုက်ပါတယ်။ Apple က ငယ်တဲ့ "ကျောင်းသား" မော်ဒယ်ကို ကြီးတဲ့ "ဆရာ" မော်ဒယ်ရဲ့ အသိပညာကို ပြောင်းလဲပေးတဲ့ knowledge distillation နည်းလမ်းကို အသုံးပြုပြီး သင်ကြားခဲ့တယ်။ Apple ရဲ့ သုတေသနမှတ်တမ်းတွေက Mixture-of-Experts (MoE) နည်းလမ်းကို အသုံးပြုပြီး အရည်အသွေးမြင့်မော်ဒယ်ကို ထိရောက်စွာ လေ့ကျင့်သည့်နည်းလမ်းကို ဖော်ပြထားပါတယ်။ သူတို့က 3B မော်ဒယ်ကို စပ်တစ် 64-expert မော်ဒယ်အဖြစ် ပြန်ဖန်တီးကာ ဆရာမော်ဒယ်အဖြစ် အသုံးပြုခဲ့ပြီး ကြီးမားတဲ့ dense မော်ဒယ်လိုအပ်ချက်ကို ရှောင်တိဖို့ လုပ်ခဲ့ပါတယ်။[16] အသိပညာပြောင်းလဲမှု နည်းလမ်းနဲ့ 14 trillion tokens သင်ခန်းစာဒေတာကို အသုံးပြုပြီး Apple က 3B ပါရာမီတာမှာ အံ့သြဖွယ်ကောင်းတဲ့ စွမ်းရည်ကို ထည့်နိုင်ခဲ့တယ်။[16][17] ဘာသာပြန်ချက်: Apple က နောက်ကျောပိုင်းကို သေးငယ်တဲ့ ဦးနှောက်ကို သင်ကြားခိုင်းပြီး အရွယ်အစားကို စေ့စပ်စွာ လျှော့ချခဲ့ပေမယ့် ထက်မြက်မှုကို ထိန်းထားခဲ့တယ်။
အမြန်နှုန်းအတွက် အဆင့်မြှင့်ထားသော ဖွဲ့စည်းပုံ – မော်ဒယ်ကို device ပေါ်မှာပိုမြန်အောင် Apple က အသေးစိတ်လျှော့ချတာ မဟုတ်ပါဘူး။ သူတို့က အစိတ်အပိုင်းတချို့ကို ပြန်လည်ဒီဇိုင်းပြုလုပ်ခဲ့တယ်။ ဥပမာအားဖြင့် မော်ဒယ်ကို အပိုင်းနှစ်ခုအဖြစ် ခွဲခြားထား၊ ထို့ကြောင့် Transformer ရဲ့ "key-value cache" မှတ်ဉာဏ်ကို အလွယ်တကူ အလွယ်တကူ ဝေမျှနိုင်ပါတယ်။[18] ဒီပြုပြင်မှုတစ်ခုက cache မှတ်ဉာဏ် အသုံးပြုမှုကို 37.5% လျှော့ချပေးပြီး ပြန်ကြားမှုရဲ့ ပထမဆုံး token ထုတ်လုပ်မှုကို မြန်ဆန်စေတယ်။[18] သူတို့က interleaved attention နည်းလမ်းအသစ်တစ်ခုကိုလည်း (ဒေသတွင်း အာရုံစိုက်မှုဝင်းတို့ကို ကမ္ဘာလုံးဆိုင်ရာအာရုံစိုက်မှုအလွှာနဲ့ပေါင်းစပ်မှု) ရှည်လျားသော context အထောက်အပံ့ကို ပိုမိုထိရောက်စွာ စီမံခန့်ခွဲရန် အသုံးပြုခဲ့ပါတယ်။[19] ဒါဟာ မော်ဒယ်ရဲ့ "မှတ်ဉာဏ်" (prompt သို့မဟုတ် စာရွက်စာတမ်းများကို အထောက်အပံ့ပေးခြင်း) ကို ပိုမိုရှည်လျားစေပြီး device ပေါ်မှာ ထိရောက်စွာ လည်ပတ်နိုင်စေတယ်။
Quantization နှင့် ဖိအားချမှု – iPhone တစ်လုံးမှာ LLM ကို ထည့်နိုင်ဖို့ အဓိကသော့ချက်က မော်ဒယ်အလေးချိန်ကို အကြမ်းဖျင်း quantization လုပ်ခြင်းဖြစ်ပါတယ်။ Apple က မော်ဒယ်ရဲ့ အဓိက parameters တွေအတွက် 2-bit အလေးချိန် quantization ကို quantization-aware training ဖြင့် ချမှတ်ပြီး မော်ဒယ်ကို မူလအရွယ်အစားရဲ့ fraction အဖြစ် အထိထိရောက်ရောက် ဖိအားချနိုင်ခဲ့ပါတယ်။ (2-bit ဆိုတာ အလေးချိန် တစ်ခုကို 4 ကြိမ်သာ သိုလှောင်ထားတာပါ။) စွမ်းဆောင်ရည်အလွှာတွေကို 4-bit မှာရှိပြီး အာရုံစိုက်မှု cache ကို 8-bit တန်ဖိုးတွေအဖြစ် ဖိအားချထားတယ်။[21] ထို့နောက် မိမိရဲ့ တိကျမှန်ကန်မှုကို ပြန်လည်ရယူဖို့ low-rank adapters ဖြင့် fine-tune လုပ်ခဲ့တယ်။[21] အဆုံးမှာ device မှာ အလွန်နည်းပါးတဲ့ မှတ်ဉာဏ်ကို အသုံးပြုပြီး အလျင်အမြန် ဖျော်ဖြေရန်အတွက် မော်ဒယ်တစ်ခုရရှိခဲ့တယ်။ Table 1 က ဒီလိုသွားလာပုံကို ပြထားပါတယ်။ Apple က ဖိအားချပြီးနောက် အရည်အသွေးကွာဟမှု သာလွန်မှုနည်းပြီး (တချို့ benchmark တွေက အနည်းငယ်တက်တယ်) ဆိုပါတယ်။[21] ဒီ ultra-compact မော်ဒယ်က device ရဲ့ မှတ်ဉာဏ်ထဲမှာ ထိန်းထားနိုင်ပြီး အလျင်အမြန် လည်ပတ်နိုင်ပြီး အချိန်နောက်ကျမှုမရှိဘဲ အသုံးပြုနိုင်ပါတယ်။
Apple Neural Engine (ANE) – Apple ရဲ့ ဟာ့ဒ်ဝဲက သူတို့ကို အလွန်ကြီးမားတဲ့ အားသာချက်ပေးပါတယ်။ ခေတ်မီ iPhone နဲ့ iPad တွေမှာ 16 core ပါဝင်တဲ့ Neural Engine ရှိပါတယ်။ ဥပမာအားဖြင့် A17 Pro chip ရဲ့ Neural Engine က 35 trillion operations per second[22] ပြုလုပ်နိုင်ပါတယ်။ iOS 19 ရဲ့ foundation model က ဒီ Neural Engine ကို အကောင်အထည်ဖော်ဖို့ ဒီဇိုင်းထုတ်ထားပြီး အတိအကျ matrix math တွေမှာ ပေါင်းစပ်နိမ့်တဲ့ ဒေတာ (quantized neural network အတွက် မိမိတစ်ခုတည်းလိုအပ်တာပါ) ကို လွှဲပြောင်းပါတယ်။ ANE ကို အသုံးချခြင်းအားဖြင့် Apple က LLM ကို မြင့်မားတဲ့ throughput နဲ့ နိမ့်တဲ့ ပါဝါစားသုံးမှုနဲ့ လည်ပတ်စေပါတယ်။ 19.2 beta ရဲ့ စမ်းသပ်မှုအစောပိုင်းမှာ Apple က မော်ဒယ်ရဲ့ အလုပ်ပိုများတဲ့ အပိုင်းကို Neural Engine ပေါ်ကို ပို့နိုင်ခဲ့ပြီး အဆုံး-to-အဆုံး latency ကို အနည်းငယ်လျှော့ချခဲ့ပါတယ် (AI စုံစမ်းမှုအချို့မှာ Neural Engine အဆင့်မြင့်ခြင်းနောက်ပိုင်းမှာ 40% အမြန်ဆန်တယ်ဆိုတဲ့ အစီရင်ခံချက်တစ်ခုရှိပါတယ်)[23] အကျိုးအတွက်ဆိုရင် Siri ကို မေးတဲ့အခါ device ပေါ်မှာ အလျင်အမြန် ပြန်ကြားမှုကို ရရှိနိုင်ပါတယ်။
Multimodal Inputs – On-device မော်ဒယ်က စာသားကို ရှု့မဟုတ်ပါဘူး၊ ပုံများကို input အဖြစ် ထည့်သွင်းတဲ့ အတွက် အထောက်အပံ့ပေးပါတယ်။ Apple က ဗစ်ရှင် encoder (အသေးစိတ်ကို သုံးထားသော Vision Transformer) ကို မော်ဒယ်ထဲထည့်ထားပြီး ထိုသို့သော ဗစ်ရှင်ဒေတာကို အိမ်နီးချင်းခံစားမှုနဲ့ ထည့်သွင်းနိုင်ပါတယ်။[24] ဥပမာအားဖြင့် iOS Visual Look Up feature ကို အသုံးပြုသော်လည်း Siri ကို "ဤသို့ဟုတ်သည်ဘာလဲ?" ဟု မေးပြီး ကင်မရာဖြင့် အရာဝတ္ထုကို ညွှန်ပြပါက မော်ဒယ်ကိုယ်တိုင်ပုံရိပ်အင်္ဂါရပ်များကို လေ့လာပြီးဖြေကြားနိုင်သည်။ ဗစ်ရှင်နှင့်ဘာသာစကားစွမ်းရည်သည် scene memory ကို ဗစ်ရှင် context အထောက်အပံ့ပေးခြင်းဖြစ်သည် – ဥပမာအားဖြင့် Siri နှင့် screenshot ကိုမျှဝေပြီး အပြောအဆိုကို ဆက်လက်ပြောဆိုနိုင်သည်။ Multimodal အဖြစ် (CLIP-style objective နည်းလမ်းဖြင့် 6 ဘီလီယံ ပုံ-စာသား ထုတ်လုပ်မှုများကို အသုံးပြု၍) မော်ဒယ်ကို လေ့ကျင့်ခြင်းအားဖြင့် Apple ရဲ့ AI က မိမိရဲ့ ဖုန်းဖျက်နှင့်ပုံများထဲရှိ အရာဝတ္ထုများကို cloud vision API သုံးရန်မလိုဘဲ နားလည်နိုင်သည်။ အလေးပေါ်မှာလုပ်ဆောင်ခြင်း – ပုံမှ အဓိပ္ပါယ်ကို ထုတ်ယူခြင်း – သည် device ပေါ်မှာ လုပ်ဆောင်သည်။

ဇယား ၁။ Apple ၏ အခြေခံမော်ဒယ်များအတွက် စင်ခွန်နည်းပညာများ (စက်ပေါ်တွင် vs. ဆာဗာ)[20][21]

မော်ဒယ်မျိုးကွဲ

အလေးချိန်တိကျမှု (Decoder)

Embed တိကျမှု

KV Cache တိကျမှု

ပြုပြင်ခြင်းလျှောက်လွှာ

On-Device 3B

2 bits (QAT အထူးပြုပြင်)

4 bits (QAT)

8 bits

ဖြစ် (adapters အသုံးပြု)

Server MoE (ကြီးမား)

~3.56 bits (ASTC ဖိအား)[20]

4 bits (လေ့လာမှုနောက်ပိုင်း)

8 bits

ဖြစ် (adapters အသုံးပြု)

Apple သည် iPhone နှင့် iPad များပေါ်တွင် ထိရောက်စွာ လည်ပတ်စေရန် စက်တွင်းမော်ဒယ်ကို အလွန်သေးငယ်စွာ (2-bit အလေးချိန်အထိ) ပြောင်းလဲပေးပြီး cloud မော်ဒယ်သည် အရွယ်အစားကြီးမားသောကြောင့် ကွဲပြားသောဖိသိပ်မှု (ASTC) ကို အသုံးပြုသည်။ မော်ဒယ်နှစ်မျိုးစလုံးသည် အရည်အသွေးကို ထိန်းသိမ်းထားရန် အထူးပြင်ဆင်ထားသော အထောက်အကူပေးမှုများကို လျှောက်ထားသည်။[20][21]

အထူးသဖြင့် Apple ၏ on-device LLM သည် Apple ၏ chip အင်အားများကို အားလုံးအသုံးပြုသည့် သေးငယ်ပြီး အကောင်းဆုံးဖြစ်စေသော ဦးနှောက်တစ်ခုဖြစ်သည်။ ၎င်းသည် ကောင်းမွန်သောအသိပညာရှိသော 100B-parameter cloud model နဲ့ ရင်ဆိုင်လို့မရပေမယ့် Apple က အမြန်နှုန်းနှင့် တိကျမှု ဖြင့် အသုံးပြုသူ၏ အလုပ်များကို ဖြေရှင်းရန်အတွက် အထူးဖန်တီးခဲ့သည်။ အတွင်းပိုင်းအကဲဖြတ်မှုများအရ 3B model သည် ပြိုင်ဘက်များ၏ အချို့သော 4B parameter models နှင့် များစွာသော အလုပ်များတွင် ရင်ဆိုင်ခဲ့သည်။[17] Apple သည် ဤ ဒေသတွင်းမော်ဒယ်သည် စာသားအကျဉ်းချုပ်ခြင်း၊ နားလည်ခြင်း၊ ပြန်လည်ရေးသားခြင်းနှင့် အတိုချုပ်စကားပြောများတွင် အထူးကျွမ်းကျင်ကြောင်း ဖျေါပွခွင့်ပြုသည်၊ သို့သော် ၎င်းသည် “ကမ္ဘာလုံးဆိုင်ရာ အသိပညာအတွက် chatbot အဖြစ် ဖန်တီးထားခြင်းမဟုတ်ပါ။”[26] အခြားစကားဖြင့်၊ ၎င်းသည် အလွန်ရှည်လျားသော အတိတ်သမိုင်းရေးရာ အချက်အလက်များကို မသိနိုင်ပေမယ့် (၎င်းတို့အတွက် Siri သည် အွန်လိုင်းရှာဖွေမှုကို သို့မဟုတ် လိုအပ်ပါက ပိုကြီးမားသော cloud model ကို အသုံးပြုနိုင်သည်[27][28]) သင့်ရဲ့ နေ့စဉ် အကြောင်းအရာများကို ကူညီရန် - အီးမေးလ်ရေးခြင်း၊ စာရွက်စာတမ်းများကို အကျဉ်းချုပ်ခြင်း၊ စကားပြောပြန်ဆိုခြင်း - ၎င်းသည် အလွန်တိကျစွာ အဆင်သင့်ဖြစ်နေသည်။ အထူးသဖြင့်၊ ၎င်းသည် အပြည့်အဝ edge ပေါ်တွင် လည်ပတ်သည်၊ edge inference ၏ အကျိုးကျေးဇူးများနှင့် “Scene Memory” က ခပ်သိမ်း အလုပ်လုပ်ပုံကို နောက်ပိုင်းတွင် အခြေခံရန် ကြိုးပမ်းနေသည်။

「အခန်းမှတ်ဉာဏ်」 - Siri ၏ အခြေအနေသိမြင်မှု အသစ်

iOS 19.2 ၏ အထင်ရှားဆုံးတိုးတက်မှုတစ်ခုမှာ Siri (နဲ့ အခြားအခွားသော ဉာဏ်ရည်မြင့် လက္ခဏာများ) သည် အခြေအနေကို ဘယ်လိုကိုင်တွယ်သလဲဆိုတာဖြစ်ပါတယ်။ Siri သည် သင်မေးခဲ့သောအကြောင်းကိုနှစ်စက္ကန့်အတွင်း မေ့လျော့သွားသောအချိန်များ ပြီးဆုံးပါပြီ - Apple က အချို့သော တစ်ခါသုံးမှတ်ဉာဏ် သို့မဟုတ် 「အခန်း」သိမြင်မှု ပေးလိုက်ပါတယ်။ ဒါဆိုရင် အခန်းမှတ်ဉာဏ် က ဘာလဲ? ဒါဟာ ပုဂ္ဂိုလ်ရေးအခြေအနေ၊ အကွာအဝေးအခြေအနေ၊ နှင့် ဆက်လက်ပြောဆိုမှုမှတ်ဉာဏ် တို့ရဲ့ ပေါင်းစပ်မှုဖြစ်ပြီး Apple ၏ AI ကို အသုံးပြုသူ၏ တောင်းဆိုမှုအပေါ် ပတ်ဝန်းကျင်အခြေအနေကို နားလည်စေပါတယ်။

စကားပြောဆက်တိုက်လက်ခံနိုင်စွမ်း: Siri ဟာ အခုဆိုရင် ဆွေးနွေးမှုအတွင်းမှာ တစ်ခုနောက်တစ်ခု အတူတူဆက်နေတဲ့ အခြေအနေကို မှတ်သားနိုင်ပါပြီ[6]။ ဒီအတိုင်းဆိုရင် မင်းရဲ့ မေးခွန်းတွေကို ဆက်မေးပြီး “Eiffel Tower ဘယ်လောက်မြင့်လဲ” ဆိုပြီး မေးနိုင်ပြီးတော့ “Montmartre မှာ မြင်ရနိုင်လား” ဆိုပြီး ဆက်မေးနိုင်ပါတယ်။ Siri ဟာ အရင်မေးလိုက်တဲ့ Eiffel Tower ကို “it” ဆိုတဲ့စကားလုံးနဲ့ ပတ်သက်နေတဲ့အကြောင်းကို နားလည်ပါတယ်။ ဒီဟာက ဟောင်းရင်တင်ထားတဲ့ Siri က တစ်ခုစီကို သီးခြားစီယူဆရာရှိစေတဲ့အခြေအနေထက် အများကြီးတိုးတက်လာတဲ့အပြောင်းအလဲပါ။ အပြန်အလှန်ပြောဆိုမှုတွေ၊ ဆက်မေးမှုတွေက အခုမှဖြစ်နိုင်ပြီး Siri ဟာ သဘာဝကျပြီး ချက်ချာတဲ့ခံစားမှုကို ပေးစေပါတယ် (Alexa သို့မဟုတ် Google Assistant ရဲ့ ဆက်တိုက်ပြောဆိုနိုင်စွမ်းအတိုင်း၊ ChatGPT လိုမျိုးပါပဲ)။ အိမ်စက် LLM ရဲ့ transformer ကိုယ်ပိုင်လျှောက်လွှာဟာ ဒီလို prompt chaining အတွက် ထူးခြားကောင်းမွန်ပါတယ်၊ Apple ရဲ့ အကောင်အထည်ဖော်မှုက နောက်ဆုံးဆက်သွယ်မှုမှတ်တမ်းကို ဒေသတွင်းမှာကိုယ်တိုင်သိမ်းဆည်းထားပါတယ်၊ Siri က ပြန်လည်ရည်ညွှန်းနိုင်ဖို့။ ဘာလိုပဲဖြစ်ဖြစ်၊ ဒီအခြေအနေမှတ်ဉာဏ်က အချိန်တိုပဲ ဖြစ်ပြီး ကိုယ်ပိုင်လုံခြုံရေးနဲ့ လုံးဝကိုက်ညီပါတယ်။ ဒါဟာ အပ်လုတ်လုပ်ရင်ဖြစ်ပြီး RAM မှာ session အတွင်းမှာပဲ သိမ်းထားပါတယ်။
ကိုယ်ပိုင်အခြေအနေသိရှိမှု: iOS 19.2 မှာလည်း Siri ကို မင်းရဲ့ကိရိယာပေါ်မှာရှိတဲ့ ဒေတာပေါ်မှာပိုမိုသိရှိစေပါတယ် (မင်းရဲ့ခွင့်ပြုချက်နဲ့)။ Apple ဟာ Siri ကို “မင်းရဲ့ကိုယ်ပိုင်အခြေအနေ – မင်းရဲ့အီးမေးလ်တွေ၊ စာတိုတွေ၊ ဖိုင်တွေ၊ ဓာတ်ပုံတွေနဲ့ပိုပြီး အလုပ်မှာအထောက်အကူပြုဖို့ သင်ယူနေပါတယ်” လို့ဖေါ်ပြထားပါတယ်[8]။ ဥပမာ၊ “Siri, မနက်ဖြန်ငါ့ရဲ့ လေယာဉ်ခရီးစဥ်ဘယ်အချိန်လဲ” ဆိုပြီး မေးနိုင်ပါတယ်၊ Siri ဟာ မင်းရဲ့ Mail app ထဲမှာ အပ်ပုံတွေကိုရှာဖွေနိုင်ပါတယ်။ ဒါမှမဟုတ် Calendar ထဲမှာ အဖြေရှာဖို့ ဖြစ်ပါတယ်၊ အရင်ကလို “မသိဘူး” ဆိုတာထက်ပိုကောင်းပါတယ်။ ဒါဟာ အဓိကအားဖြင့် နောက်ခံကိုယ်ပိုင်အခြေအနေသိရှိမှု ဖြစ်ပြီး Siri ကိုယ်တိုင်မင်းနဲ့ပတ်သက်တဲ့ ဒေတာသိရှိမှုကို တည်ဆောက်နေပါတယ်။ အခြားဥပမာနှင့်တွဲဖက်၍ “မနေ့ညက ကြည့်ခဲ့တဲ့ PDF” ဆိုရင် Siri ရဲ့ ကိုယ်ပိုင်အခြေအနေမှတ်ဉာဏ်က မင်းက အရင်က ပြုလုပ်ခဲ့တဲ့လှုပ်ရှားမှုကိုအခြေခံပြီး မင်းကိုယ်တိုင်ဘယ်ဖိုင်ကိုဆိုလိုသလဲဆိုတာကို သုံးသပ်နိုင်ပါတယ်။ ဒီ အရာတွေဟာ တကယ်တော့ Apple ရဲ့ spotlight search နဲ့ Siri suggestions တွေက နှစ်ပေါင်းများစွာရှိပြီးသားဖြစ်ပြီး အခုတော့ LLM က အဲ့ဒီဒေသတွင်းရဲ့အခင်းအကျင်းကို စကားပြောနည်းလမ်းနဲ့အသုံးပြုနိုင်ပါတယ်။ ဒီအရာအားလုံးဟာ ဒေသတွင်းမှာပဲရှိပါတယ် (Apple ရဲ့ server တွေကို မတင်ပို့ဘူး) ဒါကြောင့် Apple ရဲ့ ကိုယ်ပိုင်လုံခြုံရေးကို ထိန်းသိမ်းထားတာဖြစ်ပြီး Siri ကို ပိုပြီး အသုံးဝင်ပြီး ကိုယ်ပိုင်လုပ်နိုင်စေပါတယ်။
ဖန်သားပြင်အခြေအနေသိရှိမှု: Scene Memory ရဲ့ အလွန်လက်တွေ့ကျတဲ့အချက်က Siri ရဲ့ ဖန်သားပြင်ပေါ်မှာ မင်းကြည့်နေတဲ့အရာ သို့မဟုတ် ဖုန်းပေါ်မှာ လုပ်နေတဲ့အရာကို နားလည်နိုင်စွမ်းပါ။ Apple က onscreen awareness လို့ခေါ်ပါတယ်၊ Siri ကို “မင်းကြည့်နေတဲ့အရာနဲ့ပတ်သက်တဲ့ လုပ်ဆောင်ချက်တွေကို စဉ်းစားနိုင်စေပါတယ်”[29]။ လက်တွေ့မှာဆိုရင် Safari မှာ ဖျော်ရည်ချက်တစ်ခုကို ဖွင့်ထားရင် “Siri, ဒီကို ကျွန်တော်ရဲ့ မှတ်စုထဲသိမ်းမယ်” လို့ပြောနိုင်ပြီး Siri ဟာ “ဒီ” ဆိုတဲ့အရာဟာ မင်းဖွင့်ထားတဲ့ ဝက်ဘ်စာမျက်နှာကို ဆိုလိုတာနဲ့ သိပြီး အလိုအလျောက် ချိတ်ဆက်ပြီး သိမ်းထားပါတယ်။ ဒါမှမဟုတ် မင်းက အခင်းအကျင်းနဲ့ပတ်သက်တဲ့ စာသားစဉ်ကိုကြည့်နေတယ်ဆိုရင် “ဒီကို နောက်ပိုင်းမှာ သတိပေးပါ” လို့ဆိုနိုင်ပြီး Siri ဟာ အဲ့ဒီ ဆက်သွယ်မှုနဲ့ပတ်သက်တဲ့ အချက်အလက်နဲ့ သတိပေးချက်တစ်ခုကို ဖန်တီးပေးပါတယ်။ အရင်ကဆိုရင် ဒီလို အမိန့်တွေဟာ Siri ကို မေးခွန်းပေးခဲ့ပါတယ်။ Apple ရဲ့ စနစ်ထဲက နည်းလမ်းတွေက နောက်ခံ app, ရွေးထားတဲ့စာသား, ဝက်ဘ်စာမျက်နှာရဲ့ အကြောင်းအရာကို LLM ညွှန်ကြားချက်ထဲကို ထည့်သွင်းနိုင်ပါတယ်။ iOS 19 မှာလည်း “လက်ရှိဖန်သားပြင်နဲ့ ဆက်လက်လုပ်ဆောင်ရန်” လို့ Intents တွေထည့်သွင်းထားပြီး app တွေကို Siri ကို လုံခြုံစွာထည့်သွင်းနိုင်ပါတယ်။ အဆုံးသတ်ရင်ဆိုရင် Siri ဟာ မင်းရဲ့ဖန်သားပြင်ကို ရှေ့မှာလိုက်ကြည့်နေတဲ့ အဖြစ်အပျက်ကဲ့သို့ (အထောက်အကူပြုတဲ့နည်းလမ်းနဲ့) သိရှိနိုင်ပါတယ်။ ဒီ scene awareness ဟာ တကယ်တော့ အကြာကြီးတောင်းဆိုခဲ့တဲ့ feature ဖြစ်ပြီး (အခြား platform တွေက အပိုင်းအစတစ်ခုစီသာ စီမံခန့်ခွဲခဲ့တယ်) အခုတော့ LLM နဲ့ စနစ်ပေါင်းစပ်မှုနဲ့ Siri ဟာ “ဒီကို PDF အဖြစ်ပြောင်းပါ” သို့မဟုတ် “Alice နဲ့မျှဝေပါ” ဆိုရင် အပေါ်မှာ မေးခွန်းပေးခဲ့တဲ့ အကြိမ်ပေါင်းများစွာမေးခွန်းမေးခြင်းမရှိဘဲ နားလည်နိုင်ပါပြီ။

နောက်ကွယ်တွင် Scene Memory ကိုဖွင့်ခြင်းသည် software အပြိုင် AI အပြိုင်ပါဝင်သော စိန်ခေါ်မှုတစ်ခုဖြစ်ခဲ့သည်။ Apple သည် LLM ကို Siri ၏ ရိုးရာ ရည်ရွယ်ချက် အကောင်အထည်ဖော်သူနှင့် သိမြင်မှုအခြေခံနှင့်ပေါင်းစပ်ရမည် ဖြစ်ခဲ့သည်။ အစီရင်ခံစာများအရ Apple သည် Siri အတွက် 「query planner」 စနစ်အသစ်တစ်ခုရှိသည်။ ၎င်းသည် web ရှာဖွေရန်၊ စက်တွင်ရှိသော ဒေတာကို အသုံးပြုရန် သို့မဟုတ် Siri Shortcuts/App Intents မှတဆင့် အက်ပ်ကို ခေါ်ယူရန်ဆုံးဖြတ်ပေးသည်။ LLM သည် ရှုပ်ထွေးသော သို့မဟုတ် မပြတ်သားသော မေးခွန်းများကို အဓိပ္ပါယ်ဖွင့်ဆိုရန်နှင့် စကားဝိုင်းအခြေအနေကို ထိန်းသိမ်းရန် ကူညီနိုင်ပါသည်၊ တစ်နည်းအားဖြင့် Siri ၏ ရိုးရာစနစ်သည် အမိန့်များ (အက်ပ်ဖွင့်ခြင်း၊ မက်ဆေ့ခ်ျများပို့ခြင်းစသည်ဖြင့်) အကောင်အထည်ဖော်ရန် ကိုင်တွယ်ပါသည်။ Apple သည် အကြောင်းအရာရှည်များကို ချုံ့စေရန် 「summarizer」 မော်ဂျူးကိုလည်းအသုံးပြုနေသည်။ - ဥပမာ အီမေးလ်များတွင် အခုနေ့ ဘာမှားနေတယ်လို့ မေးသောအခါ စက်တွင်းမော်ဒယ်သည် သင့်ရဲ့ နောက်ဆုံးအီးမေးလ်များကို ချုံ့၍ ပေးနိုင်ပါသည်။ ကွက်အစိတ်အပိုင်းအားလုံးသည် Siri ကို ပိုမို လုပ်ဆောင်နိုင်စေ ရန် အတူတကွ လုပ်ဆောင်သည်။ အမှန်အားဖြင့် Apple က Siri ကို "သင့်အက်ပ်များတွင်နှင့်အက်ပ်များကို ဖြတ်၍ သင့်အတွက် လုပ်ဆောင်ရန်" ကိုယ်ပိုင် အကြောင်းအရာမှတ်ဉာဏ်ကို အားကိုးကာ ရည်မှန်းချက်အဖြစ် သတ်မှတ်ထားသည်ဟု ဖော်ပြထားသည်။ ကျနော်တို့သည် Siri ကို တင်းကြပ်သော အသံအမိန့်စနစ်မှ အကြောင်းအရာကို မှတ်မိတတ်သော နှင့် အရာများကို နားလည်နိုင်သော ထိန်းချုပ်နိုင်သော ကိုယ်ပိုင်အကူအညီပေးသူ တစ်ခုအဖြစ် အဖြည်းဖြည်း ပြောင်းလဲနေသည်ကို ကြည့်ရှုနေရပါသည်။

ဒီအင်္ဂါရပ်တွေကိုတချိန်ထပ်တလဲလဲနောက်ကျခဲ့တာကိုသတိပြုဖို့အထူးသဖြင့် အရေးကြီးပါတယ်။ Apple က စတင်စီစဉ်ခဲ့တာ iOS 18 အတွက်ဖြစ်ပြီး၊ နောက်ပြီးတော့ 19 အထိရွှေ့ဆိုင်းခဲ့ရပါတယ်။ ဒါပေမယ့် .0 ထုတ်ဝေမှုမှာလည်း အားလုံးမပါဝင်ခဲ့ပါဘူး[33][34]။ အခု iOS 19.2 မှာတော့ ကိုယ်ပိုင်အခြေအနေ၊ မျက်နှာပြင်သိရှိမှုနှင့် အပြင်းအထန်အက်ပ်ပေါင်းစပ်မှုတွေ ပေါ်ထွက်လာတဲ့အလားရှိပါတယ်[35]။ လူတွေဟာ Siri က မတတ်နိုင်ခဲ့ဖူးတဲ့အရာတွေကို ရုတ်တရက်လုပ်နေတာကို မြင်ရတာကြောင့် စားသုံးသူအများကြီးစိတ်လှုပ်ရှားမှု ဖြစ်ပါတယ်။ အကူအညီပေးသူဟာ ပိုပြီး အသက်ဝင် ခံစားရပါတယ်။ စောစီးသောအသုံးပြုသူ အစီရင်ခံချက်တွေက Siri က အလုပ်တွေကိုတစ်ခုချင်းစီဆက်စပ်ပေးနိုင်တယ်လို့ပြောပါတယ် (ဥပမာ၊ အယ်ဘမ်ကိုကြည့်နေစဉ်မှာ “ဓာတ်ပုံတွေကိုမေမေကို အီးမေးလ်ပို့ပါ” – အသုံးပြုသူတစ်ယောက်က Siri က “ဓာတ်ပုံတွေ” ဆိုတာ ဖွင့်ထားတဲ့အယ်ဘမ်ကိုဆိုလိုတာကို တစ်ခါတည်းလုပ်ပေးခဲ့တယ်လို့ပြောပါတယ်)။ ဒါဟာ Scene Memory ရဲ့ကတိပေးချက်ပါ။ အမိန့်တွေ ပိုမိုချောချာပြီးနားလည်မှု ပိုမိုချောမွေ့မှုရှိပါတယ်။ ဒါဟာ iPhone အသုံးပြုသူတွေကို ယခင်က cloud ဝန်ဆောင်မှုတွေလို ChatGPT လိုအရာတွေကိုလိုအပ်ခဲ့တဲ့ AI အကူအညီအတူပိုမိုနီးကပ်စေပါတယ်။ ထပ်ပြီးတော့၊ Apple ရဲ့ကွဲပြားမှုက offline မှာလုပ်တာပါ။ သင့်စက်က မျက်နှာပြင်အကြောင်းအရာကို cloud ကိုမဖြစ်ပေါ်စေပါဘူး။ LLM က အခြေအနေကို အလိုအလျောက်ထုတ်ဖော်ပြောဆိုပါတယ်။ ကာကွယ်ရေးကို မူလတန်းမှာထိန်းသိမ်းထားပါတယ်[36][37]၊ ဒါကြောင့် သင့်ကိုယ်ပိုင်အင်္ဂါရပ်တွေကို Big Brother လိုစောင့်ကြည့်ခံရတဲ့အထင်မရဘဲ ယုံကြည်နိုင်ပါတယ်။

Scene Memory ကို ချုပ်ဆိုရ အားဖြင့်၊ ဒါဟာ Apple ရဲ့ Distilled AI ဦးနှောက်နဲ့ ဒေသခံ အချက်အလက်တွေကို ထိရောက်စွာ ပေါင်းစပ်ထားခြင်းဖြစ်ပါတယ်။ ဒီပေါင်းစပ်မှုက ပိုမို အားကောင်းတဲ့ အပြန်အလှန် ဆက်သွယ်မှုတွေကို ဖွင့်ပေးတယ်။ အခု Siri က “မင်း ပြောနေတဲ့ သူ/အရာ/နေရာ” ကို လေ့လာနေပြီး အသုံးဝင်တဲ့ အနေနဲ့ ပြန်လည် ဖြေရှင်းနိုင်ပါတယ်။ နည်းပညာကို နားလည်တဲ့ အသုံးပြုသူအတွက် အရာတွေကို လက်ဖြင့် ရှင်းပြရတာနည်းသွားပြီး အက်ပ်တွေကြားက ကူးယူရတာလည်း နည်းသွားတယ် – မင်းရဲ့ အကူအညီက အဲဒါကို ဖြေရှင်းပေးတယ်။ အခုတော့ စောစောဘက်မှာပဲရှိနေသေးတယ် (Siri က အပြည့်အဝ ကောင်းမွန်သေးဘူး၊ တစ်ခါတစ်လေ အချက်အလက်ကို မှားယွင်းတာတွေ ရှိတတ်ပြီး ရှင်းပြဖို့ အကူအညီကို တောင်းတတ်ပါတယ်)၊ ဒါပေမယ့် ပိုမို ကောင်းမွန်လာပါတယ်။ Apple က နောက်ထပ် iOS မှာ ပိုမိုကြီးမားတဲ့ AI ကို စီစဉ်နေပါတယ် (iOS 20 မှာ 2026 ခုနှစ်မှာ Siri ဟာ GPT-like Siri အပြည့်အစုံဖြစ်ဖို့ မျှော်လင့်ရပါတယ် [38])၊ Scene Memory ကို 19.2 မှာ အခြေခံလမ်းဆက်အဖြစ် တိုးတက်လာနေတာပါ။

Edge Inference: အလွန်အရေးကြီးတဲ့ On-Device AI

Apple Intelligence 2.0 ၏ အဓိကအကြောင်းအရာတစ်ခုမှာ edge inference ဖြစ်ပါတယ်။ ဤ AI ကို ဗဟိုကွန်ယက်မဟုတ်ဘဲ အသုံးပြုသူရဲ့ စက်ပေါ် (ကွန်ယက်၏ “အနား”) တွင် လည်ပတ်စေခြင်းဖြစ်သည်။ နည်းပညာနည်းလမ်းများကို ကျွန်ုပ်တို့ ထိတွေ့ခဲ့ပြီး ဖြစ်သော်လည်း ဘာကြောင့် အရေးကြီးသည် ဆိုတာကို ပြောပြကြပါစို့။

သီးသန့်လုံခြုံမှုနှင့် လုံခြုံရေး: LLM ကိုကိရိယာပေါ်တွင်ထားခြင်းသည် မင်းရဲ့ဒေတာကိုလုပ်ဆောင်ရန်အတွက် ဖုန်းမှထွက်မသွားပါ။ Apple ကပြောသလို၊ ပုဂ္ဂိုလ်ရေးဆွေးနွေးမှုများနှင့် အကြောင်းအရာများကို ပုဂ္ဂိုလ်ရေးအနေအထားမှာပဲရှိနေစေပါတယ်[39]။ စာရေးကိရိယာများနှင့် အီးမေးလ်ကိုရေးဆွဲပါ၊ သို့မဟုတ် Siri ကို မင်းရဲ့ အချိန်ဇယားအကြောင်းမေးပါ – အဲဒါတွေကို အပ်လုဒ်လုပ်ရန် မလိုအပ်ပါဘူး။ မင်းရဲ့အသံနှင့် အခြေအနေကို ဆာဗာများထံပို့သော cloud ကူညီပေးသူများနှင့် ကွာခြားသည်။ Apple ၏ Siri က cloud ကူညီမှုကို အသုံးပြုသောအခါ (ချို့ယွင်းချက်များအတွက် ChatGPT ပေါင်းစပ်မှုလိုအပ်သော)၊ သူတို့သည် Private Cloud Compute – မင်းရဲ့ဒေတာကို ကုဒ်ဖြင့်စနစ်တကျဖျော်ဖြေရန်နှင့် တတိယပါတီကမထိန်းသိမ်းပါဘဲစနစ်တကျဖြတ်တောက်ပေးသော စနစ်မှတဆင့်ငြိမ်းချမ်းစွာပြေးဆောင်သည်[40][27]။ 19.2 တွင်အများစုသောအလုပ်များအတွက် ကိရိယာပေါ်တွင်ပြုလုပ်နိုင်ပါသည်။ ၎င်းသည် E2E ကုဒ်ဖြင့်ဖျော်ဖြေရန်နှင့် လုံခြုံရေးကို အထောက်အပံ့ပေးပြီး၊ Apple ၏အမှတ်တံဆိပ်သဘောထားနှင့် တစ်လျှောက် လိုက်လျောညီထွေရှိစေပါသည်။ လုံခြုံရေးထောင့်မှ ကြည့်ပါက၊ ကိရိယာပေါ်တွင် inference ပြုလုပ်ခြင်းသည် ကွန်ရက်တိုက်ခိုက်မှုများ သို့မဟုတ် အချက်အလက်ယိုယွင်းမှုများကို လျော့နည်းစေပြီး၊ မင်းရဲ့ AI တောင်းဆိုမှုများသည် အင်တာနက်ပေါ်တွင်မသွားသောကြောင့် ကြားခံခံရနိုင်ခြင်းကင်းစေပါသည်။
အော့ဖ်လိုင်းရရှိနိုင်မှု: Edge AI သည် အင်တာနက်မလိုဘဲ အလုပ်လုပ်နိုင်ပါသည်။ ဒါဟာအသက်ရှင်လျှက်သောဆန့်ကျင်မှုဖြစ်နိုင်ပါတယ် – မင်းမှာ ဒေတာမရှိဘဲခရီးသွားနေပြီး ဘာသာပြန်လိုအပ်တာကို စိတ်ကူးပါ၊ သို့မဟုတ် နယ်စပ်ဒေသမှာရှိပြီး Siri မှမှတ်ချက်များမှ အချက်အလက်ခေါ်ယူလိုအပ်တာကို စိတ်ကူးပါ။ iOS 19 ၏ အော့ဖ်လိုင်း LLM ဖြင့်၊ အများစုသောအင်္ဂါရပ်များသည် အလုပ်လုပ်နေပါသည်။ Messages သို့မဟုတ် စကားပြောခေါ်ဆိုမှုများတွင် စာသားကို ဘာသာပြန်သော Live Translation က ရေဒီယိုဖြစ်ပါသည်၊ ဘာဖြစ်လို့ဆိုရင် ဘာသာပြန်မော်ဒယ်သည် ကိရိယာပေါ်တွင်ရှိပါသည်။ Apple ၏ဒီဇိုင်းသည် အဓိကထောက်ကူကိရိယာများအတွက် “အော့ဖ်လိုင်းပထမ” ဖြစ်ပါသည်။ သူတို့သည် ပုံမှန်အသုံးပြုသော AI အလုပ်လုပ်ဆောင်မှုများနှင့် မကြာခဏအကြောင်းအရာများကို ကိရိယာပေါ်တွင် cache လုပ်ထားပြီး၊ အော့ဖ်လိုင်းသွားခြင်းသည် အနည်းငယ်သောအဆင်ပြေမှုကိုဖြစ်စေပါသည်[41][42]။ ဒီဆန်းသစ်မှုက ပိုမိုပေါင်းစပ်နိုင်စေပြီး – မည်သူမျှမသည် အမြဲတမ်းမြန်ဆန်သောအင်တာနက်ရှိခြင်းမရှိပါ၊ သို့မဟုတ် ဖွံ့ဖြိုးပြီးသောဒေသများတွင် dead zones တွေကိုတစ်ကြိမ်ကြိမ်ထိတွေ့ကြပါသည်။ မင်းအော့ဖ်လိုင်းသွားတိုင်း မင်းကိုဖြတ်တောက်လိုက်သောပုဂ္ဂိုလ်ရေး AI မဟုတ်ပါ။ Apple သတိပြုခဲ့သည်၊ Macaron (ကျွန်ုပ်တို့မကြာမီဆွေးနွေးမည့် ပုဂ္ဂိုလ်ရေး AI အေးဂျင့်) သည် အဲဒီအမြင်ကိုအနှစ်သက်ပါသည်။ မင်းရဲ့ AI သည် မင်းအတွက် မည်သည့်အချိန်တွင်မဆို၊ နေရာအနှံ့အပြားမှာရှိနေသင့်သည်[43]။
တုံ့ပြန်ချိန်နည်းခြင်းနှင့် အချိန်နာရီပြည့်အပြည့် အပြန်အလှန်ဆက်သွယ်မှု: ကိရိယာပေါ်တွင် inference ဖြစ်ပေါ်သောအခါ၊ ဆာဗာထံသို့အခွင့်အလမ်းပြန်လည်ပြုလုပ်ရန်အချိန်ထိန်းထားမှုကိုပျောက်ကွယ်စေသည်။ လုပ်ဆောင်မှုများသည် ပိုမိုမြန်ဆန်သည်ကိုခံစားပါ။ ဥပမာအားဖြင့်၊ Safari သို့မဟုတ် Mail တွင်အကျဉ်းချုပ်ဖန်တီးခြင်းသည် အနည်းငယ်သောအချိန်အတွင်း ဖန်တီးနိုင်ပါသည်၊ cloud API သည် network latency ပါသောသွားလာချိန်စက္ကန့်အနည်းငယ်ယူပါမည်။ Apple ၏ Neural Engine အရှိန်မြှင့်တင်မှုသည် တုံ့ပြန်မှုများကို အချိန်နာရီပြည့်အပြည့် အနီးကပ်ရရှိစေရန်အထောက်အပံ့ပေးသည်။ အပြောအဆိုတစ်ခုမှာ Apple သည် 19.2 Siri အမေးများအတွက် အချိန်ကိုလျှော့ချခဲ့သည်ဟုဆိုသည်[23]။ အသုံးပြုသူအတွေ့အကြုံအရ၊ ဒီလျော့ချမှုသည် AI ကိုပိုမိုတုံ့ပြန်နိုင်စေပြီး၊ ဆက်သွယ်မှုရှိစေသည်၊ ဒါကြောင့်လူများအသုံးပြုရန်ပိုမိုအားပေးသည်။ မင်းဟာ Siri ကိုခန်းထဲမှာရှိတဲ့လူတစ်ယောက်နီးပါးသလို လက်လှမ်းမီအောင်ပြောနိုင်ပါတယ်။ ထိုသို့ပင်၊ ယခု LLM ဖြင့်မြှင့်တင်ထားသော ကီးဘုတ်၏ခန့်မှန်းစာသားအင်္ဂါရပ်များက သက်တောင့်သက်သာဖြစ်စေပြီး၊ အပြည့်အစုံသောစာကြောင်းအကြံပြုချက်များကို အလျင်အမြန်ဖန်တီးနိုင်ပါသည်။ ကိရိယာပေါ်တွင် inference လုပ်ခြင်းဖြင့် Apple သည် ဆာဗာကုန်ကျစရိတ်နှင့် cloud AI ဝန်ဆောင်မှုများကို အခေါ်အဝေါ်အတိုင်းပြုလုပ်နိုင်ခြင်းဖြစ်ပြီး၊ မင်းဖုန်း၏ အပြည့်အစုံသောအာရုံစူးစိုက်မှုသည် မင်းကိုသာဖြစ်သည်။
ကုန်ကျစရိတ်နှင့် တည်တံ့ခြင်း: cloud ၌သိန်းပေါင်းများစွာသောအသုံးပြုသူများအတွက် AI မော်ဒယ်ကြီးများကို လည်ပတ်ခြင်းသည် (GPU ဆာဗာကုန်ကျစရိတ်အနေနှင့်) အလွန်ဈေးကြီးနိုင်ပြီး စွမ်းအင်ကုန်ကျနိုင်သည်။ ကြိုးကို edge ကိရိယာများသို့ပြောင်းခြင်းဖြင့် Apple သည် အထူးသဖြင့်စွမ်းဆောင်ရည်နှင့် ထိရောက်မှုအတွက်ထုတ်လုပ်ထားသော hardware သို့ လုပ်ဆောင်မှုကိုပြောင်းသည်။ Apple သည် ကိရိယာပေါ်တွင်မော်ဒယ်အသုံးပြုပြီးသော developer များအား အသုံးပြုမှုကြေးမရှိဟုဖော်ပြသည်[3] – ပြင်ပ AI ဝန်ဆောင်မှုသို့ API ကိုခေါ်ရာတွင်ပေးရသောကွာဟမှုကြောင့် ပိုမိုအားပေးသည်။ တည်တံ့မှုအနေဖြင့် AI ကိုအလယ်အလတ်ပြောင်းလဲခြင်းသည်အချက်အလက်ဗဟိုများပေါ်တွင်ဝန်ပိမှုကိုလျော့နည်းစေနိုင်သည် (ဒါဟာစွမ်းအင်များကိုစားသုံးသည်)။ iPhone တစ်ခုစီသည် AI အလုပ်အနည်းငယ်ကိုပြုလုပ်ခြင်းသည် အများစုအနေဖြင့် အပြည့်စုံသောစွမ်းအင်ထက်ထိရောက်မှုရှိနိုင်သည် (အထူးသဖြင့် Apple ၏ Neural Engine သည် ထိရောက်မှု-ပါဝါအပြည့်အစုံဖြင့်အဆင့်မြှင့်ထားသောကြောင့်)။ ရောစပ် edge AI တွင် cloud computing bottlenecks နှင့်ကုန်ကျစရိတ်ကို အနာဂတ်တွင်ကြောင့်ကြောင်းဖြတ်နိုင်သည်။

ဒါကြောင့်ပြောရမယ်ဆိုရင်၊ Apple ရဲ့အနည်းအကျဉ်းနည်းလမ်းကလည်း သူ့ရဲ့ဖလှယ်ချက်များရှိပါတယ်။ ကိရိယာပေါ်မှာရှိတဲ့ မော်ဒယ်က ပိုမိုကျယ်ပြန့်တဲ့ GPT-4 လိုမျိုး သိမြင်မှုမရှိနိုင်ပါဘူး။ ဒါဟာ မြင့်မားတဲ့ အထွက်အနိုင်ရရှိစေမယ့် မော်ဒယ်လည်း မဟုတ်ပါဘူး။ ဒါကြောင့် Apple က Siri ရဲ့ ကမ္ဘာကြီးကို နားလည်မှုကို အနာဂတ်မှာ မြှင့်တင်ဖို့ အကြီးမားဆုံးသော မော်ဒယ်များကို (Google ရဲ့ 1.2 trillion-parameter Gemini ပါ) သုံးသွားဖို့ စီစဉ်ထားပါတယ်။ ဒါပေမယ့် iOS 19.2 နဲ့ ပြသခဲ့တဲ့ အတိုင်း အများကြီးသော ကိုယ်ပိုင်အကူအညီ အလုပ်များအတွက် စီမံထားတဲ့ 3B မော်ဒယ်တစ်ခုက လုံလောက်တယ်ဆိုတာ ပြသခဲ့ပါတယ်။ ဒါကြောင့် ဒါက နေရာတွင် ပြုလုပ်နိုင်တဲ့ အကြီးစားအလုပ်များကို cloud ပေါ်မှာထားပြီး ကိရိယာပေါ်မှာ ကိုယ်ပိုင်နဲ့ အခြေအနေကို ကျရာလုပ်စေဖို့အတွက် စီမံထားတဲ့ အကြီးအကျယ်ကြီးတဲ့ နည်းလမ်းတစ်ခု ဖြစ်ပါတယ်။ ဒါက မကြာခင်မှာ နည်းလမ်းတွေထဲမှာ သမားရိုးကျဖြစ်လာနိုင်ပါတယ်။

ဤမဟာဗျူဟာကို လက်တွေ့တွင်ကြည့်ရန်၊ အသုံးပြုသူအထူးလုပ်ငန်းများနှင့် အော့ဖ်လိုင်းစွမ်းရည်တို့အပေါ် အလားတူအာရုံစိုက်သော ကိုယ်ပိုင် AI ကိုယ်ရေး ကူညီသူ Macaron ကို ယူဆပါ။ Apple ၏ ကိရိယာပေါ်တွင်ရှိသော AI တိုးတက်မှုများသည် Macaron ကဲ့သို့သော ကိရိယာများက ပြုလုပ်နေသည့်အရာများနှင့် တကယ်ဖြည့်စွက်ပေးသည်။

Macaron မီနီအက်ပ်များနှင့် အနာဂတ်ကိုယ်ရေး ကူညီသူ၏ အနာဂတ်

Macaron သည် အသုံးပြုသူများကို စကားပြောကာဖြင့် "မီနီအက်ပ်" များဖန်တီးနိုင်စေရန် ခွင့်ပြုသည့် ကိုယ်ပိုင် AI ကူညီသူ ပလက်ဖောင်းဖြစ်သည် - အချင်းချင်း သင့်နေ့စဉ်လိုအပ်ချက်များအတွက် စိတ်ကြိုက် AI အင်အားဖြင့် အလုပ်လုပ်စေသော အလုပ်လည်ပတ်မှုများဖြစ်သည်။ iOS ၏ တည်ဆဲထည့်သွင်းထားသော ထိန်းချုပ်မှုသည် အသုံးပြုသူအားလုံးအတွက် Apple ၏ ကျယ်ပြန့်သော ဖြေရှင်းချက်ဖြစ်လျှင်၊ Macaron သည် ပိုမိုကိုယ်ပိုင်နှင့် အသုံးပြုသူအခြေခံအနားယူမှုကို ယူသည် - မင်းဘာလိုအပ်သည်ဆိုတာပြောပါ၊ အဲဒါကို ချက်ချင်းဖြေရှင်းချက်တစ်ခုတည်ဆောက်ပေးပါမယ်။ အခုတော့ Apple ၏ အော့ဖ်လိုင်း LLM နှင့် Scene Memory သည်ဤတွင် ဘယ်လိုပါဝင်သလဲ? တစ်လုံးတည်း၊ ကောင်းမွန်စွာ။

Macaron ၏အယူအဆမှာ အော့ဖ်လိုင်း-ပထမ, နည်းနည်းမြန်နှုန်းနှင့် သုံးစွဲသူကို ဦးစားပေးသော ဒီဇိုင်း ကို အာရုံစိုက်ထားသည်။ Macaron ၏အဖွဲ့အဆိုအရ တကယ့်ကို ကိုယ်ပိုင် AI ဆိုတာ ချိန်မရွေး၊ နေရာမရွေး၊ လူသုံးများသောဆက်သွယ်မှုမရှိသော်လည်း အလုပ်လုပ်နိုင်ရမည် သုံးစွဲသူအလိုက် လိုက်လျောညီထွေ ဖြစ်ရပါမည်။ [43][42] ဒါကတော့ Apple ၏ on-device AI အဆင့်မြှင့်တင်မှုများ၏ အားသာချက်ဖြစ်ပါသည်။ iOS 19.2 ၏ foundation model နှင့်အတူ Macaron သည် Apple ၏ on-device နည်းပညာကို အသုံးပြုနိုင်ပြီး cloud API များကို အမြဲခေါ်စရာမလိုတော့ပါ။ ဥပမာအားဖြင့်:

အချိန်မီ မီနီအက်ပ် ဖန်တီးခြင်း: Macaron က အသုံးပြုသူတွေကို “စားဖွယ်အစီအစဉ်ရေးဆွဲတဲ့ အက်ပ် ဖန်တီးပေးပါ” ဆိုပြီး မေးမြန်းနိုင်အောင် လုပ်ဆောင်ပေးပြီး၊ AI ဖန်တီးမှုနည်းပညာကို အသုံးပြုကာ အဲဒီရည်ရွယ်ချက်အတွက် မီနီအက်ပ်တစ်ခုကို တည်ဆောက်ပေးပါတယ်[45][46]။ ဒီဖန်တီးမှုအဆင့်ကို (Apple ရဲ့ မော်ဒယ်ကို အသုံးပြုတဲ့ Foundation Models SDK အသစ်ကို အသုံးပြုပြီး) စက်ပေါ်မှာ တိုက်ရိုက် လုပ်ဆောင်နိုင်ရင် ဖန်တီးမှုက အချိန်နာရီလွန်စွာဖြစ်ရမှာမဟုတ်ပါဘူး။ အသုံးပြုသူက အလုပ်လုပ်တဲ့ မီနီအက်ပ်ကို စက္ကန့်အနည်းငယ်အတွင်း ရရှိနိုင်ပါတယ်။ ဒါကလည်း သင့်ရဲ့ စက်ပေါ်မှာ ဖန်တီးမှုအတွင်း သင်ပေးတဲ့ ညွှန်ကြားချက် (တစ်ချို့က ကိုယ်ပိုင် ကြိုက်နှစ်သက်မှုများ သို့မဟုတ် ဒေတာများ ပါဝင်နိုင်သည်) မပြောင်းရွေ့ရတဲ့ အနေနဲ့ ရှိနေပါတယ်[3]။
မီနီအက်ပ်များတွင် အခြေအနေကို နားလည်ခြင်း: Macaron ၏ မီနီအက်ပ်များတွင် ကျယ်ပြန့်သော ဒေတာများ ပါဝင်လေ့ရှိပြီး၊ ဥပမာအားဖြင့် အလေ့အကျင့် ချိန်းဆိုခြင်း သို့မဟုတ် ကိုယ်ရေးကိုယ်တာ ငွေရေးကြေးရေး လေ့လာသူ – သည်အခြေအနေကို နားလည်မှုက အကျိုးရှိပါတယ်။ Scene Memory အားဖြင့်စနစ် ဉာဏ်ရည်ကို သုံးပြီး မီနီအက်ပ် အလုပ်လည်ပတ်မှုများတွင် ပါဝင်ဖို့ Macaron က ပြုလုပ်နိုင်ပါတယ်။ ဥပမာအားဖြင့် သင့်တွင် စာတိုက် စီမံခန့်ခွဲမှုအတွက် Macaron မီနီအက်ပ်ရှိပါက၊ iOS 19 ၏ ဉာဏ်ရည်ပေါင်းစုပြီး အသုံးပြုသူများအတွက် အရေးကြီးသော စာများကို သိရှိပေးခြင်း စသည့် Siri ၏ အသစ်သော စွမ်းအားကို အသုံးပြုနိုင်ပါတယ်[47][48]။ Macaron က အထူးစွမ်းအားရှိသော အခြေခံပန်းချီကွက်အဖြစ် Apple ၏ OS-level AI ဝန်ဆောင်မှုများကို သုံးပြီး ပုံဆွဲခြင်းကို ပိုမိုတိုးတက်စေပါတယ်။
နိမ့်ကျမှုနှုန်းနဲ့ စမတ်အေးဂျင့် UX: Macaron ၏ အရောင်းအရုံ အချက်အလက်များထဲမှာ ချောမွေ့သော စကားပြော အတွေ့အကြုံ – AI အေးဂျင့်က သင့်ကို လက်တွဲဖော်တစ်ယောက်လို ပူးပေါင်းလုပ်ဆောင်စေပါတယ်။ Apple ၏ အစွမ်းခန်း AI က တုံ့ပြန်မှုနှင့် လုပ်ဆောင်ချက်များကို နိမ့်ကျမှုနှုန်းနဲ့ လုပ်ဆောင်စေခြင်းဖြင့် သဘာဝစီးဆင်းမှုကို ထိန်းသိမ်းထားခြင်းအတွက် အရေးကြီးပါတယ်။ Macaron မီနီအက်ပ်များက အခုမှာ စက်ပေါ်မှာ ဘာသာပြန်ခြင်း၊ ပုံရိပ်မှတ်သားမှု၊ သို့မဟုတ် စာသားသုံးသပ်မှု အလုပ်များကို ချက်ချင်းပြုလုပ်နိုင်ပြီး၊ မတိုင်မီမှာတော့ cloud API များကို ခေါ်ပြီး စောင့်ရတယ်။ Macaron playbook တစ်ခုက၊ ဥပမာအားဖြင့် ချက်ပြုတ်နည်းကို လမ်းညွှန်ပေးနိုင်ပြီး၊ စက်ပေါ်တွင် ဗီဇွန်ကို သုံး၍ ပစ္စည်းများကို အချိန်နာရီလွန်စွာ မှတ်သားနိုင်သည် သို့မဟုတ် LLM ကို သုံး၍ “ကျီသောအစားထိုးမှုဘာဖြစ်မလဲ” ကို အင်တာနက်ရှာဖွေရန်မလိုဘဲ ဖြေဆိုနိုင်ပါတယ်။ ဒီဟာက ပိုမို နစ်မြုပ်ပြီး ယုံကြည်စိတ်ချရသော အေးဂျင့် အတွေ့အကြုံကို ဖန်တီးပေးပါတယ်။
ကိုယ်ပိုင် AI အတွက် တိုးတက်သော ကိုယ်ရေးကိုယ်တာဒေတာ လုံခြုံမှု: Macaron က ကိုယ်ပိုင်အေးဂျင့်ဖြစ်ပြီး၊ အသုံးပြုသူများ၏ ကိုယ်ရေးကိုယ်တာ အချက်အလက်များ (အချိန်ဇယားများ၊ မှတ်စုများ၊ ကျန်းမာရေးဒေတာများ စသည်) ကို ကိုင်တွယ်ပါသည်။ Apple ၏ စက်ပေါ်တွင် လုပ်ဆောင်မှု နည်းလမ်းကို လိုက်လျောညီထွေစေခြင်းအားဖြင့်၊ Macaron က အသုံးပြုသူများကို သင့်ရဲ့ အချက်အလက်များ AI လုပ်ဆောင်မှုအတွင်း စက်ပေါ်မှ အပြင်မထွက်ကြောင်း ပြောဆိုနိုင်ပါတယ်။ အမှန်တော့ Macaron ၌ နိမ့်ကျမှုနှုန်း သို့မဟုတ် အော့ဖ်လိုင်း အသုံးပြုမှု အတွက် အခန်းကဏ္ဍများကို ပေးထားပြီး၊ အရေးကြီးသော ဒေတာများကို ဒေသတွင်းတွင် cache လုပ်ခြင်းနှင့် လိုအပ်ပါက ပိုသေးငယ်သော fallback မော်ဒယ်များကို အသုံးပြုခြင်း[49][42]။ Apple ၏ 19.2 LLM က အော့ဖ်လိုင်း မော်ဒယ်အဖြစ် တာဝန်ထမ်းဆောင်နိုင်ပြီး၊ မျှော်လင့်ထားသော ကောင်းမွန်သော cloud AI ကိုရပ်ထားစဉ် အခြေခံ တောင်းဆိုမှုများကို ဖုံးကွယ်ထားနိုင်ပါတယ်[42]။ ဒီမှာပါဝင်မှုက Apple နဲ့ Macaron နှစ်ခုစလုံးကို “သင့်စက်ပေါ်မှာ သင့်အတွက် အလုပ်လုပ်တဲ့ AI” တွင် အဓိပ္ပာယ်ရစေပြီး၊ အသုံးပြုသူ ယုံကြည်မှုနှင့် မူပိုင်ခွင့်ကို မြှင့်တင်ပေးပါတယ်။
လုပ်ငန်းစဉ်များတွင် အခြေအနေ သယ်ဆောင်မှု: Macaron ၏ မီနီအက်ပ်များသည် အဆင့်အဆင့် လုပ်ငန်းစဉ်များဖြစ်ပြီး (Macaron က သူတို့ကို playbooks သို့မဟုတ် micro-flows[50] လို့ ခေါ်ပါတယ်။ Scene Memory အတွေးက အဲဒီ အဆင့်များအတိုင်း အခြေအနေကို ထိန်းသိမ်းရာတွင် ကူညီနိုင်ပါတယ်။ သင့်တွင် ခရီးသွားအစီအစဉ် မီနီအက်ပ်ရှိသည်ဟု ယူဆပါက - အဆင့် ၁ လေယာဉ်လိုင်းများ ရှာဖွေခြင်း၊ အဆင့် ၂ ဟိုတယ်များ၊ အဆင့် ၃ အစီအစဉ်ရေးဆွဲခြင်းဖြစ်ပါတယ်။ အခြေအနေမှတ်ဉာဏ်နှင့်အတူ AI က အဆင့်တစ်ခုခြင်းတိုင်းမှ အချက်အလက်များကို နောက်တစ်ဆင့်သို့ မထပ်ခေါ်ရဘဲ ရှေ့ဆက်သယ်ဆောင်နိုင်ပါတယ်။ Macaron က အလုပ်စဉ်များကို အဆင်ပြေစွာ အကြောင်းအရာများ အတွင်းတွင် ဖွဲ့စည်းထားပြီး[51] – ယခု AI backend က ဘာတွေ ပြုလုပ်ပြီးပြီးဖြစ်ပြီး၊ ဘာတွေက နောက်လုပ်ရမယ့်အရာတွေလဲဆိုတာကို ပိုမိုမှတ်သားနိုင်ပြီး၊ “အမှန်တော့ တစ်ရက်နောက်ပြန်လုပ်ပါ” ဆိုတဲ့ နောက်ဆက်တွဲ ပြောင်းလဲမှုများကို လက်ခံနိုင်ပါတယ်။

စုစုပေါင်းအားဖြင့် Apple ရဲ့ အစွမ်းထက် AI အဆင့်မြှင့်တင်မှုက iOS ပေါ်မှာတည်ရှိတဲ့ Macaron လိုပလက်ဖောင်းတွေကို အထူးပြုစွမ်းဆောင်နိုင်စေပါတယ်။ ကျွန်ုပ်တို့ဟာ ကိုယ်ပိုင် AI ကိုကောင်းကင်မှာပိတ်မထားဘဲ ကိုယ့်ရဲ့ကိုယ်ပိုင်ကိရိယာတွေမှာနေထိုင်ပြီး စနစ်ဉာဏ်ပညာနဲ့ပေါင်းသင်းအလုပ်လုပ်နိုင်တဲ့ စနစ်တစ်ခုဘက်ကို ရွေ့လျားနေပါပြီ။ Macaron ရဲ့ ကိုယ်တိုင်ချိတ်ဆက်နိုင်တဲ့ mini-apps ဗီဇန်ကို အခြေခံ OS က AI အလုပ်တွေကို ပိုမိုချောမွေ့စွာ အကောင်အထည်ဖော်နိုင်တဲ့အတွက် အားပေးစေပါတယ်။ Macaron ရဲ့ဒီဇိုင်းအခြေခံအယူအဆတွေ (ဥပမာ adaptive content, deep personalization, robust offline mode[52][43]) ဟာ Apple ရဲ့ iOS 19.2 မှာပေးအပ်တာနဲ့ ကိုက်ညီနေတဲ့အချက်က စိတ်ဝင်စားဖွယ်ဖြစ်ပါတယ်။ အနာဂတ်လို့ထင်ထားတဲ့ နိမ့်သောပျက်ကွက်နှုန်းနဲ့, အကြောင်းအရာသိရှိမှုရှိတဲ့ agent UX ဟာ အမြန်ဆုံး ဖြစ်ရပ်တစ်ခုဖြစ်လာနေပြီ။

နိဂုံးချုပ် - ကိုယ်ပိုင်စက်တွင်ရှိသော AI ၏ခေတ်သစ်

Apple ၏ iOS 19.2 သည် သုံးစွဲသူ AI ၏ ဖွံ့ဖြိုးတိုးတက်မှုအတွက် အရေးပါသောခဏတစ်ခုကို အမှတ်အသားဖြစ်စေသည် - အာဏာသည် အဆုံးစွန်းသို့ ထင်ရှားစွာရွေ့လျားသောနေရာ။ ဒေသတွင်းတွင် အလုပ်လုပ်နိုင်သော လိုက်ကာမော်ဒယ်ကို လိုက်လျောညီထွေပြုလုပ်ပြီး "အမြင်မှတ်ဉာဏ်" ကို မိတ်ဆက်ခြင်းဖြင့် Apple သည် သင့် iPhone အရာများကို ပြောင်းလဲလိုက်သည်။ Siri ကို နည်းနည်းပညာဆန်စေခြင်းသာမက (သို့ပင်ဆိုသော်လည်း ၎င်းသည် ကြိုဆိုရသောရလဒ်ဖြစ်သည်) AI လက်ခွဲမှုများတွင် ကိုယ်ပိုင်လုံခြုံရေးနှင့် တုံ့ပြန်မှုများအပေါ် သုံးစွဲသူ၏ မျှော်လင့်ချက်များကို ပြန်လည်သတ်မှတ်ခြင်း ဖြစ်သည်။ သင့်ဖုန်းနှင့် အနီးကပ်စကားပြောနိုင်ပြီး သင့်အကြောင်းအရာများကို AI ကူညီမှုကို ချက်ချင်းရယူနိုင်ပြီး သင့်ဒေတာကို ဝေးလံသောဆာဗာခြံတစ်ခုသို့ လျှို့ဝှက်စွာ မစုပ်ယူသွားမည်ဟု ယုံကြည်ရမည်။ ဒေတာလုံခြုံရေးအပေါ် စိုးရိမ်မှုများ များပြားလာသောခေတ်တွင် Apple ၏ အော့ဖ်လိုင်းနည်းလမ်းသည် "ကျွန်ုပ်တို့အဆင့်မြင့် AI နှင့် လုံခြုံရေးကိုရနိုင်ပါသလား" ဟုမေးခွန်းကို ဆွဲဆောင်မှုရှိသော အဖြေပေးသည် - ကျွန်ုပ်တို့ရနိုင်သည်။

နည်းပညာပိုင်းဆိုင်ရာအရ Apple Intelligence 2.0 သည် မော်ဒယ်ချုံ့ခြင်း၊ ဟာ့ဒ်ဝဲ-ဆိုဖ်ဝဲပေါင်းစပ်ရေးနှင့် သုံးစွဲသူ OS ထဲသို့ ပေါင်းစည်းခြင်းတို့၏ ထူးခြားမှုကို ပြသသည်။ ၎င်းသည် distillation, quantization, optimization များသုံး၍ ဘီလီယံခန့်ရှိသော parameters များပါဝင်သည့် မော်ဒယ်တစ်ခုကို ဘက်ထရီ-powered စက်ပေါ်တွင် ပြေပြစ်မြန်ဆန်စွာ လည်ပတ်နိုင်ကြောင်း ပြသသည်။ ဤအရာသည် ဆန်းသစ်မှုအသစ်များအတွက် ဒေါက်ပွင့်လှစ်ပေးသည်- မကြာမီတွင် အဆင်ပြေသော dictation အတွက် စကားသံမော်ဒယ်များ သို့မဟုတ် cloud ဖြင့် လေ့ကျင့်ရန်မလိုဘဲ မိမိနှစ်သက်မှုများကို သင်ယူသော ဒေသတွင်းအကြံပြုမော်ဒယ်များကို တွေ့ရနိုင်သည်။ Apple သည် Foundation Models framework ကို အသုံးပြု၍ ကျွမ်းကျင်သူများကို ဤလှိုင်းကို စီးနင်းရန် အခွင့်အရေးပေးထားသည်- ပြုလုပ်ဆောင်ရမည့် အသစ်သော app များကို မျှော်လင့်ပါ- သုံးစွဲသူများအတွက် တိုးတက်သောကုန်ကျစရိတ် သို့မဟုတ် နောက်ကျမှုမရှိဘဲ ဖန်တီးမှုနှင့် လက်တွေ့ကျသောရည်ရွယ်ချက်များအတွက် on-device LLM ကို အသုံးပြုပါ။

နည်းပညာကျွမ်းကျင်သူများအတွက် 19.2 အပ်ဒိတ်သည် အထူးသဖြင့် စိတ်ချမ်းသာစေသည်။ ကိရိယာအသစ်တစ်ခုရသကဲ့သို့ ခံစားရပြီး - ရုတ်တရက် သင့်ရဲ့ ပစ္စည်းဟောင်းဟာ မမျှော်လင့်ထားတဲ့ အသစ်အဆန်းတွေကို လုပ်နိုင်လာသည်။ အင်အားကြီးသုံးစွဲသူများသည် Siri ၏ အကြောင်းအရာ ကန့်သတ်ချက်များကို စမ်းသပ်ရန် ကြိုက်နှစ်သက်သောကြောင့်၊ on-device မော်ဒယ်ကို အသုံးပြု၍ စွဲမြဲသော အတိုချုံးများကို ဖန်တီးခြင်း၊ သို့မဟုတ် Macaron ကဲ့သို့သော အက်ပ်များကို အတူတကွ လုပ်ဆောင်ရန် ရည်ရွယ်ချက်ကို ထိုးဖောက်ရန် ကြိုးစားကြသည်။ ဦးတည်ရာ AI သည် စွမ်းရည်မြှင့်တင်မှုကို ထောက်ပံ့ပေးနိုင်ပုံကိုလည်း မြင်တွေ့ခဲ့ရသည် - လိုက်ဖ်တန်းတင်စာတန်းများ၊ စာသားရိုးရှင်းစေခြင်း၊ သို့မဟုတ် ပုံဖော်ပြချက်များကဲ့သို့သော အင်္ဂါရပ်များသည် ကိရိယာပေါ်တွင် ပြုလုပ်သောအခါပိုမိုချက်ချင်းမြန်ဆန်ပြီး ယုံကြည်စိတ်ချရသောကြောင့် အားနည်းချက်များရှိသော သုံးစွဲသူများသို့မဟုတ် ချိတ်ဆက်မှုကန့်သတ်ခြင်းရှိသူများအား အကျိုးပြုသည်။

တစ်ချက်တော့ Apple သည် edge AI အတွင်း ဆန်းသစ်တီထွင်မှုတွင် တစ်ဦးတည်းမဟုတ်ပါ (Qualcomm၊ Google နှင့် အခြားသူများလည်း on-device AI acceleration တွင် လက်တွဲလုပ်ကိုင်နေကြသည်)၊ သို့သော် Apple ၏ custom silicon၊ OS နှင့် အဆင့်မြင့်အင်္ဂါရပ်များကို ကျစ်လစ်စွာ ပေါင်းစည်းထားခြင်းက စတင်ကတည်းက သန်းပေါင်းများစွာသော အသုံးပြုသူများအတွက် ပြည့်စုံသော ထုတ်ကုန်ကို ပေးစွမ်းနိုင်ရန် အစပြုအောင် ဖြစ်စေသည်။ iOS 19.2 ၏ AI အပေါ်ရှိ “လူသိများ စိတ်လှုပ်ရှားမှုကြီး”သည် လူများသည် စွမ်းရည်နှင့် ယုံကြည်မှုကို ဂရုတစိုက်ထားကြောင်း သက်သေပြသည်။ Apple သည် ထိရောက်စွာ ပြောကြားနေသည်။ မင်းသည် တစ်ခုကို တစ်ခုအတွက် လဲလှယ်ရန် မလိုအပ်ပါ။ မင်း၏ iPhone သည် အချိန်တိုင်းတွင် both smart ဖြစ်ပြီး မင်းကိုယ်ပိုင် ဖြစ်နိုင်သည်။

ရှေ့ကိုကြည့်ကြည့်ရင် Apple Intelligence 3.0 မှာ 'အခန်းအနေအထား မှတ်ဉာဏ်' ပိုများလာနိုင်တယ်ဆိုတာကို စိတ်ကူးရင်းနိုင်ပါတယ် - ဖြစ်နိုင်တာက တစ်နေရာထဲမှာ သိမ်းဆည်းထားတဲ့ အချိန်နှင့်အမျှ တည်နေရာကို ထိန်းသိမ်းနိုင်တဲ့ တည်ငြိမ်တဲ့ ပုဂ္ဂိုလ်ရေးကိုယ်ရည်ကိုယ်သွေး ဖြစ်နိုင်ပါတယ်၊ ဒါမှမဟုတ် စာသား၊ အသံ၊ မြင်ကွင်းနဲ့ လုပ်ဆောင်မှုကို ကောင်းစွာ ကိုင်တွယ်နိုင်တဲ့ ပြည့်စုံတဲ့ ပေါင်းစပ်မော်ဒယ် အကူအညီကို ရနိုင်ပါတယ်။ အခြေခံအချက်အလက်တွေကို ရှိနေပါပြီ။ Macaron လို ပုဂ္ဂိုလ်ရေး AI ကူညီကောင်လေးတွေဟာ ဒီပတ်ဝန်းကျင်မှာ အောင်မြင်လာပါလိမ့်မယ်၊ သုံးစွဲသူတစ်ယောက်ချင်းစီဟာ သူတို့ကို နက်နက်ရှိုင်းရှိုင်း သိပြီးတော့ သူတို့ရဲ့ ပုဂ္ဂိုလ်ရေးကို ကာကွယ်ပေးတဲ့ ထူးခြားတဲ့ AI ကို ရနိုင်ပါတယ်။

အကျဉ်းချုပ်အားဖြင့် Apple ၏ အော့ဖ်လိုင်း LLM နှင့် Scene Memory ကို iOS 19.2 တွင် ထည့်သွင်းထားခြင်းသည် နည်းပညာဆိုင်ရာအထိမ်းအမှတ်တစ်ခုဖြစ်သလို ကိုယ်ကျင့်တရားဆိုင်ရာ အမြင်ကိုပါ ပေါင်းစပ်ထားခြင်းဖြစ်သည်။ AI တိုးတက်မှုကို အသုံးပြုသူပုဂ္ဂိုလ်ရေးနှင့် အတွေ့အကြုံကိုလေးစားခြင်းနှင့်တွဲဖက်ပြီး ဘယ်အရာတွေကို အောင်မြင်နိုင်သည်ကို ပြသထားသည်။ အသုံးပြုသူများအတွက်ဆိုရင် ပိုမိုထူးခြားပြီး အထောက်အကူဖြစ်သော ကိရိယာတစ်ခုဖြစ်လာသည်။ တီထွင်သူများအတွက် အွန်ဒိုင်စ် AI အခွင့်အလမ်းအသစ်ကစားကွင်းတစ်ခုဖြစ်သည်။ စက်မှုလုပ်ငန်းအတွက်ဆိုရင် AI ၏ အနာဂတ်သည် cloud ပေါ်မှာသာမက - တိုက်ရိုက်အားလုံးတို့တွင်ပါရှိနေပြီဖြစ်သည်။ အွန်ဒိုင်စ် AI ရာသီဉတုကို ကြိုဆိုပါသည် - သင့်ဖုန်းကိုယ်တိုင်က ဉာဏ်ရည်ရှိသော ကိုယ်စားလှယ်ဖြစ်လာပြီး နေ့စဉ်ပိုမိုဉာဏ်ရည်ထူးခြားလာနေပြီဖြစ်သည်[7][10]。

အရင်းအမြစ်များ: ဒီဆောင်းပါးထဲက အချက်အလက်တွေကို Apple ရဲ့ တရားဝင်ကြေညာချက်တွေနဲ့ နည်းပညာအစီရင်ခံစာတွေ၊ လွတ်လပ်တဲ့ ချုပ်ကိုင်မှုတွေ အားဖြင့် အထောက်အထားပြုထားပါတယ်။ အဓိက ကိုးကားချက်တွေမှာ Apple ရဲ့ WWDC 2025 သတင်းတွေ ထဲက ရှိတဲ့ on-device မော်ဒယ်နဲ့ developer framework[55][10], Apple Machine Learning Research ရဲ့ နည်းပညာအစီရင်ခံစာမှာ သူတို့ရဲ့ foundation models (3B မော်ဒယ်ဒီဇိုင်း၊ distillation နဲ့ quantization) [15][20] နဲ့ Siri ရဲ့ အကြောင်းအရာအသစ်များနဲ့ ရှေ့ဆက်မှုနှေးကွေးမှုအပေါ် အတည်ပြုထားတဲ့အစီရင်ခံစာတွေ [35][28] ပါဝင်ပါတယ်။ ဒီအရင်းအမြစ်တွေကို အတည်ပြုခြင်းနဲ့ နက်ရှိုင်းစွာဖတ်ရှုဖို့အတွက် ကိုးကားထားပါတယ်။ ၂၀၂၅ ခုနှစ် နောက်ပိုင်းအထိ နောက်ဆုံးပေါ်အခြေအနေမှ On-device AI တိုးတက်မှုတွေကို ဖော်ပြထားပါတယ်။

[1] [2] [3] [5] [6] [7] [10] [11] [12] [14] [39] [47] [48] [55] Apple Intelligence သည် Apple စက်ပစ္စည်းများတွင် အားကောင်းသော လုပ်ဆောင်ချက်အသစ်များဖြင့် ပိုမိုထူးခြားကောင်းမွန်လာပါသည် - Apple (CA)

https://www.apple.com/ca/newsroom/2025/06/apple-intelligence-gets-even-more-powerful-with-new-capabilities-across-apple-devices/

[4] Apple Intelligence - Apple

https://www.apple.com/apple-intelligence/

[8] [9] [29] [32] [33] [34] [35] Apple က အသုံးပြုသူတွေကို iOS 19 ဒါမှမဟုတ် 2026 အထိ ပုံမှန် Siri ကို အသုံးပြုရဖို့ ပြောဆို - MacTrast

https://www.mactrast.com/2025/03/apple-says-users-will-have-to-put-up-with-regular-siri-until-ios-19-or-2026/

[13] [15] [16] [17] [18] [19] [20] [21] [24] [25] [26] [36] [37] Apple၏ On-Device နှင့် Server Foundation Language Models အတွက် ပြင်ဆင်မှုများ - Apple Machine Learning Research