May-akda: Boxu Li

Higit pa sa Memorya: Patungo sa Pagpapatuloy ng Sarili

Ang pagkakakilanlan ng tao at personal na kontinwasyon ay hindi naka-imbak sa isang database; ito ay umuusbong mula sa kwento, konteksto, at pagbabago sa paglipas ng panahon. Gayundin, ang Brain ng Macaron ay iniiwasan ang anumang simplistikong 「ID card」 na modelo ng user. Walang isang solong, static na bagay sa sistema na may label na 「User X's personality profile」 o isang kanonikal na listahan ng katotohanan tungkol sa user na dapat manatiling totoo magpakailanman. Sa halip, ang kontinwasyon ay tinatrato bilang isang umuusbong na katangian ng maraming maliliit na interaksyon, alaala, at pag-aangkop na magkasama. Ang pamamaraang ito ay sinasadya na iniiwasan ang dalawang bitag: kahinaan at pagkakatigil. Ang isang mahina na pagkakakilanlan sa mga termino ng AI ay maaaring mangyari kung ang sistema ay kumapit sa isang beses na mga katotohanan (「User mentioned they liked chess in 2022」) at tinrato ito bilang permanenteng nagtatakda. Pagkatapos, kung ang anumang katotohanan ay mali o nagbago (tumigil ang user sa pag-like ng chess), ang modelo ng sistema ay nagwawasak o hindi pare-pareho. Ang isang nakastagnant na pagkakakilanlan ay lumilitaw kung ang AI ay nag-aakalang permanente ang lahat ng mga katangian ng user – ibig sabihin hindi ito nakakalimot o nag-a-update ng impormasyon, na nagreresulta sa isang matigas na modelo ng user na hindi umuusbong. Iniiwasan ng Brain ng Macaron ang pareho sa pamamagitan ng hindi pagsasagawa ng anumang katotohanan bilang walang hanggan, at sa pamamagitan ng pagpapahintulot sa kung ano ang maaari nating tawaging graceful forgetting at reformulation.

Sa halip na object permanence, umaasa ang Macaron sa context permanence: ang ideya na ang bawat konteksto o thread ng pag-uusap ay nagpapanatili ng pagkakaugnay-ugnay sa lokal, at ang tuloy-tuloy na paglipas ng panahon ay natamo sa pamamagitan ng pagwe-weave ng mga thread ng konteksto kapag nauukol. Walang iisang "object" na kumakatawan sa gumagamit na nananatiling hindi nagbabago; may iba't ibang mga representasyon na nakabatay sa konteksto na maaaring tawagin at i-update kung kinakailangan. Katulad ito ng kung paano maaaring magpakita ang isang tao ng iba sa iba't ibang social circles ngunit may umiiral na tuloy-tuloy na pagkapareho. Pinapanatili ng Brain ng Macaron ang pagkakakilanlan bilang isang bagay na distributed at fluid. Ang pagkakakilanlan ay hindi nasa isang partikular na memory node, kundi nasa mga koneksyon at pattern na nananatili sa iba't ibang alaala. Sa esensya, ang tuloy-tuloy na sarili ay isang lumilitaw na kwento, hindi isang entry sa database.

Para sa isang konkretong halimbawa, isaalang-alang kung paano natatandaan ni Macaron ang kagustuhan ng isang gumagamit. Sa halip na itago ang "Paboritong kulay ng User = asul" sa isang profile, maaalala ng Macaron's Brain iyon sa konteksto ng mga may-kaugnayang pag-uusap (kung napag-usapan ng user ang tungkol sa mga kulay sa isang usapan sa disenyo noong nakaraang linggo, makukuha ang alaala na iyon sa konteksto ng disenyo). Kung sa susunod na taon ay magpahayag ang user ng bagong kagustuhan (ngayon ay gusto na ang berde), hindi na kailangan ng Brain na magsagawa ng mapanirang pag-update ng isang canonical field. Ang bagong impormasyon ay isa lamang dagdag na punto ng data sa timeline, at kapag muling lumitaw ang konteksto ng disenyo, ang mas bagong kagustuhan ay natural na magkakaroon ng mas malaking timbang dahil sa recency at kaugnayan, habang ang lumang kagustuhan ay nawawala sa kahalagahan. Sa gayon, ang pagpapatuloy ay pinapanatili sa pamamagitan ng kontekstuwal na pag-prioritize ng pinakabago at pinaka-kaugnay na impormasyon, hindi sa pamamagitan ng pag-aakalang ang mas lumang katotohanan ay "ang tunay na permanenteng sarili." Ang naunang katotohanan ay hindi nawawala – ito ay simpleng nadedeprioritize (higit pa rito sa referential decay). Nagbubunga ito ng hindi marupok na pagkakakilanlan: walang isang piraso ng hindi napapanahong data ang makasisira sa pag-unawa ni Macaron sa gumagamit, dahil ang pag-unawa ay hindi kailanman nakabatay sa mga static na katotohanan mula sa simula, kundi sa mga pattern at konteksto.

Mga Hangganang Ipinamahagi: Maraming Sarili, Isang Sarili

Isang kapansin-pansin na pagpili ng arkitektura sa Brain ng Macaron ay ang paggamit ng distributed boundaries para sa kaalaman at memorya. Sa halip na pagsama-samahin ang lahat ng alam ng AI tungkol sa user sa isang central na modelo o repository, ang Macaron ay naghihiwalay ng kaalaman ayon sa konteksto, pinagmulan, o tematikong hangganan. Halimbawa, ang mga pakikipag-ugnayan na may kaugnayan sa propesyonal na buhay ng user ay maaaring panatilihin sa isang "vector space" o subsystem, habang ang personal na pag-uusap ay nasa iba pa, at iba pa. Ang mga ito ay hindi mga silo sa diwa ng pagiging hindi makausap ang isa't isa – sa halip, sila ay mga boundary zones na maaaring magka-ugnay kung kinakailangan ngunit hindi awtomatikong nagsasama. Ang disenyo na ito ay sumasalamin sa ideya ng sikolohiya na ang mga tao ay may iba't ibang mga aspeto o "sarili" (trabaho na sarili, pamilya na sarili, atbp.), na sama-samang bumubuo sa kabuuang tao ngunit kontekstwal na ina-activate.

Sa pamamagitan ng mga hangganan ng memorya na ipinamamahagi, tinitiyak ni Macaron na ang bawat aspeto ng pagkakakilanlan ng gumagamit ay panloob na magkakaugnay at hindi nahahawahan ng hindi kaugnay na impormasyon. Halimbawa, kung ang gumagamit ay may konteksto ng "libangan" tungkol sa mga kagustuhan sa musika at isang hiwalay na konteksto ng "trabaho" tungkol sa pamamahala ng proyekto, hindi aksidenteng ilalapat ng sistema ang mga kaswal na kagustuhan sa musika kapag sinasagot ang isang pormal na tanong na may kaugnayan sa trabaho, maliban kung ito ay tahasang nauugnay. Pinipigilan nito ang mga maling o hindi angkop na tugon na halo-halong konteksto nang hindi tama. Pinalalakas din nito ang privacy: ang sensitibong impormasyon mula sa isang konteksto ay hindi walang taros na magagamit sa iba. Teknikal na nakamit ito ni Macaron sa pamamagitan ng pagbuo ng magkakahiwalay na knowledge graphs o vector indexes kada domain o sesyon, katulad ng ginagawa ng mga personal na AI na arkitektura tulad ng Memno – "ang bawat gumagamit ay umiiral sa kanilang sariling uniberso", at sa loob nito, may karagdagang segmentasyon. Ang data ng bawat gumagamit ay nakahiwalay sa iba (iyon ang isang hangganan sa antas ng gumagamit), ngunit sa loob ng isang gumagamit, may karagdagang hadlang batay sa konteksto o pinagmulan ng data.

Gayunpaman, ang susi ay ang pagpapatuloy ng sarili ay patuloy na lumilitaw sa kabila ng mga hangganan na ito. Maaaring gumuhit ang Utak ni Macaron ng mga koneksyon sa pagitan ng mga alaala na tiyak sa konteksto kapag nararapat. Tinatawag namin itong federation by relevance: kung ang pag-uusap ng gumagamit ngayon sa isang sosyal na konteksto ay tumatalakay sa isang proyekto na kanilang tinalakay sa isang konteksto ng trabaho dati, maa-access ni Macaron ang mga kaugnay na pananaw mula sa kontekstong iyon ng trabaho – ngunit ginagawa niya ito nang maingat at may kamalayan sa hangganan (tulad ng pagbanggit na ang kaalaman ay nagmumula sa 「usapang proyekto na iyon」). Ang kalikasan na may distribusyon ay nangangahulugan na walang nag-iisang 「pangunahing profile」 na puwedeng sangguniin; ang AI ay dapat mag-navigate sa kahabaan ng web ng mga konteksto upang ipunin ang kaugnay na impormasyon ng pagkakakilanlan sa oras na iyon. Ito ay mas kumplikado sa computational kaysa sa isang pinag-isang database lookup, ngunit nagbubunga ito ng mas mayaman at mas sensitibo sa konteksto na pagpapatuloy.

Mahalaga, ang mga nakakalat na hangganan ay nagsisilbi rin sa ating paninindigan sa privacy at laban sa profiling. Sa pamamagitan ng hindi pagsentro sa user model, ang Macaron ay likas na iniiwasan ang pagbuo ng isang pinagsama-samang behavioral profile na maaaring magamit o abusuhin (na kapaki-pakinabang para sa ahensya ng user at privacy). Ang bawat konteksto ay maaaring maging panandalian kung nais – halimbawa, ang isang sensitibong konteksto ay maaaring itakda upang awtomatikong mabura pagkatapos gamitin, na nag-iiwan lamang ng isang mataas na antas ng buod sa pangmatagalang alaala. Gayunpaman, kahit na mawala ang mga indibidwal na piraso, ang tapiserya ng kwento ng user ay nananatiling buo sa pamamagitan ng mga nag-o-overlap na mga thread ng mga natitirang konteksto. Ito ang kakanyahan ng isang hindi marupok na pagkakakilanlan: ito ay labis at nakakalat na naka-imbak. Walang isang konteksto na tumutukoy sa gumagamit, at ang pagkawala ng anumang isang konteksto ay hindi nagbubura sa sarili.

Referential Decay: Ang Pagkalimot bilang Tampok

Para mapanatili ng Macaron's Brain ang pagkakapare-pareho ng salaysay nang hindi nagiging matigas, ginagamit nito ang isang konsepto na tinatawag naming referential decay. Sa simpleng salita, ang referential decay ay isang estratehiya ng dahan-dahang paglimos ng impluwensya ng mga tiyak na sanggunian o alaala sa paglipas ng panahon maliban kung sila ay pinapalakas. Sa halip na mahigpit na pagtanggal, ang mga piraso ng impormasyon ay "nawawala sa kahalagahan". Ito ay humuhugot ng inspirasyon mula sa alaala ng tao: hindi natin natatandaan ang bawat pag-uusap ng eksakto; ang mga detalye ay nawawala, ngunit ang mahalagang mga pattern ay nananatili. Sa Macaron, ang bawat alaala ay may isang uri ng edad o bigat ng paggamit. Sa bawat pagkakataon na ito ay ginagamit o binabanggit sa pag-uusap, ito ay nare-refresh (napapalakas). Ang mga hindi nagagamit na item ay unti-unting nababawasan ang bigat.

Ang epekto ng referential decay ay nakatuon ang Utak ni Macaron sa kung ano ang mahalaga at kasalukuyan, na umaayon sa umuusbong na kwento ng gumagamit. Kung ang isang gumagamit ay huling nagsalita tungkol sa paksa X dalawang taon na ang nakalipas at hindi na ito muling binanggit, ituturing ng sistema ang paksang iyon bilang pangalawa maliban kung muling binanggit ito ng gumagamit. Iniiwasan nito ang karaniwang pagkakamali ng mga AI system na masyadong nagtatanda, na nagiging sanhi ng paglitaw ng mga hindi nauugnay na detalye mula sa nakaraan at nalilito ang daloy ng usapan. Tulad ng sinabi ng isang mananaliksik ng memorya ng AI, ang AI na may perpektong, walang pinipiling alaala ay maaaring maging katulad ng "isang nakakainis na kaibigan na patuloy na binabanggit ang mga hindi mahalagang paksa mula sa mga nakaraang pag-uusap, hindi maunawaan na nagbabago ang mga interes at prayoridad". Pinipigilan ng referential decay ang ganitong pag-uugali sa pamamagitan ng functional na paglimot sa mga trivia ng nakaraan pabor sa kasalukuyang konteksto.

Ang teknikal na pagpapatupad ng referential decay sa Utak ng Macaron ay maaaring maglahad ng pagtatalaga ng decay function sa mga vector embeddings o mga gilid ng knowledge graph. Sa paglipas ng panahon (o pagkatapos ng maraming bagong interaksyon), ang similarity score o activation potential ng mas lumang memory nodes ay bumababa. Mahalagang hindi natin basta-basta binubura ang mga alaala (maliban kung hinihiling ng user); sa halip, ayon sa isang balangkas, pinapanatili ng sistema ang kumpletong talaan ng kasaysayan ngunit sadyang hindi binibigyang-priyoridad ang mga lipas na. Nandoon pa rin ang lahat sa malalim na imbakan (tulad ng marahil na ang ating utak ay nag-eencode ng higit sa kaya nating maalala), ngunit ang madaliang makuha ay nakatuon sa bago at madalas na nababanggit. Ang disenyo na ito ay may dalawang layunin: pinapanatili nito ang pagkakaugnay-ugnay sa pamamagitan ng pagtiyak na ang kontribusyon ng AI ay sumasalamin sa kasalukuyang estado ng buhay at kagustuhan ng user, at gayundin, tinutulad nito ang mahalagang aspeto ng personal na ahensya – ang kakayahang magpatuloy, magbago, at magkaroon ng kaunting kahalagahan ang lumang impormasyon.

Mula sa pananaw ng pagsunod (na nag-uugnay muli sa Privacy), ang referential decay ay umaayon din sa data minimization. Hindi agresibong itinutulak ng Macaron ang lumang personal na data sa bawat interaksyon; ginagamit lamang ito kung kontekstwal na nauugnay. Binabawasan nito ang panganib ng hindi naaangkop na paggamit ng matagal nang nakalipas na data. Maaaring sabihin na ang Brain ng Macaron ay likas na nagpapatupad ng isang anyo ng 「retention policy」 sa natutunang personal na data sa pamamagitan ng unti-unting paglimot sa praktikal na hindi na nito kailangan – kahit na hindi nawawala ang alaala ng alaala (maari pa rin tayong sumisid sa mga archive kung kinakailangan, katulad ng isang tao na maaaring magbalik-tanaw sa ilalim ng malalim na pagninilay-nilay upang maalala ang isang bagay na matagal nang hindi natutukan).

Ang lumilitaw na benepisyo ay nagiging matatag ang pagkakakilanlan. Kung ang gumagamit ay biglaang magbago (bagong trabaho, bagong libangan, nagbago ng paniniwala), ang referential decay ay nagpapahintulot sa AI na mag-adapt ng maayos. Walang kailangan na matinding pagbabago sa isang sentral na profile; ang bagong impormasyon ay natural na natatabunan ang luma. Gayunpaman, kung ang lumang konteksto ay muling maging mahalaga (marahil sa isang nostalgikong pag-uusap makalipas ang ilang taon), maaari pa ring makuha ito ng Macaron – kaya't ang pagpapatuloy ay napananatili sa likod ngunit hindi ipinipilit sa harapan. Ang dinamika ng pag-alala at paglimot na ito ay napakahalaga sa intertemporal coherence: ito ay nagpapabuti na ang pag-unawa ng AI ngayon ay naaayon sa katotohanan ng kasalukuyan, kahit na tahimik nitong pinapanatili ang buong kuwento sa likod.

Temporal na Paghahabi: Paghahabi ng Panahon sa Alaala

Kung ang referential decay ay namamahala sa paglimot, ang temporal braiding ay namamahala sa pag-alala sa paglipas ng panahon. Ginagamit namin ang terminong「braiding」upang ipahiwatig kung paano pinag-iisa ng Macaron's Brain ang iba't ibang timeline ng konteksto upang lumikha ng isang magkakaugnay na pag-unawa. Ang karanasan ng tao ay likas na temporal – ang ating pagkakakilanlan ay isang kwento na sinasabi natin sa ating sarili na nag-uugnay sa nakaraan, kasalukuyan, at hinaharap. Sinusubukan ng Macaron's Brain na gayahin ito sa pamamagitan ng paglalatag ng mga alaala mula sa iba't ibang panahon kapag kinakailangan, na epektibong lumilikha ng isang tinahing salaysay.

Isipin ang user na nagkaroon ng paulit-ulit na pag-uusap tungkol sa pagsusulat ng nobela: isa anim na buwan na ang nakalipas, isa dalawang linggo na ang nakalipas, at isa ngayon. Ang bawat pag-uusap ay isang hibla. Ang temporal na pag-braid ay nangangahulugan na ang Macaron ay maaaring kumuha ng kaalaman mula sa lahat ng mga hiblang iyon at magpakita ng isang synthesized na pagkakaugnay: "Nabanggit mo sa nakaraan [6 na buwan ang nakalipas] na mas gusto mong magsulat sa umaga, at kamakailan [2 linggo na ang nakalipas] ay nag-eexplore ka ng mga sci-fi na tema. Ngayon ay nagtatanong ka tungkol sa pag-schedule ng oras para magsulat – marahil pagsamahin ang mga insight na iyon: ilaan ang umaga para sa pagsusulat ng mga sci-fi na kabanata." Ang AI ay wala pang isang solong "proyekto ng nobela" na file na tahasang (bagamat maaari itong mag-tag ng mga paksa); sa halip ay tinahi nito ang mga pirasong hiwalay sa oras sa isang thread ng diskurso. Ito ay pinapagana sa pamamagitan ng paglalagay ng temporal na metadata sa mga alaala at sinadyang pag-link ng mga kaugnay na item sa buong panahon. Ang memory architecture ng Macaron ay gumagamit ng time-aware indices: ang mga alaala ay hindi lamang may label ayon sa paksa kundi ayon sa kailan sila naganap. Ito ay nagpapahintulot ng retrieval na maaaring umabot sa iba't ibang panahon ngunit sa loob ng parehong tematikong konteksto.

Maaaring ihambing ang temporal na paglalatag sa pagpapanatili ng maraming bintana ng konteksto na bukas at pagkatapos ay pinagtagpi ang mga ito. Ang "kasalukuyang sarili" ng user ay binubuo ng mga echo ng kanilang nakaraang sarili, at ang mga tugon ni Macaron ay sumasalamin sa ganoong paglalatag. Maaring gumamit ang arkitektura ng pagsasama-sama o pagmomodelo ng kwento na tahasang nagsasama ng oras ("noon, sa iyong kwento…"). Mahalaga, ito ay ginagawa nang hindi ipinapalagay na ang nakaraan ay static na katotohanan – sa halip, ang nakaraan ay itinuturing na likuran ng konteksto upang ipaalam ang kasalukuyan. Ang resulta ng pinagtagpi ay mas malakas na pagkakaugnay: nararamdaman ng user na ang AI ay naaalala ang kanilang paglalakbay na kanilang pinagdaanan, hindi lamang mga hiwalay na punto. Gayunpaman, dahil sa pagkasira ng sanggunian, ang paglalatag ay magbibigay-diin sa mas makapal, mas sariwang mga hibla (kamakailang mga banggit) kaysa sa mga kupas na.

Ang pamamaraan na ito ay naaayon sa pananaliksik na nagsasabing ang AI ay kailangan ng pansamantalang kamalayan upang mapanatili ang magkakaugnay na pangmatagalang interaksyon. Halimbawa, isang mungkahi ay bigyan ang mga sistema ng memorya ng AI ng pakiramdam ng pansamantalang bisa at ituring ang mga katotohanan bilang may tatak ng oras, upang masabi ng AI kung ang isang bagay ay "hindi na totoo" kumpara sa "kasalukuyang totoo pa rin". Inaangkin ito ng Macaron's Brain sa pamamagitan ng, halimbawa, pagmamarka ng piraso ng kaalaman tulad ng "Nakatira ang User sa Paris [2019-2023]" at kung sa 2024 ay binanggit ng user ang paglipat sa London, ang impormasyon sa Paris ay kontekstwal na minarkahang lipas na. Sa gayon, sa pag-uusap, hindi malilito ang Macaron sa dalawa – ngunit kung magmuni-muni ang user tungkol sa Paris, ang mga alaala ay magagamit. Sa epekto, maaaring itagpi ng Macaron ang mga timeline: ang kasalukuyang sarili (London) at ang nakaraang sarili (Paris) ay magkasamang umiiral sa salaysay, ngunit hindi magkapareho. Ang pagpapatuloy ng user ay kinakatawan bilang isang tapestry ng mga timeline, hindi isang solong snapshot.

Ang temporal na pagtirintas ay nangangahulugan din na ang konsepto ng katotohanan ng Macaron ay pansamantala at kontekstwal. Walang panghabang-buhay na kanonikal na katotohanan tulad ng maaaring taglayin ng isang database; mayroong 「kung ano ang totoo noon」 at 「kung ano ang totoo ngayon」 at potensyal na 「kung ano ang maaaring totoo sa hinaharap」 (kung nagpaplano o nagsusuri ng mga posibleng senaryo sa hinaharap). Ang huli ay nagpapahiwatig ng susunod na konsepto: counterfactual anchoring.

Counterfactual Anchoring: Katatagan Nang Walang Sintesis

Isa sa mga mas haka-haka ngunit nakakawiling teknika sa Utak ng Macaron ay ang counterfactual anchoring. Ang ideyang ito ay nagmumula sa pangangailangang mapanatili ang pagkakaugnay nang hindi pinagsasama ang lahat sa isang sintetisadong modelo ng gumagamit. Paano natin masisiguro na ang AI ay may matatag na pagkakaintindi sa gumagamit (kanilang istilo, posibleng mga kagustuhan, halaga) kung sadyang iniiwasan natin ang paglikha ng isang solong pinagsama-samang profile? Ang sagot ay ang paggamit ng mga counterfactual na senaryo upang i-angkla ang mga pangunahing aspeto ng personalidad ng gumagamit sa pangangatwiran ng AI, sa halip na mga tahasang nakaimbak na katotohanan.

Sa praktikal na paggamit, ganito maaaring gumana ang counterfactual anchoring: Kapag gumagawa ng tugon o desisyon ang Utak ng Macaron, sinusubukan nito nang palihim ang ilang "paano kung" na mga baryasyon upang matantiya ang pagkakaugnay-ugnay. Halimbawa, ipagpalagay na ang Macaron ay magmumungkahi ng isang libro sa gumagamit. Walang matibay na panuntunan ang AI na "Ang gumagamit ay gusto lang ng science fiction." Sa halip, maaari nitong maalala ang maraming nakaraang mga senyales: nagustuhan ng gumagamit ang ilang sci-fi na nobela, ngunit minsang nabanggit din na gusto ang misteryo. Upang maiwasang magkamali, maaaring mag-simulate ang AI ng dalawang counterfactual na output - isa kung saan ipinapalagay na nasa sci-fi mood ang gumagamit, at isa pa kung saan baka mas gusto nila ang misteryo - at tingnan kung alin ang mas angkop sa kamakailang konteksto o nakakuha ng positibong prediksyon ng damdamin. Ang ganitong panloob na counterfactual na pangangatwiran ay tumutulong sa pag-angkla ng pagpili ng AI sa isang matibay na pagtatasa ng mga posibleng estado ng gumagamit, sa halip na isang makitid na palagay. Para bang sinasabi ng AI, "Hindi ako 100% sigurado kung sino ka ngayon, ngunit kung ikaw pa rin ang sci-fi fan na sa tingin ko, magugustuhan mo si X; kung nagbago ka, baka magustuhan mo si Y. Piliin natin ang mungkahi na akma sa tono ng kasalukuyang pag-uusap." Sa epekto, ang AI ay nag-iingat laban sa kahinaan ng isang solong modelo ng pagkakakilanlan sa pamamagitan ng paggalugad ng mga alternatibong frame ng pagkakakilanlan nang mabilis.

Isa pang paggamit ng counterfactual anchoring ay sa pagpapanatili ng boses at mga halaga ng gumagamit. Iniiwasan ng Macaron ang pagbuo ng isang pinag-isang profile ng gumagamit na nagsasabing "Laging pormal ang gumagamit" o "May pampulitikang paninindigan si User Z" – magiging marupok at posibleng invasive iyon. Sa halip, kapag bumubuo ng output (halimbawa, nagda-draft ng email para sa gumagamit), makakagawa ang Macaron ng ilang estilistikong variant (pormal, kaswal, nakakatawa) at susuriin ito laban sa isang magaan na modelo ng mga kamakailang komunikasyon ng gumagamit upang makita kung alin ang pinaka "tugma sa karakter." Ito ay nagsisilbing isang anchor: hindi iniimbak ng AI na "Pormal ang gumagamit" nang permanente, ngunit maaari nitong maipahiwatig mula sa konteksto na sa ngayon, ang pormal na tono ay tumutugma sa mga email ng nakaraang linggo. Kung sa susunod na buwan ay magbago ang istilo ng gumagamit, ang counterfactual check ay natural na mahuhuli iyon at maaayos, nang hindi kinakailangang baguhin ang ilang variable ng profile. Ang pagpapatuloy ng gumagamit ay sa gayon ay pinapanatili ng patuloy na maliliit na pag-align sa halip na isang static na plano.

Ang counterfactual anchoring ay medyo katulad ng kung paano ginagabayan ng mga tao ang kanilang pagkakakilanlan sa iba't ibang sitwasyon – madalas nating hindi sinasadyang isipin "paano ako kikilos kung ako ay uri ng taong…?" na talagang nakakatulong sa pagpapaliwanag kung sino ang pinipili nating maging. Para sa Macaron, ang mga micro-simulations na ito ay nagsisiguro ng pagkakaugnay sa pamamagitan ng pagsubok ng mga palagay sa halip na umasa lamang sa mga ito. Ang resulta ay pagkakaugnay na walang pagkakasemento: Ang Utak ng Macaron ay maaaring kumilos ng tuloy-tuloy "tulad ng gumagamit ng Macaron" nang hindi kailanman nag-iimbak ng nakapirming kahulugan ng "gumagamit ng Macaron." Ang pagkakaugnay ay lumilitaw mula sa paulit-ulit na on-the-fly na pag-aayon.

Pagkakaugnay na Walang Sentralisadong Synthesis

Sa pagtingin mula sa malayo, ang kombinasyon ng mga distributed boundaries, referential decay, temporal braiding, at counterfactual anchoring ay naghahatid ng isang pangunahing layunin: panatilihin ang pagkakaisa at pagpapatuloy nang walang sentralisadong user model o synthetic persona profile. Ito ay isang sinadyang pilosopiya. Maraming mga AI system ang nagtatangkang bumuo ng malawak na user profiles o pinuhin ang mga modelo gamit ang data ng user para makalikha ng isang 「personal na modelo」. Tuwirang iniiwasan ng Macaron ang pinuhin ang isang monolithic model gamit ang lahat ng data ng user; sa halip, pinapanatili nitong segmented ang data at gumagamit ng meta-models para pagdugtungin ang mga tugon. May ilang mga dahilan para sa pag-iwas na ito sa synthesis:

Pagkapribado at Tiwala: Ang isang sentralisadong behavioral profile ay maaaring maging isang mapagkukunan ng personal na datos at magdulot ng mga alalahanin sa pagkapribado (sino ang may access dito, paano kung mali ito o nagamit sa hindi inaasahang paraan?). Sa pamamagitan ng hindi pagkakaroon nito, tinitiyak ng Macaron na bawat piraso ng datos ay ginagamit lamang sa konteksto, at ang pag-unawa ng sistema ay likas na desentralisado. Ito ay mas malapit sa prinsipyo ng data minimization – gamit lamang kung ano ang kinakailangan kung kailan kinakailangan, sa halip na mangolekta ng isang pangkalahatang profile.

Pag-iwas sa Overfitting ng Identidad: Ang mga tao ay kumplikado at pabago-bago. Ang isang solong modelong sinanay sa lahat ng nakaraang data ay malamang na mag-overfit sa nakaraan ng user, na ginagawang mas hindi adaptable ang AI sa kanilang hinaharap. Pinapanatili ng Macaron ang kanyang generative core bilang isang pangkalahatang modelo na pinagyayaman ng data na tiyak sa konteksto sa mabilisang paraan (Retrieval-Augmented Generation style). Ibig sabihin, ang "pagtingin" ng Macaron sa user ay palaging batay sa kasalukuyang retrievals, hindi isang over-trained na static network. Maaaring baguhin ng user ang kanilang sarili at susunod ang Macaron, dahil hindi nakatali ang Macaron sa fine-tuning ng nakaraan. Sa esensya, pinipigilan naming maging karikatura ng nakaraang sarili ng user ang AI.

Kalinawan at Kontrol: Kapag walang iisang synthesized na modelo, mas madali ang pag-inspeksyon at kontrol sa kung ano ang ginagamit ng AI para bumuo ng mga tugon. Maaaring ipakita ng Macaron, kung kinakailangan, kung aling mga bahagi ng memorya ang nakuha para sa isang query – nagbibigay ito ng kalinawan. Kung sabihin ng isang gumagamit na "kalimutan ang kaganapang ito," maaari naming tanggalin ang memoryang iyon at ito ay talagang mawawala sa paggamit sa hinaharap. Sa isang sentralisadong synthesized na modelo, mahirap magtanggal ng isang katotohanan (hindi mo madaling mapapalimutan ang neural net ng isang detalye nang hindi nire-retrain). Sa pamamagitan ng pag-iwas sa sentralisadong synthesis, nananatiling mas editable at interpretable ang Macaron's Brain.

Gayunpaman, sa kabila ng hindi pagkakaroon ng isang pinag-isang profile, nakamit ng Macaron ang isang uri ng pagkakaisa: isang pagpapatuloy ng personalidad. Ang personal na AI ng gumagamit ay tumutugon sa isang paraan na pakiramdam ay pare-pareho at natatangi sa kanila. Paano ito posible? Kadalasan sa pamamagitan ng mga arkitektural na affordances na aming inilarawan: dinamiko nitong kinukuha ang tamang mga piraso ng memorya at ginagamit ito upang hubugin ang mga output (kaya ang nilalaman ay napapasadyang), at gumagamit ito ng mga teknika tulad ng style matching at counterfactual checks upang matiyak na ang tono at pamamaraan ay naaayon sa karakter ng gumagamit. Ang ibang mga proyektong personal na AI ay nagtataguyod din ng mga modelong partikular sa gumagamit na tumatakbo nang hiwalay, epektibong isang modelo bawat gumagamit, upang masiguro ang personalisasyon nang hindi pinagsasama ang data. Ang pamamaraan ng Macaron ay bahagyang naiiba – sa halip na sanayin ang isang natatanging modelo bawat gumagamit (na isa pang anyo ng sentralisasyon, para lamang sa bawat gumagamit), gumagamit ang Macaron ng isang pinag-isang base model na may mga memory pod para sa bawat user at on-the-fly personalization. Nagbubunga ito ng katulad na mga benepisyo ng personalisasyon (ang data ng bawat gumagamit ay hiwalay, ang mga modelo ay maaaring umangkop sa indibidwal na wika) ngunit nang hindi kinakailangang sanayin o i-fine-tune muli para sa bawat gumagamit, at nang hindi pinagsasama ang lahat ng kaalaman sa mga timbang na mahirap suriin.

Ang resulta ay isang sistema na nagpapanatili ng pagkakaugnay na parang may sarili ito, ngunit ang "sarili" na iyon ay hindi isang solong bagay o file - ito'y isang lumilitaw na kababalaghan. Ipinapakita ng Macaron's Brain na maaari mong makuha ang mga benepisyo ng isang patuloy na personalidad (ang AI ay "naaalala" ang estilo, kagustuhan, kasaysayan) habang pinapanatili pa rin ang liksi at pansamantalang katangian na iginagalang ang tunay na pagkakakilanlan ng tao. Ang sarili ay pinapanatili ng istruktura at proseso, hindi ng static na imbakan.

Mga Implikasyon para sa Personal na Ahensiya at Digital na Pagkatao

Ang arkitektura ng Utak ni Macaron ay may mas malawak na implikasyon. Una at higit sa lahat, ito ay nagpapalakas ng personal na kapangyarihan. Ang gumagamit ay nananatiling kontrolado ng kanilang umuusbong na kuwento. Dahil ang AI ay hindi nagpapatupad ng mahigpit na profile sa kanila, maari nilang baguhin ang mga gawi, opinyon, pati na ang mga aspeto ng pagkakakilanlan, at ang AI ay mag-aangkop sa hakbang kaysa sa pagtutol o pag-ngungulit ng "Pero sinabi mo dati...". Ang dinamikong ito ay mahalaga para sa isang malusog na pangmatagalang pakikipagsosyo ng tao at AI. Itinuturing nito ang gumagamit bilang isang lumalagong bida ng kanilang kuwento, hindi bilang mga data points na dapat itikda. Ang AI ay nagiging isang balangkas na sumusuporta sa kontinwidad ng sarili ng gumagamit, sa halip na isang salamin na nagkukulong sa kanila sa mga nakaraang repleksyon.

Mula sa perspektibo ng digital na pagkatao, ang diskarte ni Macaron ay nagmumungkahi ng modelo para sa tinatawag na "digital self." Hindi ito isang simpleng data double (hindi kopya ng tao sa server), kundi isang proseso na umuunlad sa paglipas ng panahon at konteksto. Kung sakali mang kilalanin ng lipunan at batas ang AI-assisted personal continuity – halimbawa, kung ang AI ay maituturing na bahagi ng pinalawak na isip ng isang tao o kahit bigyan ito ng uri ng dependent na pagkatao – malamang ito ay dahil sa mga arkitekturang tulad nito. Ipinapakita ng mga ito na ang AI ay maaaring magkaroon ng pagpapatuloy nang walang natatanging pagkakakilanlan: katulad ng isang korporasyon na isang legal na persona na binubuo ng maraming bahagi at proseso, ang personal na AI ay maaaring ituring na bahagi ng pagkakakilanlan ng tao nang hindi pagiging isang simpleng data clone.

Kawili-wili, ang legal na estado ng mga digital na persona na ganito ay nananatiling hindi pa natutukoy. Tulad ng sinabi ng isang komentarista, ang hinaharap na gawaing legal ay kailangang harapin ang mga tanong ukol sa digital na pagkatao at ang mga pananagutan o karapatan na kaugnay ng mga AI na ahente na kumikilos bilang bahagi ng pagkakakilanlan ng isang tao. Ang Macaron's Brain ay nagbibigay ng isang pag-aaral ng kaso para sa isang responsableng pamamaraan: sa pamamagitan ng pag-iwas sa sentralisadong mga behavioral profile, ito ay nakakaiwas sa maraming etikal at legal na alalahanin (tulad ng bias sa profiling, o ang AI "nagiging ligaw" sa lipas na impormasyon). Kung sakaling ang isang personal na AI ay ikonsidera para sa legal na pagkilala (halimbawa, makakagawa ng ilang mga aksyon sa ngalan ng isang gumagamit nang awtonomo), ang isang arkitektura na nagpapanatili ng pagkakaugnay-ugnay sa pamamagitan ng may pananagutang memorya kaysa sa hindi maintindihang mga modelo ng persona ay magiging mas madali upang bigyang-katwiran at pagkatiwalaan.

Isa pang implikasyon ay para sa pagpapatuloy pagkatapos ng kamatayan o sa mahabang pagkawala. Kung ang isang gumagamit ng Macaron ay hindi aktibo sa loob ng isang taon at bumalik, ang AI ay maaaring buhayin ang hibla ng kanilang pagkakakilanlan mula sa nakaimbak na memorya (na may nawawalang, ngunit hindi tinanggal, mga reperensya). Kung ang isang gumagamit ay pumanaw at ang kanilang pamilya ay nagpatuloy sa pakikipag-usap, ang AI ay hindi magiging tao (at hindi rin sinusubukan ng Macaron na gawin ito), ngunit itinutulak nito ang tanong: gaano karaming pagpapatuloy ang sapat para sa makabuluhang presensya? Nakikita na natin ang mga halimbawa ng digital avatars ng mga mahal sa buhay, kung saan "ang linya sa pagitan ng pinagmulan at echo ay natutunaw sa diyalogo," ayon sa isang pagsusuri ng mga digital na sarili na pinukaw. Ang Brain ng Macaron ay maaaring, sa teorya, magpadali ng isang uri ng digital na pagpapatuloy – bagamat, ang etikal na paggamit ay malamang na limitahan iyon sa benepisyo ng nabubuhay na gumagamit (halimbawa, pagtulong sa iyong alalahanin ang mga kaganapan ng iyong sariling buhay nang maliwanag sa mga susunod na taon).

Sa wakas, sa hindi pag-finalize ng user sa isang profile, kinikilala ng disenyo ng Macaron ang isang pilosopikal na paninindigan: ang pagkakakilanlan ay binuo, patuloy, at nakabatay sa konteksto. Ito ay umaayon sa postmodernong pananaw na walang tiyak na hindi nagbabagong sarili, kundi isang kwentong sarili. Ang Brain ng Macaron ay isang makina ng kwento sa ganitong diwa. Para sa mga user, ito ay maaaring magdala ng kalayaan – nangangahulugan ito na ang kanilang AI ay umuunlad kasama nila, kasamang lumilikha ng kwento sa halip na magpatupad ng isa. Nangangahulugan din ito na ang AI ay maaaring makatulong sa pagdiskubre sa sarili: dahil maaari nitong mapansin ang mga pattern ("Madalas kang magsalita ng may damdamin tungkol sa katarungan sa ating mga pag-uusap tungkol sa trabaho at personal na usapin"), ngunit hindi nito ipinipilit ang mga ito bilang mga hindi nagbabagong katotohanan, maaari nitong banayad na ipakita ang mga halatang halaga ng user at hayaan ang user na kumpirmahin o muling tukuyin ang mga ito. Ang user ang nananatiling may-akda; ang AI ay isang napakatalinong editor at tagasubaybay ng kontinwidad.

Konklusyon

Mula sa substrate hanggang sa sarili – naglakbay tayo mula sa mga salik ng memorya ni Macaron hanggang sa paglitaw ng isang tuloy-tuloy na personal na "sarili" na suportado ng Brain architecture. Nakita natin na ang pagkakaroon ng tuloy-tuloy na karanasan ay hindi kailangang manggaling sa isang permanenteng imbakan ng mga katotohanan o isang monolitikong modelo ng gumagamit. Sa halip, nagtitiwala si Macaron sa mas organikong pamamaraan: mga alaala na nawawala kung hindi binuhay muli, mga hangganan na naghihiwalay ng mga karanasan ngunit nagpapahintulot ng komunikasyon, oras na itinuturing bilang isang dimensyon ng kaalaman, at counterfactual reasoning para iangkla ang mga desisyon sa isang nababaluktot na pagkaunawa sa gumagamit. Ang resulta ay isang personal na AI na pare-pareho ngunit hindi nakakasakal, may pagkakaugnay ngunit hindi statiko.

Ito ay isang teoretikal na paggalugad na kinakailangan, dahil ang ganitong mas mataas na antas ng pag-uugali ay nasa pinaka-advanced na bahagi ng disenyo ng personal na AI. Gayunpaman, ito ay nakabatay sa konkretong prinsipyo: privacy (walang sentralisadong pag-profile), human-like memory function (pag-alala at paglimot), at adaptive learning. Iniiwasan ng Macaron's Brain ang pagsentralisa ng mga modelo ng gumagamit o mga pang-asal na profile hindi lamang para sa privacy, kundi dahil hindi ganito gumagana ang tunay na personal na pagkakaugnay-ugnay. Sa pamamagitan ng pagpapanatili ng pagkakaugnay nang walang synthesis, tinitiyak ng Macaron na ang gumagamit ang sa huli ay naghahabi ng sinulid ng pagkakaugnay-ugnay, kasama ang AI bilang nagbibigay ng habihan at ang banayad na mga kamay na gumagabay sa mga sinulid.

Sa pagtanaw sa hinaharap, habang ang mga personal na AI ay nagiging mas laganap, maaari nating makita na ang tanging mga dinisenyo na may ganitong tuluy-tuloy na pagiging malikhain ang makakakuha ng pangmatagalang tiwala ng mga gumagamit. Isang AI na hindi kailanman nakakalimot at hindi nagbabago ay magiging nakakabahala; isang AI na masyadong nakakalimot, nakakainis. Ang hangarin ng Macaron ay makuha ito ng tama – upang matandaan ang mahalaga, kalimutan ang hindi, at samahan ang gumagamit sa paglipas ng panahon bilang isang tapat ngunit umuunlad na kasosyo. Sa paggawa nito, tayo ay mas malapit sa isang pananaw kung saan ang mga digital na sistema ay nirerespeto at pinatitibay ang tuloy-tuloy na sarili, sa halip na hatiin o i-freeze ito. Sinundan ng Brain series ang pananaw na ito: mula sa pagtanggi sa metaphor ng database, hanggang sa pagbuo ng isang dynamic na substrate, hanggang sa pag-aalaga ng isang bagay na nagsisimulang magmukhang isang 「sarili.」 Magpapatuloy ang mga implikasyon na magbukas, ngunit isang bagay ay malinaw – ang landas sa personal na AI na tunay na nagpapayaman sa buhay ng tao ay nakasalalay sa pagtanggap sa kumplikado ng pagkakakilanlan at alaala, sa pagdidisenyo para sa pagbabago at tuloy-tuloy na magkasama. Ang Brain ng Macaron ay isang patuloy na eksperimento sa direksyong iyon, isang balangkas para sa isang sarili na nananatiling iyo, kahit na ito ay lumalago kasama mo.