Uzrakstījusi Qubic Scientific Team
Kā neirons darbojas laika gaitā?
Bioloģiskie neironi nedarbojas kā guļamistabas gaismas slēdzis, ko ieslēdz. Tie ir nepārtraukta dinamiska sistēma. Neironu stāvoklis pastāvīgi attīstās, pat ārējo stimulu neesamības gadījumā.
Kā neirons darbojas laika gaitā?
Pamatā, pārvietojot elektriskos lādiņus (jonus) iekšā vai ārā no tā membrānas, proti, mainot tā elektrisko potenciālu. Joni iekļūst vai iznāk (galvenokārt nātrijs un kālijs) caur dažādām neirona vārtiem ar noteiktu intensitāti, modificējot potenciālu. Ir daži vārti, ko sauc par noplūdes vārtiem, kur joni vienmēr iekļūst un iznāk.
Laiks ir implicit. Elektriskais potenciāls mainās nepārtraukti, laika gaitā.
Neirona elektriskā potenciāla izmaiņas laika gaitā ir atkarīgas no:
Iekšējā strāva, kas tiek piemērota + līdzsvars starp nātrija jonu plūsmām (kas to palielina) un kālija joniem (kas to samazina) caur vārtiem, kas atveras un aizveras.
Nepaniku ar grafiku. Pozitīviem un negatīviem elektriskajiem lādiņiem (joniem) plūstot caur vārtiem, notiek depolarizācija (tādējādi strāva pārvietojas uz neirona galu) vai hiperpolarizācija (tādējādi tā atgriežas neitrālā stāvoklī).
Potenciāls (V) mainās laika gaitā, tas ir matemātiski, dV/dt, kā funkcija no iebildumu un izejas vārtiem kopas.
Tas ir pamata modelis aprēķinu neirozinātnē, kas izsaka, ka neirona stāvoklis ir atkarīgs gan no pašreizējiem signāliem, gan no tā tuvākās vēstures. Nav "atjaunošanas" starp notikumiem, jo katrs stimuli nonāk sistēmā, kas vienmēr darbojas.
Tagad pāriesim uz Neuraxon, kas ir bioinspirēts modelis.
Mēs vēlamies, lai tas būtu dzīvs, inteliģents audums. Tam nevar būt diskrēti stāvokļi, bet gan nepārtraukti.
Neuraxonā, nevis jonu vārti, kas atveras un aizveras un pārvieto lādiņus ar noteiktu intensitāti, mainot spriegumu, mums ir dinamiskie sinaptiskie svari. Bet modeļa vienādojums saglabā skaidru un tiešu līdzību ar bioloģisko neironu.
Ko tas nozīmē?
V vietā, spriegums bioloģiskajā neironā, Neuraxon stāvoklis ir s. Un tas arī mainās laika gaitā, tādējādi ds/dt ir funkcija no svariem un aktivācijām un iepriekšējā stāvokļa.
Atšķirībā no klasiskā AI modeļa, kur tīkla sinaptiskie svari attēlo stereotipiskus izejas datus uz iebildi, Neuraxon svari nav statiski.
Iedomājieties, piemēram, "e-pasta iesūtne" automātiskās atbildes mehānismu.
Klasiskajā AI noteikums nemainās vai nepārveidojas laika vai konteksta gaitā.
Neuraxonā tiek ņemts vērā, vai "e-pasta iebilde" nāk no tās pašas personas (kas var liecināt par steidzamību), vai arī tā ierodas nedēļas nogalē (kas var radīt ne-atbildes izeju). Citiem vārdiem sakot, noteikums paliek, bet kad un kā atbilde tiek sniegta, tiek modulēta.
Vai LLM aprēķina laiku?
Lielie valodas modeļi šķietot parāda dziļu izpratni daudzos kontekstos, taču tie darbojas loģikā, kas atšķiras no bioloģiskajām sistēmām (Vaswany, 2017). Tie nedarbojas, pamatojoties uz iekšējo laika dinamiku, uz "potenciāla izmaiņām" vai "sinaptiskajiem svariem", kas modulē atbildi, bet gan apstrādā diskrētas secības.
LLM, "laika" neeksistē, kas apgrūtina to spēju simulēt bioloģisko uzvedību (piemēram, intelektu). LLM zina, kā atšķirt, kurš vārds nāk pirms un kurš pēc, taču tie nepiešķir pieredzi par ilgumu vai noturību. Kārtība aizstāj laiku.
Atšķirībā no Neuraxon, tiem nav iekšējo ritmu, kas paātrina vai palēnina, kā arī tie nerāda progresīvu pieradumu pie atkārtotiem stimuliem, un tie nevar dinamiski paredzēt, pamatojoties uz iekšējo stāvokli, kas mainās laika gaitā.
LLM modeļa aprēķins varētu būt kaut kas līdzīgs:
izeja = Fθ(iebilde)
tādējādi rezultāti ir fiksēti risinājumi no funkcijas (kombinācijas) iebildumiem.
Nav stāvokļa kā funkcijas laika. Tie ir dati, kas veido milzīgas matricas un maina savu vērtību, izmantojot specifisku funkciju, kas, kā citētajā piemērā, ierobežo iespējas: e-pasta iebilde → automātiska atbilde.
Noslēdzot. Attālums starp bioinspirētiem modeļiem, piemēram, Neuraxon, un lielajiem valodas modeļiem nedrīkst tikt izskaidrots aprēķinu jaudas vai datu apjoma terminos. Ir dziļāka atšķirība.
Smadzenes ir pašas par sevi nepārtraukts laika sistēma. Tās darbība tiek definēta ar dinamikām, kas attīstās laika gaitā, ar stāvokļiem, kas attīstās, sabrūk un pastāvīgi reorganizējas, pat ārējo stimulu trūkuma gadījumā (Deco et al., 2009; Northoff, 2018).
Neuraxon apzināti pozicionē sevi šajā pašā loģikā. Tas necenšas imitēt 1 līdz 1 bioloģiskās smadzenes sarežģītību, bet skaidri iekļauj laiku kā aprēķinu mainīgo. Tā iekšējais stāvoklis attīstās nepārtraukti, nesot pagātni un modulējot tagadni, ļaujot pielāgošanos bez nepieciešamības pēc atjaunošanas.
LLM, savukārt, darbojas ļoti atšķirīgi. Tie manipulē ar simboliem, kas sakārtoti diskrētās secībās bez savām laika dinamikām. Nav laika, tikai kārtība. Nav pielāgošanās, tikai iepriekš noteiktas atbildes.
Kamēr laiks neveido daļu no stāvokļa, kas regulē aprēķinus, LLM var būt efektīvi, taču tie grūti var būt autonomi stiprā nozīmē.
Nākotnes mākslīgais intelekts cenšas darboties dinamiskās vidēs. Tas ir iemesls, kādēļ Neuraxon iekļauj laiku kā pamata mainīgo.
Dzīvo intelekta audums...
Kā tas attiecas atpakaļ uz Qubic?
Qubic nodrošina nepārtraukti darbojošos, stāvokļa apzināšanās aprēķinu vidi, kas nepieciešama laika apzinātam intelektam.
Tā ir dabiska pamatne, uz kuras modeļi, piemēram, Neuraxon - pielāgojami, noturīgi un nekad "neatjaunojami" - var pastāvēt un attīstīties.
Pielikumi
Paskatieties uz vienādojumiem. Nepaniku!
1 Bioloģiskais neirons, V potenciāls, "vārtiem plūstot iekšā un ārā"
2 Neuraxon modeļa vienādojums - skaidra un tieša līdzība ar bioloģisko neironu.
s stāvoklis, wi & f(si) dinamiskie sinaptiskie svari
3 LLM modeļa vienādojums. Iebildumi (sakārtoti matricā) rada matricas izejas caur fiksētu funkciju
p (xn+1 | x₁, …, xn) = softmax (Fθ (x₁, …, xn) )
Atsauces
Deco, G., Jirsa, V. K., Robinson, P. A., Breakspear, M., & Friston, K. J. (2009). Dinamiskās smadzenes. PLoS Aprēķinu Bioloģija, 5(8), e1000092.
Northoff, G. (2018). Pašdarbīgās smadzenes. MIT Press.
Vaswani, A., et al. (2017). Uzmanība ir viss, kas jums nepieciešams. NeurIPS.
Vivancos, D., & Sanchez, J. (2025). Neuraxon: jauns neironu augšanas & aprēķinu plāns. Qubic Science.
rint. Qubic Science.