Uzrakstījusi Qubic zinātniskā komanda
Neuraxon Inteliģences Akadēmija — 3. sējums
1. Neiromodulācija smadzenēs: Pamatprincipi adaptīvai inteliģencei
Neiromodulācija attiecas uz mehānismu kopumu, kas regulē nervu sistēmas darbību jebkurā dotajā brīdī, nemainot tās pamata arhitektūru. Pateicoties neiromodulācijai, smadzenes var mācīties ātri vai lēni, kļūt par izpētes vai konservatīvu, un palikt atvērtas jaunumiem vai koncentrēties uz to, kas jau ir zināms. Vadi nemainās; mainās veids, kā šie vadi tiek izmantoti. Šī koncepcija ir centrāla, lai saprastu smadzenēm iedvesmotu AI un arhitektūru, kas slēpjas Qubic Neuraxon.
Ionotropie vs. Metabotropie Receptori: Divi Laika Mērogi Neironu Signālingā
Lai pareizi saprastu neiroregulāciju, ir svarīgi atšķirt divas ķīmiskās darbības formas smadzenēs. No vienas puses, ir neirotransmiteri, kas darbojas uz ionotropiem receptoriem, piemēram, glutamātu un GABA. Šie receptori ir jonu kanāli: kad tie tiek aktivizēti, tie rada tūlītējas elektriskas izmaiņas neironā, milisekunžu laikā. Tas atbilst ātrai neironu aprēķināšanas līmenim: konkrēta informācija tiek nosūtīta, sensorie signāli tiek integrēti, ātri tiek pieņemti lēmumi, un tiek radīta neironu aktivitāte, kas uztur perceptu, kustību un domāšanu reālajā laikā.
No otras puses, ir neirotransmiteri, piemēram, dopamīns, noradrenalīns, serotonīns un acetilholīns, kuru galvenā darbība tiek izteikta caur metabotropiem receptoriem. Šie receptori tieši nerada elektrisko signālu. Tā vietā tie aktivizē iekšējo signālu kaskādes, kas maina neirona iekšējās īpašības ilgākā laika periodā - sekundēs, minūtēs vai ilgāk. Tas pārstāv lēno dinamiku neironu apstrādē, kas ir pamatā tam, kā smadzenes pielāgojas un mācās.
Intuitīvs veids, kā domāt par šo atšķirību, ir caur ostas metaforu. Ionotropie receptori ir kā peldētāji, sērfotāji vai mazi kuģi, kas ātri ienāk un iznāk. Metabotropie receptori, savukārt, ir kā lieli kravas kuģi. Lai tie varētu piekļūt, nepieciešamas atļaujas, nepieciešama koordinācija un ostas loģistika ir jāpielāgo. Šie metabotropie receptori maina sinaptisko plastiskumu un to, cik viegli neirons reaģē — šī lēnā modulācija nenosūta informāciju, bet drīzāk modificē sistēmas iekšējos noteikumus.
Četri neiroregulatori: dopamīns, noradrenalīns, serotonīns un acetilholīns
Šeit ienāk spēkā galvenās neiroregulācijas sistēmas. Katrs no šiem četriem neirotransmiteriem spēlē atšķirīgu lomu, regulējot, kā smadzenes apstrādā informāciju, mācās un pielāgojas:
Dopamīns, kas galvenokārt rodas ventrālās tegmentālās zonas un substantia nigra, neziņo par baudu, bet drīzāk tad, kad kaut kas ir nozīmīgs mācīšanai. Tas pielāgo sistēmas jutību pret kļūdām un jaunumu. Kā parādījis Šulcs (2016) savā pamatdarba darbā par dopamīna atlīdzības prognozēšanas kļūdu kodēšanu, dopamīns ziņo par atšķirību starp gaidītajiem un faktiskajiem rezultātiem, mehānisms, kas ir svarīgs pastiprināšanas mācībām gan bioloģiskajās, gan mākslīgajās sistēmās.
Noradrenalīns (norepinefrīns), kas galvenokārt izdalās no locus coeruleus, regulē uzbudinājumu un līdzsvaru starp izpēti un izmantošanu. Kad tā tonis ir augsts, smadzenes kļūst jutīgākas pret negaidītām izmaiņām un mazāk piesaistītas rutīnai. Tas saskan ar Aston-Jones un Cohen (2005) ieteikto integratīvo teoriju, kas saista locus coeruleus-norepinephrine funkciju ar adaptīvo ieguves kontroli un lēmumu pieņemšanu nenoteiktībā.
Serotonīns, kas rodas raphe kodolos, modulē garastāvokli, miegu, inhibīciju un uzvedības stabilitāti. Kā izpētīts Dayan un Huys (2009), serotonīns nevirza sistēmu mācīties ātri, bet drīzāk gaidīt, izvairīties no impulsīvām reakcijām un saglabāt uzvedību, kad vide ir neskaidra. Tam ir kritiska loma pacietībā un ilgtermiņa plānošanā.
Acetilholīns, kas izdalās no bazālā priekšējā smadzeņu kodola, spēlē centrālo lomu uzmanības un kontekstu atkarīgas mācīšanās jomā. Tas atvieglo garozas tīklu atvēršanu attiecīgajai sensoriskajai informācijai un ļauj sinaptisko plastiskumu, kad vide to pieprasa. Tas ir īpaši svarīgi, kad jāiemācās kaut kas jauns, padarot to būtisku adaptīvai neironu aprēķināšanai.
Pateicoties šai apvienotajai darbībai, tas pats stimuli var radīt dažādas reakcijas, atkarībā no neiroregulācijas stāvokļa. Apļa ir tas pats, bet veids, kā tas darbojas, ir mainījies. Tāpēc smadzenes nereģistrē vienādi, kad ir modras, kā kad ir nogurušas, un arī mācās ne tādā pašā veidā rutīnas situācijās kā tad, kad ir jaunums vai pārsteigums.
Meta Līmenis: Plastiskuma Logi un Adaptīvā Mācīšanās
Ir arī trešais, dziļāks līmenis, ko var saprast kā neironu regulācijas meta līmeni. Šis līmenis tieši nereglē neironu aktivitāti vai tās ātrumu, bet gan nosacījumus, kādos sistēma var mainīties pastāvīgā veidā. Smadzenēs sakritīga aktivitāte starp neironiem negarantē mācīšanos. Lai savienojums stiprinātos vai vājinātos, neiroregulācijas stāvoklis tam ir jāatļauj. Tas ir tā, it kā būtu klusa zīme, kas saka: "tagad jā" vai "tagad nē".
Tādējādi neiroregulācija darbojas kā sistēma, kas atver vai aizver plastiskuma logus, nosakot, kad kļūda, pieredze vai sakritība ir pelnījusi konsolidāciju. Šī daudzlīmeņu arhitektūra, ātrā, lēnā un meta, pastāv, jo inteliģenta sistēma nevar vienmēr piemērot tos pašus noteikumus. Kā Marder (2012) izskaidroja savā ievērojamajā pārskatā, neiroregulācija neironu circuits ir veids, kā smadzenes sasniedz uzvedības elastību, neizjaucot savu arhitektūru.
Ķermeņa stāvoklis, enerģijas līmeņi, nogurums vai sāpes ir daļa no iekšējās vides. Jaunums, draudi, iespēja, atkārtošanās vai paredzamība ir daļa no ārējās vides. Neiroregulācijas sistēmas tulko šos apstākļus funkcionālajos stāvokļos. Caur dopamīnu, noradrenalīnu, serotonīnu un acetilholīnu smadzenes novērtē, vai situācija ir pelnījusi mācīšanos, vai nepieciešama piesardzība, vai izpēte vai saglabāšana ir vēlama un vai kļūda ir informatīva vai vienkārši troksnis. Vide tieši nenosaka reakciju, bet modulē noteikumus, pēc kuriem smadzenes reaģē. Šis princips ir sirds tam, ko Friston (2010) aprakstījis kā brīvās enerģijas principu, vienotu ietvaru, kas liecina, ka smadzenes pastāvīgi minimizē pārsteigumu, izmantojot adaptīvās iekšējās modeļus.
2. Kāpēc Lielajiem Valodu Modeļiem un Transformeru Arhitektūrām trūkst neiroregulācijas
Lielie valodu modeļi (LLM) un Transformeru arhitektūras nepieder neiroregulācijai. Lai gan tie apstrādā garas sekvences un ir sasnieguši izcilus rezultātus dabiskās valodas apstrādē, tiem trūkst sistēmas, kas dinamiski regulē modeļa darbības režīmu secināšanas laikā.
Transformeru balstīto AI sistēmu statiskā daba
Mācīšanās LLM notiek treniņu posmos, kas ir pilnīgi atsevišķi no lietošanas. Svari tiek pielāgoti, izmantojot kļūdu atpakaļizplatīšanu, un, kad apmācība ir pabeigta, modelis nonāk fiksētā stāvoklī. Secināšanas laikā nav plastiskuma un nav ilgstošu izmaiņu atkarībā no konteksta. Sistēma nenosaka, kad ir piemēroti mācīties un kad tai vajadzētu stabilizēties, jo tā nemācās, kamēr darbojas. Šī ir fundamentālā ierobežojuma, ko nesenā pētījumi ir apstiprinājuši, LLM trūkst patiesu iekšēju pasaules modeļu un spējas pielāgoties reālajā laikā.
Dažas pieejas, kas iedvesmojās no neiroregulācijas, cenšas tuvoties noteiktiem efektiem, pielāgojot parametrus, piemēram, mācīšanās ātrumu treniņa laikā, aktivizējot vai deaktīvējot apakšsistēmas vai modulējot aktivizācijas funkcijas. Tomēr šie ir tikai ārēji optimizācijas pasākumi, nevis iekšējie sistēmas, kas reālajā laikā regulē aktivitāti un plastiskumu. Kā apgalvoja Mei, Müller un Ramaswamy (2022) žurnālā Trends in Neurosciences, informēt dziļās neironu tīklus, pamatojoties uz daudzlīmeņu neiroregulācijas principiem, joprojām ir atvērts izaicinājums, ko pašreizējās LLM arhitektūras nav atrisinājušas.
Lai gan neiroregulācija dažreiz tiek pieminēta AI kontekstos, LLM un Transformers joprojām ir daļēji tuvoties, nevis sistēmas, kas salīdzināmas ar smadzenēm. Atstarpe starp statiskajiem matricas aprēķiniem un dinamisko, stāvokļa atkarīgo regulāciju, kas atrodama bioloģiskajos neironu tīklos, ir tieši tas, kas padara smadzenēm līdzīgas AI arhitektūras, piemēram, Neuraxon, nepieciešamu nākamo soli uz adaptīvo mākslīgo intelektu.
3. Kā Neuraxon aprēķina neiroregulāciju: smadzenēm līdzīga AI arhitektūra
Neuraxonā aprēķins ir process, kas norisinās nepārtrauktā laikā. Kods izsaka sistēmu, kas uztur iekšējos stāvokļus, s(t), kas attīstās pat bez skaidriem ārējiem stimuliem. Šie stāvokļi ietekmē nākotnes uzvedību, veidojot dzīvu neironu sistēmu, kas vienmēr ir aktīva, koncepts, kas sīkāk izpētīts Neuraxon pētījumā.
Ātrās, Lēnās un Meta Dinamikas Neironu Aprēķināšanā
Neuraxon skaidri iekļauj ātrās, lēnās un meta dinamikas, atspoguļojot daudzlīmeņu laika arhitektūru, kas atrodama bioloģiskajās smadzenēs. Ātrās dinamikas nosaka tūlītēju aktivitātes izplatību, kas ir līdzīga ātrai neironu signāldarbībai caur ionotropiem receptoriem. Lēnās dinamikas ievieš uzkrāšanos, pastāvību un modeļu stabilizāciju, ļaujot sistēmai saglabāt informāciju ilgāk par mirkli, līdzīgi kā metabotropie receptori modulē neironu funkciju sekundēs un minūtēs. Meta dinamikas darbojas uz mijiedarbības noteikumiem starp iepriekšējiem, modulējot, kad sistēma kļūst jutīgāka pret izmaiņām un kad tā tiecas saglabāt savu stāvokli.
Neuroregulācija Neuraxonā nav īstenota kā ārēja parametru pielāgošana. Sistēma tieši nenosaka, ko mācīties, bet gan apstākļus, kādos tā var mainīties. Tas atspoguļo to, kā bioloģiskie neiroregulatori, piemēram, dopamīns un serotonīns, rada plastiskuma logus, nevis tieši kodē informāciju. Tu vari pētīt šīs dinamikas pats, izmantojot interaktīvo Neuraxon 3D simulāciju HuggingFace Spaces, kur tu vari pielāgot dopamīna, serotonīna, acetilholīna un norepinefrīna līmeņus reālajā laikā un novērot, kā tie ietekmē tīkla uzvedību.
No Bioloģiskajiem Principiem uz Decentralizētu AI
Šī pieeja neatspoguļo smadzeņu molekulāro vai anatomisko sarežģītību, ko pašlaik nav iespējams atkārtot. Nav tūkstošiem receptoru vai reālu bioloģisku tīklu. Tomēr tā saglabā un aprēķina būtisku principu: intelekts ir adaptīvs, un tādēļ prasa iekšējās dinamikas, stāvokli un modulāciju.
Neuraxon neiroregulācijas arhitektūra ir centrāla daļa no Qubic plašākās vīzijas decentralizētai AI. Integrējot Neuraxon ar Aigarth Intelligent Tissue evolūcijas ietvaru, Qubic izveido sistēmu, kurā miljoni Neuraxon balstītu arhitektūru var attīstīties, sacensties un uzlaboties, izmantojot izplatītu aprēķināšanu, ko nodrošina Qubic tīkla Noderīgā Darba Pierādījumu (UPoW) konsensa mehānisms.
4. Izpēti neiroregulatorus ar interaktīvo Neuraxon demo
Vai vēlies pieredzēt, kā neiroregulācija darbojas smadzenēm līdzīgā AI sistēmā? Neuraxon Mood Mixer demo ļauj tev pielāgot dopamīna, serotonīna, acetilholīna un norepinefrīna līmeņus reālajā laikā un novērot, kā šie neiroregulatori ietekmē neironu tīkla uzvedību. Tas ir praktisks veids, kā saprast šajā rakstā apspriestos principus un redzēt atšķirību starp statisko AI aprēķinu un dinamisko, stāvokļa atkarīgo apstrādi.
5. Matemātika Neuraxon daudzlīmeņu neiroregulācijā
Laika dinamiku Neuraxonā regulē trīs diferenciālvienādojumi, kas atspoguļo ātrās, lēnās un meta laika mērogus neironu aprēķināšanā:
Šeit, τ_fast < τ_slow < τ_meta atspoguļo viņu atšķirīgos laika mērogus, ar τ_meta, kas ir ievērojami lielāks, lai atspoguļotu metabotropo efektu 'ultrātra' dabu. Šī matemātiskā struktūra tieši īsteno bioloģisko principu, ka neiroregulācija darbojas daudz lēnākos laika mērogos nekā ātrā sinaptiskā pārsūtīšana, kā aprakstījusi Northoff un Huang (2017) savā darbā par to, kā smadzeņu laika dinamika ietekmē apziņu.
Zinātniskās Atsauces
Dayan, P., un Huys, Q. J. M. (2009). Serotonīns, inhibīcija un negatīvais garastāvoklis. PLoS Computational Biology.
Marder, E. (2012). Neiroregulācija neironu circuits: atpakaļ nākotnē. Neuron.
Schultz, W. (2016). Dopamīna atlīdzības prognozēšanas kļūdas kodēšana. Dialogi Klīniskajā Neirozinātnē.
Aston-Jones, G., un Cohen, J. D. (2005). Integratīvā teorija par locus coeruleus–norepinefrīna funkciju. Gadskārtējā Neirozinātņu Pārskatā.
Mei, L., Müller, E., un Ramaswamy, S. (2022). Informējot dziļos neironu tīklus, pamatojoties uz daudzlīmeņu neiroregulācijas principiem. Trends in Neurosciences.
Friston, K. (2010). Brīvās enerģijas princips: vienota smadzeņu teorija? Dabas Atsauksmes Neirozinātnē.
Northoff, G., un Huang, Z. (2017). Kā smadzeņu laiks un telpa ietekmē apziņu un tās traucējumus? Apziņa un Kognīcija, 57, 1–10.