*Pixel token* ir pamatvienība, kas ļauj Transformer tipa modeļiem apstrādāt vizuālo informāciju tādā pašā veidā, kā tie apstrādā valodu. Tā vietā, lai modelim piegādātu simtiem tūkstošu neapstrādātu RGB vērtību, attēls vispirms tiek sadalīts mazās daļās — parasti 16×16 pikseļos — kas pēc tam tiek izlīdzinātas un projektētas blīvos vektoru ieguldījumos. Šie ieguldījumi kļūst par attēla “tokeniem”, līdzīgi kā subvārdu tokeni tekstā. Jaunākie pētījumi, piemēram, _No Pikseļiem uz Tokeniem: Byte-Pair Kodēšana kvantizētajās vizuālajās modalitātēs_, virza šo ideju tālāk, pielietojot BPE tieši vizuālajiem datiem, izveidojot apgūtu vārdu krājumu atkārtotu vizuālo paraugu vietā, nevis fiksētām režģa daļām. Tas injicē strukturālu iepriekšēju informāciju katrā tokenā, tāpēc agrīnā tīkla posmā tokens varētu attēlot “malu” vai “tekstūru”, kamēr dziļākās kārtas tās kombinē augstākā līmeņa koncepcijās, piemēram, “sarkanā gaisma” vai “cilvēka seja”. Priekšrocības ir divkāršas: pirmkārt, tas dramatiski samazina secības garumu no 150,000+ pikseļiem uz dažiem simtiem tokenu, padarot sevis uzmanību aprēķināmi iespējamu; otrkārt, tas izlīdzina vizuālo attēlojumu formātu ar valodas tokeniem, ļaujot vienam Transformeram racionāli domāt starp modalitātēm bez atsevišķiem kodētājiem. Praksē šī tokenizācijas stratēģija ir pierādījusi, ka uzlabo multimodālo izpratni un datu efektivitāti, palīdzot modeļiem, piemēram, Being-VL-0, sasniegt spēcīgāku sniegumu pat ar ierobežotiem apmācību datiem.
---
Vai vēlies, lai es arī sniedzu tehniskāku versiju ar matemātiku, vai labāk to saglabāt draudzīgu lasīšanai, kā šeit?
Tirdzniecība NAV darbs. Negaidi fiksētas algas no tirgus. Tas ir bizness. Kas ietver nenoteiktību, zaudējumus, lēnas periods un stresu. Tirgus apbalvo bizness īpašniekus, kuri pielieto stratēģisku riska uzņemšanos, seko savam biznesa plānam un pieņem pareizos lēmumus. Tev maksā par lēmumiem, nevis stundām.$BTC $ETH #StrategyBTCPurchase $
Es zinu šos laikus, tiešām novērtēju, kungs, turpiniet augt 😎❤
Crypto_Jobs
·
--
Pozitīvs
🎉 Tieši pirms gada es nosaucu grunti #XRP ap +/- $0.480... [Daudzkārt]
👀 Šodien mēs tirgojamies virs $3.50! Saskaitiet, tas ir 7x pieaugums! 🔥
📈 Mans jaunākais grafiks joprojām mērķē uz $4.90+ nākamais. 🚀
Daudzi cilvēki brīnās, kā tāda precizitāte ir iespējama… To, ko viņi neredz, ir bezgalīgs darbs, pacietība un veltījums caur neitrāliem vai lejupejošiem tirgiem, kas ir 70% ceļojuma vai vairāk! 💪
Kripto cenas var eksplodēt tikai gada laikā, vienīgā patiesā priekšrocība ir pacietība un pārliecība!
Tiem, kas ir sekojuši ilgi; izbaudiet braucienu! 😎