În ultimele luni, OpenAI a multiplicat inovațiile fără milă. În aprilie, de exemplu, a lansat un ChatGPT pentru medici cu scopul de a revoluționa AI-ul medical.
Într-o postare pe blog publicată joi, compania explică că a dezvoltat „rezumate de siguranță”. Acestea sunt rezumate temporare și țintite care surprind contextul de siguranță al unei conversații. Aceste note nu sunt folosite pentru a personaliza experiența sau pentru a memora utilizatorul. Au un singur scop: de a detecta când o discuție devine periculoasă.
Principiul e simplu, dar tehnic. În timpul unei conversații, un model AI specializat în raționamentul de siguranță generează note factuale și temporare. Aceste rezumate rămân active pentru o perioadă limitată. Ele sunt consultate doar în situații de înalt risc.
Dar întrebările rămân: unde se termină monitorizarea binevoitoare? Cum poate fi asigurat faptul că aceste rezumate nu deviază într-o formă de profilare? În această privință, firma AI nu oferă încă un răspuns clar.
Un lucru este sigur: aceasta este atât o evoluție simbolică, cât și tehnică. Întrebarea nu mai este dacă AIs ar trebui să integreze aceste măsuri de siguranță, ci cât de departe ar trebui să meargă pentru a face asta fără a încălca alte limite.
Maximizează-ți experiența pe Cointribune cu programul nostru "Read to Earn"! Pentru fiecare articol pe care îl citești, câștigă puncte și accesează recompense exclusive. Înscrie-te acum și începe să câștigi beneficii.
#THORChainHackCauses$10.7MLoss
#SpaceXEyesJune12NasdaqListing
#BitcoinETFsSee$131MNetInflows