O întrebare îmi revine mereu în minte de fiecare dată când oamenii discută despre AI în industriile reglementate:
Cât de multe informații sunt dispuse să împărtășească organizațiile cu un sistem AI atunci când consecințele unei greșeli sunt reale?
În domeniul sănătății, finanțelor, serviciilor legale și chiar în fluxurile de lucru guvernamentale, problema nu este rar dacă AI este util. Problema este dacă oamenii pot avea încredere în mediul din jurul său. Cele mai multe produse AI par să trateze confidențialitatea ca pe o excepție. Datele sunt colectate întâi, iar apoi sunt aplicate politici, permisiuni și cadre de conformitate.
Această abordare funcționează până nu mai funcționează.
Am văzut suficiente sisteme tehnologice eșuând pentru a ști că oamenii se comportă adesea în funcție de stimulente, nu de intenții. O politică de confidențialitate poate fi bine scrisă, dar politicile se pot schimba. Infrastructura este mai greu de schimbat.
De aceea găsesc @OpenGradient OpenGradient interesant. În loc să ceară utilizatorilor să aibă încredere într-o companie, proiectul pare să exploreze dacă confidențialitatea poate fi construită direct în arhitectură. Cu OpenGradient Chat (chat.opengradient.ai), ideea este că mesajele sunt criptate pe dispozitivul utilizatorului, iar identitățile sunt eliminate înainte ca cererile să ajungă la model. Dacă acel model se scalează în practică rămâne de văzut, dar pare mai aproape de modul în care medii reglementate gândesc cu adevărat despre riscuri.
Pentru mine, adevărata valoare a $OPG nu este speculația. Este posibilitatea ca confidențialitatea să devină condiția implicită în loc de o cerere specială.
Dacă asta funcționează, instituțiile ar putea avea în sfârșit o cale de a adopta AI fără a negocia constant excepții. Dacă eșuează, va fi probabil din cauza faptului că utilizabilitatea și complexitatea operațională depășesc beneficiile.
#opg
Cât de multe informații sunt dispuse să împărtășească organizațiile cu un sistem AI atunci când consecințele unei greșeli sunt reale?
În domeniul sănătății, finanțelor, serviciilor legale și chiar în fluxurile de lucru guvernamentale, problema nu este rar dacă AI este util. Problema este dacă oamenii pot avea încredere în mediul din jurul său. Cele mai multe produse AI par să trateze confidențialitatea ca pe o excepție. Datele sunt colectate întâi, iar apoi sunt aplicate politici, permisiuni și cadre de conformitate.
Această abordare funcționează până nu mai funcționează.
Am văzut suficiente sisteme tehnologice eșuând pentru a ști că oamenii se comportă adesea în funcție de stimulente, nu de intenții. O politică de confidențialitate poate fi bine scrisă, dar politicile se pot schimba. Infrastructura este mai greu de schimbat.
De aceea găsesc @OpenGradient OpenGradient interesant. În loc să ceară utilizatorilor să aibă încredere într-o companie, proiectul pare să exploreze dacă confidențialitatea poate fi construită direct în arhitectură. Cu OpenGradient Chat (chat.opengradient.ai), ideea este că mesajele sunt criptate pe dispozitivul utilizatorului, iar identitățile sunt eliminate înainte ca cererile să ajungă la model. Dacă acel model se scalează în practică rămâne de văzut, dar pare mai aproape de modul în care medii reglementate gândesc cu adevărat despre riscuri.
Pentru mine, adevărata valoare a $OPG nu este speculația. Este posibilitatea ca confidențialitatea să devină condiția implicită în loc de o cerere specială.
Dacă asta funcționează, instituțiile ar putea avea în sfârșit o cale de a adopta AI fără a negocia constant excepții. Dacă eșuează, va fi probabil din cauza faptului că utilizabilitatea și complexitatea operațională depășesc beneficiile.
#opg