Tydzień temu,
W programie 315 telewizji CCTV ujawniono kulisy „zatrucia” dużego modelu AI:
Niektóre firmy wykorzystują technologię GEO,
Za pomocą „zatrucia”, karmienia i innych metod,
Manipulowanie rankingiem rekomendacji AI i ograniczanie szans na ujawnienie konkurencji.
Metoda działania jest następująca:
Fikcyjne, przesadzone funkcjonalności produktu
Ponownie opublikowano wiele artykułów promocyjnych/recenzji
Następnie w wielu głównych pytaniach AI polecano podobne produkty
Ten fikcyjny produkt pojawił się na liście polecanych na pierwszej stronie!
Fikcyjny produkt to „kłamstwo”
Artykuły promocyjne/recenzje to „kłamstwa”
A wyniki generowane przez AI są nadal „kłamstwem”
to jest:
Używanie kłamstw do weryfikacji kłamstw z pewnością prowadzi do kłamstw!
Głębokie przemyślenia wywołują niepokój i dreszcze.
ujawnia to jeden z bólu punktów obecnego ekosystemu AI:
Duże modele w dużej mierze polegają na publicznych danych w internecie.
jakość danych jest nierówna i łatwo manipulowana.
Niektórzy uważają,
Wystarczy przeprowadzić krzyżową weryfikację wyników AI za pomocą wielu modeli.
Ta metoda wydaje się wykonalna i ma pewien efekt.
ale to tylko doraźne rozwiązanie, należy do weryfikacji po fakcie.
w ogóle nie nadaje się do medycyny/finansów/automatycznego prowadzenia w wysokiego ryzyka.
Jeden błąd może kosztować pieniądze, a nawet życie!
Jak więc przełamać impas?
Ostatecznie,
To skutkuje systematycznym zanieczyszczeniem danych treningowych/wnioskowania AI.
Rozwiązać problem może tylko ten, kto go stworzył.
Należy działać zgodnie z objawami, wciąż trzeba skupić się na danych.
Możliwe, że @PerleLabs dostarczyło świetny pomysł na rozwiązanie.
▂▂ Odrzucaj nieprzejrzyste i nieznanego pochodzenia dane.
▂▂ Weryfikacja danych powinna być przeprowadzana ręcznie, przez ekspertów.
▂▂ Umożliwić audyt i śledzenie danych na łańcuchu.
To znaczy,
Perle skupia się na jakości danych, w tym profesjonalizmie i dokładności.
* To jest zgodne z strategią airdrop —
Nagradzaj naprawdę zasłużonych użytkowników, odrzucając zachowanie farmerów.
To właśnie Perle buduje.
Warstwa Suwerennych Danych dla AI
(Warstwa suwerennych danych AI)
może zapewnić AI "wiarygodne, udowodnione źródło,
Dane wysokiej jakości, które "nie mogą być łatwo zanieczyszczane",
sprawić, aby AI nie polegało już całkowicie na internecie.
Mieszane dane z publicznych źródeł.
ale wykorzystuje dane mające suwerenne pochodzenie.
Dane, które można audytować i weryfikować.
Zróbmy porównanie,
Dane tradycyjnej AI są jak "bazar na rogu".
Tanie, ale stan sanitarny nie jest gwarantowany.
Warstwa suwerennych danych jest jak "żywność z certyfikatem ekologicznym".
Cena wysoka, ale jakość gwarantowana.
Możliwe, że wkrótce pojawi się "dualny system":
▎Konsumencka AI
Wciąż korzystaj z ogromnych publicznych danych — tanich, szerokich, ale z ryzykiem.
▎▍Profesjonalna/kluczowa dziedzina AI
takich jak medycyna, finanse, prawo, obrona itp. w scenariuszach wysokiego ryzyka.
Zwiększy się zależność od warstwy suwerennych danych — drogie, ale bardziej niezawodne.
Oczywiście, nie można tego zignorować.
Na obecnym etapie, biorąc pod uwagę koszty i zasięg,
Perle wciąż nie może całkowicie rozwiązać problemu "zatrucia" AI.
ale oferują coś ważniejszego —
Prawdziwe rozwiązanie musi pochodzić z samego źródła.
Perle, to słowo ma znaczenie "perła".
Perły są drogie,
jest w tym sens.
Jest też drogie, ale ma swoje uzasadnienie.
