@OpenGradient Я тут думал о конкретной строчке в анонсе запуска OpenGradient Chat на этой неделе, о части, где сказано, что вы можете "проверить эти гарантии самостоятельно, а не просто доверять словам OpenGradient". Это маленькая фраза, легко пропустить, но она делает то, что большинство маркетинговых заявлений о конфиденциальности не пытается сделать.
Большинство заявлений о конфиденциальности ИИ требуют доверия. Политический документ, обещание, иногда аудит третьей стороны, которому вы должны доверять, потому что сами не читали. Эта формулировка отличается по сути, а не только по степени; это приглашение проверить, а не просто уверение в том, чтобы верить.
Что на самом деле требуется, так это уровень технической грамотности, которого у большинства пользователей нет. Проверка аттестации TEE, сравнение значений PCR с ончейн-регистром, подтверждение хэш-сертификата TLS — ничего из этого не доступно тому, кто просто хочет задать приватный вопрос, не думая о криптографии. Так что гарантия в принципе проверяема, но на практике ее проверяет примерно никто, кроме небольшой технической аудитории.
Я постоянно размышляю, важно ли это расхождение. Банковский сейф тоже теоретически проверяем; вы можете изучить металлургию и механизмы замков, но почти никто этого не делает, и сейф все равно функционирует как сигнал доверия, потому что проверка существует для тех, кто ее хочет, даже если большинство людей никогда не проверяет.
Может быть, это правильное сравнение. Может, и нет, потому что криптографическая проверка и проверка сейфа не выполняют одну и ту же работу.
Что я все еще не знаю, так это то, опубликовал ли OpenGradient или какая-либо третья сторона действительно независимый гайд по проверке этих гарантий от начала до конца — что-то, что технически подготовленный, но неэкспертный пользователь мог бы следовать, или же проверяемость остается теоретической для всех, кроме оригинальной инженерной команды.? $OPG
#OPG
opengradient.ai
Большинство заявлений о конфиденциальности ИИ требуют доверия. Политический документ, обещание, иногда аудит третьей стороны, которому вы должны доверять, потому что сами не читали. Эта формулировка отличается по сути, а не только по степени; это приглашение проверить, а не просто уверение в том, чтобы верить.
Что на самом деле требуется, так это уровень технической грамотности, которого у большинства пользователей нет. Проверка аттестации TEE, сравнение значений PCR с ончейн-регистром, подтверждение хэш-сертификата TLS — ничего из этого не доступно тому, кто просто хочет задать приватный вопрос, не думая о криптографии. Так что гарантия в принципе проверяема, но на практике ее проверяет примерно никто, кроме небольшой технической аудитории.
Я постоянно размышляю, важно ли это расхождение. Банковский сейф тоже теоретически проверяем; вы можете изучить металлургию и механизмы замков, но почти никто этого не делает, и сейф все равно функционирует как сигнал доверия, потому что проверка существует для тех, кто ее хочет, даже если большинство людей никогда не проверяет.
Может быть, это правильное сравнение. Может, и нет, потому что криптографическая проверка и проверка сейфа не выполняют одну и ту же работу.
Что я все еще не знаю, так это то, опубликовал ли OpenGradient или какая-либо третья сторона действительно независимый гайд по проверке этих гарантий от начала до конца — что-то, что технически подготовленный, но неэкспертный пользователь мог бы следовать, или же проверяемость остается теоретической для всех, кроме оригинальной инженерной команды.? $OPG
#OPG
opengradient.ai