Один вопрос постоянно крутится у меня в голове, когда люди обсуждают ИИ в регулируемых отраслях:
Насколько много информации организации на самом деле готовы поделиться с ИИ-системой, когда последствия ошибки реальны?
В здравоохранении, финансах, юридических услугах и даже в государственных процессах вопрос редко заключается в том, полезен ли ИИ. Дело в том, могут ли люди доверять окружающей среде. Большинство ИИ-продуктов, кажется, рассматривают конфиденциальность как исключение. Данные собираются сначала, а затем накладываются политики, разрешения и рамки соблюдения.
Этот подход работает, пока не сработает.
Я видел достаточно технологических систем, чтобы знать, что люди часто действуют согласно стимулам, а не намерениям. Политика конфиденциальности может быть хорошо написана, но политики могут изменяться. Инфраструктуру сложнее изменить.
Вот почему мне интересен @OpenGradient OpenGradient. Вместо того чтобы просить пользователей доверять компании, проект, похоже, исследует, можно ли встроить конфиденциальность прямо в архитектуру. С OpenGradient Chat (chat.opengradient.ai) идея заключается в том, что сообщения шифруются на устройстве пользователя, а личности удаляются до того, как запросы достигают модели. Увидим, будет ли эта модель масштабируемой на практике, но это кажется ближе к тому, как регулируемые среды на самом деле думают о рисках.
Для меня реальная ценность $OPG не в спекуляциях. Это возможность, что конфиденциальность станет стандартным условием, а не специальным запросом.
Если это сработает, учреждения могут наконец получить путь к внедрению ИИ без постоянных переговоров о исключениях. Если это провалится, вероятно, это будет из-за того, что удобство использования и операционная сложность перевешивают преимущества.
#opg
Насколько много информации организации на самом деле готовы поделиться с ИИ-системой, когда последствия ошибки реальны?
В здравоохранении, финансах, юридических услугах и даже в государственных процессах вопрос редко заключается в том, полезен ли ИИ. Дело в том, могут ли люди доверять окружающей среде. Большинство ИИ-продуктов, кажется, рассматривают конфиденциальность как исключение. Данные собираются сначала, а затем накладываются политики, разрешения и рамки соблюдения.
Этот подход работает, пока не сработает.
Я видел достаточно технологических систем, чтобы знать, что люди часто действуют согласно стимулам, а не намерениям. Политика конфиденциальности может быть хорошо написана, но политики могут изменяться. Инфраструктуру сложнее изменить.
Вот почему мне интересен @OpenGradient OpenGradient. Вместо того чтобы просить пользователей доверять компании, проект, похоже, исследует, можно ли встроить конфиденциальность прямо в архитектуру. С OpenGradient Chat (chat.opengradient.ai) идея заключается в том, что сообщения шифруются на устройстве пользователя, а личности удаляются до того, как запросы достигают модели. Увидим, будет ли эта модель масштабируемой на практике, но это кажется ближе к тому, как регулируемые среды на самом деле думают о рисках.
Для меня реальная ценность $OPG не в спекуляциях. Это возможность, что конфиденциальность станет стандартным условием, а не специальным запросом.
Если это сработает, учреждения могут наконец получить путь к внедрению ИИ без постоянных переговоров о исключениях. Если это провалится, вероятно, это будет из-за того, что удобство использования и операционная сложность перевешивают преимущества.
#opg