На днях я сидел в кафе с другом из инвестиционного фонда.
Он жаловался, что стоит ему спросить у ИИ о политических связях, санкциях или юридических рисках проекта, как ИИ начинает уклоняться от ответов или хеджировать.
Я ответил: “Наличие лимита – это тоже хорошо. По крайней мере, ИИ не помогает людям делать плохие вещи.”
Он спросил:
“Но у фонда уже есть инвестиционный мандат, команда комплаенса и юридический консультант. Почему ИИ имеет право блокировать исследования даже раньше них?”
Этот вопрос заставил меня задуматься.
Сначала я думал, что цензура – это просто уровень безопасности.
Но в рабочем процессе фонда это может превратиться в теневой уровень комплаенса: нет четкого мандата, нет ответственности, если риск будет упущен, но при этом тихо решается, куда может заглянуть аналитик.
Это не просто отказ.
Это политика ИИ вмешивается в управление фондом.
Поэтому, что меня привлекает в OpenGradient, так это не просто внедрение Nous Hermes в личный чат OpenGradient Chat как неконтролируемой модели.
А то, как проект разделяет две власти, которые часто смешивают: право на доступ к информации и право на принятие решений.
Nous Hermes расширяет область исследований.
Аналитик проверяет доказательства.
Команда комплаенса и юридический консультант устанавливают границы.
Фонд несет ответственность за окончательное решение.
Это дисциплина ролей.
OpenGradient не превращает ИИ в нечто, что стоит вне всех лимитов. Проект просто не позволяет политике безопасности модели становиться уровнем управления, который никогда не был уполномочен.
Для меня это именно то, на что стоит обратить внимание у @OpenGradient .
Когда регулирование и общественный контроль возрастут, сможет ли проект сохранить дисциплину ролей, продолжая отделять право на доступ к информации от права на принятие решений? Или теневой уровень комплаенса вернется, чтобы политика модели вмешивалась между аналитиками и их областью исследований?
$BSB $BEAT $OPG #opg
chat.opengradient.ai
Он жаловался, что стоит ему спросить у ИИ о политических связях, санкциях или юридических рисках проекта, как ИИ начинает уклоняться от ответов или хеджировать.
Я ответил: “Наличие лимита – это тоже хорошо. По крайней мере, ИИ не помогает людям делать плохие вещи.”
Он спросил:
“Но у фонда уже есть инвестиционный мандат, команда комплаенса и юридический консультант. Почему ИИ имеет право блокировать исследования даже раньше них?”
Этот вопрос заставил меня задуматься.
Сначала я думал, что цензура – это просто уровень безопасности.
Но в рабочем процессе фонда это может превратиться в теневой уровень комплаенса: нет четкого мандата, нет ответственности, если риск будет упущен, но при этом тихо решается, куда может заглянуть аналитик.
Это не просто отказ.
Это политика ИИ вмешивается в управление фондом.
Поэтому, что меня привлекает в OpenGradient, так это не просто внедрение Nous Hermes в личный чат OpenGradient Chat как неконтролируемой модели.
А то, как проект разделяет две власти, которые часто смешивают: право на доступ к информации и право на принятие решений.
Nous Hermes расширяет область исследований.
Аналитик проверяет доказательства.
Команда комплаенса и юридический консультант устанавливают границы.
Фонд несет ответственность за окончательное решение.
Это дисциплина ролей.
OpenGradient не превращает ИИ в нечто, что стоит вне всех лимитов. Проект просто не позволяет политике безопасности модели становиться уровнем управления, который никогда не был уполномочен.
Для меня это именно то, на что стоит обратить внимание у @OpenGradient .
Когда регулирование и общественный контроль возрастут, сможет ли проект сохранить дисциплину ролей, продолжая отделять право на доступ к информации от права на принятие решений? Или теневой уровень комплаенса вернется, чтобы политика модели вмешивалась между аналитиками и их областью исследований?
$BSB $BEAT $OPG #opg
chat.opengradient.ai