Вчора у мене було трохи вільного часу, тож я з Лі поговорив про дуже звичайну шопінг-прогулянку. Рішення були швидкими, розумними і базувалися на існуючих відгуках та рекомендаціях. Очевидно, нічого не було неправильно, але залишалося дивне відчуття: я зробив правильні вибори, але насправді не знав, чому я їх зробив.
Ми запитуємо у ШІ питання і отримуємо швидкі, чіткі, переконливі відповіді, але що зникає, так це шлях міркувань за ними. Знання все ще існує, але наша здатність бачити, як воно було сформовано, поступово згасає.
@OpenGradient побудовано навколо саме цього розриву. Проект не намагається зробити ШІ більш інтелектуальним або точним. Він зосереджується на чомусь більш фундаментальному: можливості перевіряти, як ШІ приходить до висновків.
В основі OpenGradient лежить інференція — найважливіша, але найменш видима частина сучасних систем ШІ. Коли інференція відбувається всередині централізованих систем, користувачі повинні довіряти, що модель була виконана правильно, що нічого не було змінено, і що вихід відображає зазначений процес. OpenGradient намагається вивести інференцію з зони "просто довіряй цьому" шляхом роблення.
$BTC