#opg $OPG Beberapa hari yang lalu, saya berbincang dengan teman developer tentang seberapa banyak data yang melewati sistem AI sebelum akhirnya respons muncul.
Prompt bergerak melalui lapisan pra-pemrosesan. Input ditransformasikan, difilter, diarahkan, dan dipersiapkan. Kemudian lebih banyak sistem yang masuk untuk memantau, mencatat, dan memvalidasi apa yang terjadi sepanjang jalan.
Pada suatu titik, kami berdua berhenti dan mengajukan pertanyaan sederhana:
Seberapa banyak infrastruktur modern yang ada untuk mengelola kompleksitas yang diciptakan oleh infrastruktur lainnya?
Pertanyaan itu tetap terbayang saat membaca tentang @OpenGradient
Selama bertahun-tahun, arsitektur AI sebagian besar telah berkembang ke luar. Lebih banyak lapisan. Lebih banyak checkpoint. Lebih banyak tempat di mana informasi dapat diperiksa, dimodifikasi, atau diamati. Setiap penambahan menyelesaikan masalah, tetapi sering kali memperkenalkan ketergantungan baru pada saat yang bersamaan.
Yang menarik tentang batasan eksekusi adalah bahwa mereka mendekati masalah dari arah yang berbeda.
Alih-alih meningkatkan jumlah tempat di mana kepercayaan harus dibangun, mereka mengurangi jumlah tempat di mana kepercayaan diperlukan di tempat pertama.
Itu terdengar seperti perbedaan teknis, tetapi memiliki implikasi yang lebih luas.
Ketika data bergerak melalui lebih sedikit tahap perantara, percakapan beralih dari memantau setiap transisi ke memverifikasi integritas eksekusi itu sendiri. Fokus berubah dari mengamati perjalanan ke memvalidasi hasilnya.
Ada sesuatu yang mengejutkan elegan tentang itu.
Bukan karena kompleksitas menghilang sepenuhnya, tetapi karena kompleksitas menjadi terfokus pada seperangkat jaminan yang lebih kecil yang dapat dipertimbangkan dengan lebih jelas.
Semakin dalam saya memikirkannya, semakin sedikit ini terasa seperti peningkatan infrastruktur dan semakin banyak terasa seperti pergeseran arsitektur.
Untuk waktu yang lama, kami telah mencoba menyelesaikan masalah kepercayaan dengan menambahkan lapisan.
Mungkin generasi berikutnya dari sistem AI akan menyelesaikannya dengan menghapus lapisan sebagai gantinya.
Dan mungkin inovasi yang paling berarti bukanlah yang membuat sistem lebih besar.
Mereka adalah yang membuat sistem lebih sederhana tanpa membuatnya lebih lemah.
@OpenGradient $OPG #opg $SPCX
Prompt bergerak melalui lapisan pra-pemrosesan. Input ditransformasikan, difilter, diarahkan, dan dipersiapkan. Kemudian lebih banyak sistem yang masuk untuk memantau, mencatat, dan memvalidasi apa yang terjadi sepanjang jalan.
Pada suatu titik, kami berdua berhenti dan mengajukan pertanyaan sederhana:
Seberapa banyak infrastruktur modern yang ada untuk mengelola kompleksitas yang diciptakan oleh infrastruktur lainnya?
Pertanyaan itu tetap terbayang saat membaca tentang @OpenGradient
Selama bertahun-tahun, arsitektur AI sebagian besar telah berkembang ke luar. Lebih banyak lapisan. Lebih banyak checkpoint. Lebih banyak tempat di mana informasi dapat diperiksa, dimodifikasi, atau diamati. Setiap penambahan menyelesaikan masalah, tetapi sering kali memperkenalkan ketergantungan baru pada saat yang bersamaan.
Yang menarik tentang batasan eksekusi adalah bahwa mereka mendekati masalah dari arah yang berbeda.
Alih-alih meningkatkan jumlah tempat di mana kepercayaan harus dibangun, mereka mengurangi jumlah tempat di mana kepercayaan diperlukan di tempat pertama.
Itu terdengar seperti perbedaan teknis, tetapi memiliki implikasi yang lebih luas.
Ketika data bergerak melalui lebih sedikit tahap perantara, percakapan beralih dari memantau setiap transisi ke memverifikasi integritas eksekusi itu sendiri. Fokus berubah dari mengamati perjalanan ke memvalidasi hasilnya.
Ada sesuatu yang mengejutkan elegan tentang itu.
Bukan karena kompleksitas menghilang sepenuhnya, tetapi karena kompleksitas menjadi terfokus pada seperangkat jaminan yang lebih kecil yang dapat dipertimbangkan dengan lebih jelas.
Semakin dalam saya memikirkannya, semakin sedikit ini terasa seperti peningkatan infrastruktur dan semakin banyak terasa seperti pergeseran arsitektur.
Untuk waktu yang lama, kami telah mencoba menyelesaikan masalah kepercayaan dengan menambahkan lapisan.
Mungkin generasi berikutnya dari sistem AI akan menyelesaikannya dengan menghapus lapisan sebagai gantinya.
Dan mungkin inovasi yang paling berarti bukanlah yang membuat sistem lebih besar.
Mereka adalah yang membuat sistem lebih sederhana tanpa membuatnya lebih lemah.
@OpenGradient $OPG #opg $SPCX