Tôi có lẽ đã từ bỏ nhiều ý tưởng AI hơn là những gì tôi thực sự đã triển khai.
Không phải vì những ý tưởng đó tệ. Hầu hết chúng vẫn nghe có vẻ hợp lý với tôi thật lòng. Vấn đề luôn nằm ở mọi thứ liên quan đến chính ý tưởng đó.
Bạn bắt đầu nghĩ về APIs, triển khai, lưu trữ mô hình, pipeline dữ liệu, chi phí suy diễn. Rồi đột nhiên, cái insight thực sự chỉ trở thành khoảng 10% công việc và phần còn lại biến thành việc bảo trì cơ sở hạ tầng trước khi bạn thậm chí đã chứng minh rằng thứ đó nên tồn tại.
Sau đủ vòng lặp như vậy, bạn ngừng mở laptop khi có một ý tưởng mới xuất hiện vì bạn đã biết quy trình sẽ dẫn đến đâu.
Đó là lý do chủ yếu khiến ModelFactory thu hút sự chú ý của tôi.
Mọi người cứ mô tả nó như là “công cụ AI không cần mã,” điều này đúng, tôi đoán vậy. Nhưng tôi không nghĩ rằng sự tiện lợi là phần thú vị.
Tôi nghĩ điều quan trọng hơn là khoảng cách giữa chuyên môn và triển khai đang trở nên kỳ lạ nhỏ lại.
Hiện tại, nhiều kiến thức về miền quý giá vẫn phụ thuộc vào các kỹ sư để trở thành phần mềm sử dụng được. Một bác sĩ tim mạch có thể hiểu các trường hợp chẩn đoán biên tốt hơn bất kỳ ai khác trong phòng, nhưng kiến thức đó thường bị kẹt lại trong trực giác, ghi chú, nhận dạng mẫu được xây dựng trong nhiều năm. Cũng tương tự với các nhà giao dịch, luật sư, nhà nghiên cứu, và những người vận hành trong các ngành ngách.
Kỳ lạ thay, những người hiểu rõ nhất về một miền thường là những người kém khả năng biến nó thành phần mềm nhất.
Và lịch sử cho thấy rằng điều đó có nghĩa là nhiều giá trị đã bị rò rỉ ra ngoài. Những người đóng gói kiến thức kỹ thuật thường thu được nhiều lợi nhuận hơn những người thực sự hiểu miền ngay từ đầu.
ModelFactory thay đổi một số động lực đó.
Bạn có thể thấy nơi này đang đi rồi: kết nối một Datanet, tinh chỉnh thông qua một bảng điều khiển, triển khai thông qua OpenLoRA. Không cần phải lắp ráp một ngăn xếp cơ sở hạ tầng thực sự. Không cần đội ngũ kỹ sư chỉ để kiểm tra xem kiến thức của bạn có thể trở thành thứ có thể sử dụng hay không.
Phần OpenLoRA quan trọng hơn những gì mọi người nghĩ.
Thông thường, các mô hình đã tinh chỉnh trở nên đắt đỏ nhanh chóng vì mỗi biến thể cần tính toán gắn liền với nó. Bạn đào tạo một mô hình, bạn lưu trữ một mô hình, bạn phải trả tiền cho mô hình đó dù có ai sử dụng hay không. Ở quy mô nhỏ có thể quản lý được. Nhưng khi bạn bắt đầu thử nghiệm nhiều biến thể khác nhau với các tập dữ liệu hoặc đầu vào đối kháng, hầu hết các nhà phát triển đơn lẻ sẽ gặp khó khăn khá nhanh.
OpenLoRA vượt qua một phần điều đó bằng cách chia sẻ trọng số cơ bản và chỉ tải các lớp chuyên biệt khi cần thiết. Vì vậy, thay vì mỗi mô hình hoạt động như một hệ thống tách biệt, hàng ngàn mô hình chuyên biệt có thể chạy trên cùng một GPU hiệu quả hơn nhiều.
Nếu không có thứ gì như vậy, hầu hết mọi người có thể không bao giờ đạt đến giai đoạn thử nghiệm. Họ dừng lại ở chi phí tính toán.
Và tôi nghĩ điều đó thay đổi hình dạng phát triển AI nhiều hơn những gì mọi người nhận ra.
Bởi vì một khi việc xây dựng trở nên đủ rẻ, việc thực hiện kỹ thuật không còn là nút thắt chính. Vấn đề khó khăn hơn trở thành khả năng phán đoán.
Bạn hoàn toàn có thể xây dựng một mô hình trên dữ liệu yếu hoặc ồn ào và vẫn có đầu ra trông thuyết phục trong một thời gian. Đó có lẽ là phần nguy hiểm, đặc biệt trong các thị trường. Các mô hình không cần phải chính xác để kiếm được lòng tin ban đầu. Chúng chỉ cần nghe có vẻ mạch lạc đủ lâu để ai đó có thể dựa vào chúng.
Rồi thực tế xuất hiện.
Vì vậy, tôi nghi ngờ rằng những người chiến thắng trong các hệ thống như thế này sẽ chỉ đơn giản là những người xây dựng nhanh nhất. Có khả năng hơn, đó sẽ là những người hiểu giới hạn của các tập dữ liệu của mình, những người biết khi nào mô hình của họ đang thất bại ngay cả khi các đầu ra vẫn nghe có vẻ tự tin.
Đó là một bộ kỹ năng rất khác so với kỹ thuật thuần túy.
Và thành thật mà nói, tôi nghĩ đó là nơi OpenLedger trở nên thú vị hơn so với vẻ ngoài ban đầu của nó. ModelFactory, OpenLoRA, Datanets có quyền — riêng lẻ trông giống như công cụ. Cùng nhau, chúng bắt đầu trông giống như cơ sở hạ tầng để biến chuyên môn miền thành một thứ có thể triển khai.
Có thể điều đó hoạt động ở quy mô lớn, có thể không. Tôi thậm chí chưa hoàn toàn chắc chắn nữa.
Nhưng hướng đi cảm thấy thực.
Phát triển AI ngày càng được nén vào các quy trình làm việc mà những người không phải kỹ sư có thể tham gia trực tiếp, và nếu xu hướng đó tiếp tục, câu hỏi quan trọng có lẽ sẽ không còn là ai có thể xây dựng mô hình.
Câu hỏi là liệu ai đó có thực sự biết điều gì đó đủ giá trị để mô hình hóa ngay từ đầu hay không.