Tôi từng nghĩ rằng mình kiểm soát những gì mình chia sẻ

những ứng dụng nào lấy ảnh của tôi. những cuộc trò chuyện nào lưu lại lịch sử của tôi. tôi nghĩ mình là người quyết định

rồi tuần trước tôi mở một cuộc trò chuyện AI. gõ vài câu hỏi công việc. đóng lại

ngày hôm sau tôi mở lại. nó nhớ tôi. gọi tôi bằng tên. gợi ý chính xác những gì tôi đang làm

Tôi không nhớ đã bật tính năng nhớ

và tôi bắt đầu nghĩ về OpenGradient

OpenGradient tự hào về việc suy diễn riêng tư. tin nhắn được mã hóa trên thiết bị của bạn. danh tính bị tách khỏi nội dung. một relay nhìn thấy bạn là ai nhưng không thấy những gì bạn nói. một enclave thấy những gì bạn nói nhưng không biết bạn là ai

kiến trúc thật đẹp

nhưng tôi nhận ra có điều gì đó khó hơn cả mã hóa

Tôi gọi nó là Consent Drift

bạn đồng ý cho AI nhớ một điều. rồi nó nhớ một điều khác. rồi nó kết nối cả hai. rồi nó suy ra một điều thứ ba mà bạn chưa bao giờ nói ra

và bạn không biết khi nào mình đã cho phép

vấn đề không phải là liệu AI có thể đọc tin nhắn của bạn

vấn đề là nó biết nhiều hơn về bạn so với những gì bạn nghĩ mình đã nói với nó

nếu OpenGradient muốn suy diễn riêng tư thực sự có nghĩa, tôi nghĩ họ nên xây dựng thêm một điều nữa

không phải là nhật ký những gì AI đã nhớ

mà là nhật ký những gì AI đã suy ra

bởi vì mã hóa tin nhắn không bảo vệ bạn khỏi những kết luận mà AI rút ra từ nó #opg $OPG @OpenGradient_
$SYN
$HOME