“AI-native” phải có nghĩa gì, nếu nó muốn có nghĩa

Hệ thống làm việc theo lịch của chính nó, không phải theo lệnh của người vận hành.

Suy luận chạy theo lịch lặp lại hoặc theo một sự kiện đến, riêng cho từng khách hàng, không cần con người khởi động — và người vận hành vẫn nhận được đầu ra vào ngày họ không hề mở sản phẩm.

Trượt như thế nào — AI chỉ tồn tại phía sau một cái nút. Số lần chạy trùng khớp hoàn toàn với số phiên, bởi chính phiên làm việc mới tạo ra chúng.

Đầu ra chính của hệ thống là một quyết định, không phải một bảng điều khiển.

Bề mặt mặc định được sinh ra chứ không phải được truy vấn: nó nêu điều gì đã thay đổi, cái giá của nó, và phải làm gì, theo thứ tự ưu tiên. Một bảng điều khiển buộc người vận hành tự nhận ra vấn đề thì không đạt tiêu chí này, dù AI có tạo ra bao nhiêu con số trong đó.

Trượt như thế nào — Biểu đồ kèm chú thích do AI viết. Việc quyết định điều gì quan trọng vẫn thuộc về người vận hành; mô hình chỉ thuật lại dữ liệu.

Hệ thống thay đổi thế giới, không chỉ thay đổi màn hình.

Ít nhất một loại thao tác ghi ra ngoài được hệ thống thực hiện lên một hệ thống ghi nhận thật, bên ngoài hoặc trong vận hành — giá, tình trạng trống, phân công, đầu việc, tin nhắn — trong giới hạn khách hàng đặt ra từ trước.

Trượt như thế nào — Mọi thứ đều là khuyến nghị. Sản phẩm là lời khuyên kèm nút sao chép, còn việc vận hành thật vẫn diễn ra ở nơi khác.

Mọi con số hệ thống nêu ra đều truy về được một bản ghi mà nó gọi tên được.

Đầu ra của AI đặt trên trạng thái vận hành đang sống của khách hàng, và mỗi mục đều mang tham chiếu tới những bản ghi nó được rút ra. Một con số chỉ tồn tại trong đoạn văn được sinh ra là trượt, dù nó có tình cờ đúng hay không.

Trượt như thế nào — Một đoạn văn được sinh ra chứa những con số không rõ xuất xứ. Không ai phân biệt được số cũ với số sai, nên rốt cuộc không ai kiểm cả hai.

Nó nói vì sao, ngay tại nơi quyết định được đưa ra, và có thể bị bác bỏ ngay tại đó.

Mỗi đầu ra mang theo lập luận của nó bằng ngôn ngữ của người vận hành, ngay tại điểm ra quyết định — không nằm trong log, không phải xin mới có — và người vận hành có thể phản đối chỉ trong một bước. Quyết định bác bỏ được tôn trọng: hệ thống không áp lại quyết định cũ ở lần chạy sau.

Trượt như thế nào — “Độ tin cậy: cao.” Một điểm số không phải là một lý do, và một hệ thống âm thầm hoàn tác chỉnh sửa của con người thì không phải đang bị bác bỏ, mà đang cãi lại.

Mọi hành động tự chủ đều có một giới hạn được công bố, một bản ghi kiểm toán và một người chịu trách nhiệm có tên.

Giới hạn được thực thi trong hệ thống chứ không nằm trong văn bản chính sách; mỗi lần chạy đều được ghi lại kèm đầu vào, đầu ra và những gì nó đã thay đổi; giới hạn được công bố ở nơi khách hàng đọc được trước khi bật hệ thống.

Trượt như thế nào — Giới hạn được mô tả trên trang “trung tâm tin cậy” nhưng không được thực thi ở đâu, hoặc được thực thi trong mã nguồn mà không khách hàng nào được xem. Cả hai đều không kiểm chứng được, và ở đây điều đó ngang với không có.

Khi tắt mô hình, hệ thống vẫn cho ra kết quả đúng và an toàn.

Mọi đường đi có dùng mô hình đều có một đường không dùng mô hình, làm đầu ra kém đi nhưng không làm gãy vận hành. Phải trình diễn trực tiếp với suy luận bị tắt: công việc trong ngày vẫn tới, chỉ gọn hơn.

Trượt như thế nào — Sự cố của nhà cung cấp trở thành sự cố của khách hàng. AI-native không có nghĩa là lệ thuộc vào AI; một hệ thống không chạy nổi ngày thứ Ba khi thiếu mô hình là đã thuê ngoài phần sàn của mình, chứ không phải phần trần.

Những gì người vận hành làm với đầu ra sẽ thay đổi chính đầu ra đó.

Việc chấp nhận, bỏ qua, chỉnh sửa và hoàn tất đều được ghi lại như tín hiệu và chứng minh được là làm thay đổi các lần chạy sau — qua việc chặn hiển thị, xếp hạng, ngưỡng, hoặc huấn luyện lại. Chỉ thu tín hiệu mà không dùng thì không đạt tiêu chí này.

Trượt như thế nào — Một cú “không thích” rơi vào một bảng dữ liệu không ai đọc. Hệ thống lặp lại đề xuất đã bị từ chối mỗi tuần và gọi đó là sự nhất quán.

Bỏ AI đi thì sản phẩm không còn là sản phẩm đó nữa.

AI nằm trên chính con đường khách hàng trả tiền, không phải bên cạnh nó. Bỏ nó đi phải phá vỡ lời hứa cốt lõi — chứ không chỉ mất một tính năng — và công ty phải nói được họ sẽ phải dựng lại những gì.

Trượt như thế nào — AI chỉ là một gói dịch vụ. Có thể tắt nó cho phần lớn khách hàng mà không ai nhận ra, và đó là bằng chứng rõ nhất rằng nó chưa bao giờ là sản phẩm.