Cứ vài năm một lần, ngành công nghiệp của chúng ta lại khám phá ra một sự thật cũ và giả vờ như nó mới mẻ.
Clean code.
Microservices.
DevOps.
Giờ đây:
prompt engineering.
Đột nhiên, những người chỉ từng ra mắt một ứng dụng CRUD duy nhất vào năm 2019 lại đăng tweet những thứ như:
“The problem isn’t your system. It’s your prompts.” Không.
Vấn đề vẫn là hệ thống của bạn.
Prompt engineering không phải là viên đạn bạc.
Nó chỉ là một miếng băng cá nhân rất đắt tiền được dán lên những vết thương kiến trúc vốn đã nhiễm trùng.
Ảo Tưởng
Ảo tưởng diễn ra như thế này:
- Bạn có một backend lộn xộn
- API không nhất quán
- Không có ranh giới domain thực sự
- Logic nghiệp vụ nằm rải rác khắp nơi:
controllers, cron jobs, và cả tin nhắn Slack
Nhưng rồi…
✨ Bạn thêm AI vào ✨
✨ Bạn tinh chỉnh prompt ✨
✨ Bạn thêm dòng “You are a senior engineer” ở đầu ✨
Và một cách kỳ diệu, trí tuệ tuôn chảy qua hệ thống của bạn như dòng điện.
Chỉ có điều, phần mềm không hoạt động như vậy.
Chẳng có thứ gì hoạt động như vậy cả.
Kiểm Tra Thực Tế:
AI Bước Vào Hệ Thống Của Bạn
Một LLM không nhìn thấy sản phẩm của bạn.
Nó chỉ thấy:
- Bất kỳ JSON nào bạn nhớ để truyền vào
- Bất kỳ ngữ cảnh nào vừa với cửa sổ token
- Bất kỳ schema viết dở nào mà ai đó thêm vào lúc 2 giờ sáng
Vì vậy, khi AI của bạn “đưa ra quyết định tồi”, thường thì nó đang làm chính xác những gì bạn yêu cầu — bên trong một lớp trừu tượng đã hỏng.
Đó không phải là ảo giác.
Đó là sự tuân lệnh.
Prompt Engineering vs.
Các Vấn Đề Cấu Trúc
Hãy thành thật về những gì prompt đang được dùng để che giấu:
❌ Thiếu ranh giới domain
“Please carefully infer the user’s intent.”
❌ Mô hình dữ liệu không nhất quán
“Use your best judgment if fields are missing.”
❌ Không có nguồn chân lý duy nhất
“If multiple values conflict, choose the most reasonable one.”
❌ Logic nghiệp vụ nằm ở năm chỗ khác nhau
“Follow company policy (described below in 800 tokens).”
Đây không phải là trí tuệ AI.
Đây là việc thuê ngoài các quyết định kiến trúc cho chức năng tự động hoàn thành.
Trò Đùa Về Hệ Thống Phân Tán (Mà Không Phải Là Trò Đùa)
Khi bạn xây dựng các AI agent, bạn nhanh chóng học được một điều khó chịu:
AI agents are just distributed systems that can talk back. Chúng có:
- Trạng thái (mà bạn giả vờ là không trạng thái)
- Độ trễ (mà bạn phớt lờ)
- Chế độ lỗi (mà logs không thể giải thích)
- Hiệu ứng phụ (xảy ra hai lần)
Vì vậy, khi agent của bạn:
- tính phí người dùng hai lần
- thử lại một hành động không chính xác
- hoặc tự tin làm sai việc
Đó không phải là “AI không thể đoán trước”.
Đó là hành vi cổ điển của hệ thống phân tán, giờ được kể lại bằng ngôn ngữ tự nhiên.
“Nhưng Chúng Tôi Có Hàng Rào Bảo Vệ”
Ai cũng nói vậy.
Hàng rào bảo vệ rất tuyệt.
Dây an toàn cũng vậy.
Nhưng dây an toàn không sửa được:
- một vô lăng bị mất
- một động cơ được ghép lại với nhau bằng YAML
- hoặc một lộ trình được quyết định bởi cảm tính
Hầu hết các hàng rào bảo vệ ngày nay chỉ là:
- thêm prompt
- thêm câu lệnh điều kiện
- thêm “nếu không chắc, hãy hỏi người dùng”
Đến một lúc nào đó, bạn không còn đang xây dựng một hệ thống nữa.
Bạn đang đàm phán với nó.
Sự Thật Không Được Lòng
AI không thay thế kiến trúc.
Nó khuếch đại nó.
Kiến trúc tốt:
- làm cho AI trở nên nhàm chán
- có thể dự đoán được
-
đáng tin cậy
Kiến trúc tồi: -
làm cho AI trông thật kỳ diệu
-
cho đến khi lên production
-
cho đến khi cần mở rộng quy mô
-
cho đến khi xét đến chi phí
-
cho đến khi người dùng làm những việc thực sự
Đó là lý do tại sao các bản demo AI trông thật tuyệt vời còn các sản phẩm AI lại cảm thấy…
mong manh.
Tại Sao Điều Này Cứ Tiếp Diễn
Bởi vì prompt engineering:
- nhanh
- dễ thấy
- dễ đăng tweet
Còn kiến trúc thì:
- chậm
- vô hình
- chỉ được chú ý khi nó thất bại
Vì vậy, chúng ta tối ưu cho prompt.
Chúng ta phớt lờ các ranh giới.
Chúng ta ra mắt “trí tuệ” trên nền tảng của sự hỗn loạn.
Và rồi chúng ta đổ lỗi cho mô hình.
Góc Nhìn Của Lập Trình Viên Kỳ Cựu
Nếu hệ thống AI của bạn cần:
- một prompt dài 2.000 token để giải thích quy tắc nghiệp vụ
- liên tục thử lại để “làm cho đúng”
- có người xem xét cho mọi quyết định quan trọng
Bạn không có vấn đề về AI.
Bạn có một vấn đề về kiến trúc mà giờ đây biết nói tiếng Anh.
Suy Nghĩ Cuối Cùng
Prompt engineering sẽ không sửa chữa kiến trúc của bạn.
Nhưng nó sẽ phơi bày nó.
Một cách ồn ào.
Trong môi trường production.
Với sự tự tin.
Và thành thật mà nói?
Đó có lẽ là điều hữu ích nhất mà AI đã làm cho chúng ta cho đến nay.😎
