Prompt Engineering chưa hết nóng, Graph Engineering đã ra lò
Từ Prompt Engineering đến Graph Engineering
Chỉ trong khoảng hai năm, cách chúng ta xây dựng AI đã thay đổi rất nhiều. Ban đầu mọi người dành phần lớn thời gian để học Prompt Engineering, tức là học cách giao tiếp với AI. Sau đó đến Context Engineering, nơi trọng tâm chuyển sang việc chuẩn bị đúng dữ liệu và đúng ngữ cảnh để AI có đủ thông tin trước khi suy luận.
Đầu năm nay, cộng đồng lại nói rất nhiều về Loop Engineering khi AI Agent bắt đầu biết tự suy nghĩ, tự sử dụng công cụ, tự kiểm tra kết quả rồi lặp lại cho đến khi hoàn thành công việc. Và chỉ vài tuần gần đây, một khái niệm mới lại xuất hiện liên tục trên X, Reddit và các cộng đồng AI: Graph Engineering.
Mình thấy Graph Engineering không phải là một kỹ thuật mới mà là hệ quả tất yếu khi AI Agent bắt đầu xử lý những công việc đủ lớn. Andrew Ng mở đầu tài liệu của mình bằng một câu rất đáng chú ý: "Architecture matters more than the model." Nghĩa là khi các mô hình AI ngày càng mạnh và khoảng cách giữa chúng ngày càng thu hẹp, lợi thế cạnh tranh sẽ không còn nằm ở việc dùng GPT, Claude hay Qwen, mà nằm ở cách bạn thiết kế cả hệ thống phía sau.
Điều này nghe khá giống với ngành phần mềm. Hai công ty có thể cùng dùng một ngôn ngữ lập trình, cùng dùng một cơ sở dữ liệu, nhưng sản phẩm cuối cùng lại khác nhau hoàn toàn vì kiến trúc hệ thống khác nhau. AI cũng đang bước vào giai đoạn như vậy. Model dần trở thành một thành phần trong hệ thống, thay vì là toàn bộ hệ thống.
Vì sao Graph Engineering xuất hiện?
Để hiểu vì sao Graph Engineering xuất hiện, trước tiên cần hiểu cách hầu hết AI Agent hiện nay hoạt động. Phần lớn các Agent đều chạy theo một vòng lặp khá đơn giản. Nhận yêu cầu, suy nghĩ, thực hiện hành động, kiểm tra kết quả rồi tiếp tục lặp lại nếu công việc chưa hoàn thành. Đây chính là Loop Engineering. Claude Code, Codex, Cursor hay Qoder đều hoạt động theo tư duy này. Chúng không chỉ trả lời câu hỏi mà có thể tự viết code, chạy terminal, sửa lỗi rồi thử lại nhiều lần cho đến khi chương trình chạy được.
Loop Engineering giải quyết rất tốt những công việc có phạm vi nhỏ. Nhưng khi AI bắt đầu xử lý những bài toán lớn hơn thì bottleneck cũng xuất hiện rất nhanh. Hãy tưởng tượng bạn yêu cầu AI xây dựng một sản phẩm hoàn chỉnh. Nó phải đọc tài liệu yêu cầu, nghiên cứu đối thủ, tìm kiếm thông tin trên Internet, viết mã nguồn, chạy kiểm thử, sửa lỗi, viết tài liệu hướng dẫn rồi mới triển khai. Nếu tất cả các bước này đều do một Agent thực hiện thì toàn bộ trạng thái của dự án đều phải nằm trong một cửa sổ ngữ cảnh duy nhất. Dự án càng lớn, cửa sổ ngữ cảnh càng dài.
Agent phải nhớ mình đã làm gì, đọc tài liệu nào, sửa lỗi gì, thử giải pháp nào và còn bao nhiêu việc chưa hoàn thành. Lượng token tăng lên, thời gian xử lý lâu hơn, việc kiểm tra lỗi cũng trở nên khó khăn hơn vì mọi thứ đều nằm trong cùng một vòng lặp.
Đây chính là giới hạn của một Agent. Hiện tại, AI đang phải đóng quá nhiều vai trò cùng lúc. Nó vừa là người lập kế hoạch, vừa là lập trình viên, vừa là người kiểm thử, vừa là người phản biện và cũng là người ra quyết định cuối cùng. Trong thực tế, không có công ty nào vận hành theo cách đó.
Graph Engineering xuất hiện để thay đổi đúng điểm này
Thay vì xây dựng một AI biết làm tất cả, Graph Engineering chia toàn bộ công việc thành nhiều nút nhỏ, mỗi nút chỉ đảm nhận một vai trò duy nhất. Có AI chuyên lập kế hoạch, AI chuyên nghiên cứu, AI chuyên viết mã nguồn, AI chuyên chạy kiểm thử, AI chuyên kiểm tra tính chính xác, AI chuyên đánh giá kết quả cuối cùng. Nếu Loop Engineering giống như một nhân viên đa năng thì Graph Engineering giống như việc xây dựng cả một tổ chức, nơi mỗi người đều có chuyên môn riêng và phối hợp với nhau để hoàn thành một dự án.
Nhưng nhiều Agent vẫn chưa phải là Graph Engineering
Điểm quan trọng nhất của Graph không nằm ở số lượng Agent mà nằm ở cách các Agent trao đổi thông tin với nhau.
Trong một hệ thống thông thường, gần như mọi thứ AI biết đều nằm trong cửa sổ ngữ cảnh. Khi phiên làm việc kết thúc hoặc cửa sổ ngữ cảnh đầy lên, AI gần như phải bắt đầu lại từ đầu. Nó phải đọc lại tài liệu, xây dựng lại bối cảnh và nhớ lại những gì mình đã làm. Điều này giống như một nhân viên mỗi sáng đi làm lại phải đọc toàn bộ email từ đầu để nhớ hôm qua mình đang làm đến đâu.
Bên trong Graph Engineering, dữ liệu chảy như thế nào?
Graph Engineering thay đổi hoàn toàn cách ghi nhớ này bằng một khái niệm gọi là Shared State. Thay vì lưu mọi thứ trong trí nhớ của từng Agent, toàn bộ trạng thái của công việc được đưa ra bên ngoài thành một vùng dữ liệu chung. Kế hoạch dự án, tài liệu đã đọc, các dữ kiện đã kiểm chứng, kết quả kiểm thử, những lỗi đã phát hiện hay quyết định của từng Agent đều được lưu lại trong Shared State. Mỗi Agent chỉ cần đọc đúng phần dữ liệu mình cần, xử lý công việc rồi ghi kết quả trở lại. Nó không cần đọc lại toàn bộ cuộc hội thoại để biết chuyện gì đã xảy ra.
Nếu ví AI như một nhóm người cùng làm dự án thì Shared State giống hệt một tài liệu Google Docs mà cả nhóm cùng sử dụng. Người nghiên cứu ghi kết quả nghiên cứu. Người lập trình đọc kết quả đó để viết code. Người kiểm thử đọc phiên bản mới nhất để chạy test. Người đánh giá đọc toàn bộ kết quả để đưa ra quyết định cuối cùng. Không ai phải hỏi lại từ đầu hay đọc lại toàn bộ lịch sử làm việc của cả nhóm.
Đó cũng là lý do Anthropic đưa ra một nhận xét rất thú vị: Agent có thể quên, nhưng Graph thì không quên. Trí nhớ không còn nằm trong model mà đã trở thành một phần của hệ thống.
Graph Engineering cũng thay đổi hoàn toàn cách dữ liệu di chuyển trong hệ thống. Thay vì mọi bước đều chạy tuần tự, công việc được chia thành nhiều nhánh có thể thực hiện đồng thời. Nếu cần phân tích 100 báo cáo tài chính, hệ thống có thể tạo ra 100 Agent nhỏ, mỗi Agent đọc một báo cáo riêng rồi gửi kết quả về một Agent tổng hợp. Nếu cần kiểm tra một đoạn mã nguồn, một Agent có thể chạy kiểm thử trong khi Agent khác kiểm tra bảo mật và Agent thứ ba đánh giá hiệu năng. Cuối cùng, một Agent tổng hợp sẽ đọc kết quả của tất cả các Agent trước đó để đưa ra quyết định. Model hoàn toàn không thay đổi, nhưng tốc độ xử lý của cả hệ thống tăng lên rất nhiều nhờ kiến trúc mới.
