Sau 7 tháng code với AI: Kiến trúc hệ điều hành AI tự giao việc, tự làm, tự review

Sau 7 tháng miệt mài code cùng AI, nhìn lại những kiến trúc mình từng vẽ và triển khai ban đầu, quả thực vẫn còn rất ngây ngô và thiếu thực tế nhiều. Bài viết này là bản đúc kết toàn bộ hành trình xây dựng một hệ điều hành AI (Agent OS) thực thụ: nơi AI có thể tự giao việc, tự thực hiện, tự kiểm thử, tự báo cáo và tự tiến hóa ở quy mô doanh nghiệp.

1. Trải nghiệm 7 tháng: Từ Vibe Coding ngây ngô đến Autonomous Agent OS

Cá nhân mình nhận thấy hiện nay chúng ta không cần phải phân định ranh giới giữa 'vibe coding' và 'vibe working' nữa. Bản chất của cả hai đều là việc con người phối hợp với AI để chuyển hóa ý tưởng thành sản phẩm cụ thể.

Hơn nữa, từ 'vibe' nghe chừng cũng đã hơi cũ kỹ và mang nặng tính may rủi, lệ thuộc vào việc AI tung xúc xắc xem hôm nay trả lời hay hay dở. Để xây dựng một giải pháp có thể ứng dụng trong môi trường doanh nghiệp nghiêm túc, chúng ta không thể dựa vào sự may rủi mà bắt buộc phải có một hệ điều hành với các cơ chế kiểm soát tất định.

Vibe coding là trò chơi của cảm xúc và sự ngẫu hứng; còn xây dựng hệ điều hành AI là bài toán của kỷ luật kiến trúc và sự kiểm soát tất định.

2. Ba tầng cấu trúc của Hệ điều hành AI: Giao việc -> Thực thi -> Thẩm định độc lập

Một hệ điều hành AI hoàn chỉnh không thể là một con bot duy nhất làm tất cả mọi thứ. Nó phải được phân rã thành một cấu trúc 3 tầng với sự phân chia trách nhiệm rõ ràng:

• Tầng Điều phối (Orchestrator Layer): Tiếp nhận mục tiêu kinh doanh cấp cao, phân tích đồ thị phụ thuộc công việc (DAG), tính toán độ ưu tiên và tự động chia nhỏ thành các nhiệm vụ cụ thể cho từng tác nhân con.
• Tầng Thực thi (Execution Layer): Nơi các Agent chuyên trách bắt tay vào viết mã, sinh tài liệu và chạy các lệnh kỹ thuật bên trong một môi trường được cô lập an toàn.
• Tầng Thẩm định Độc lập (Evaluation & Judge Layer): Sử dụng các mô hình đánh giá độc lập (LLM-as-a-judge) kết hợp với các bài kiểm thử tự động để nghiệm thu chất lượng sản phẩm trước khi cho phép hợp nhất vào hệ thống.

3. Hai lỗ hổng chí tử trên các bản thiết kế mạng: Quản trị Tri thức và Phân quyền

Quan sát các bản thiết kế kiến trúc AI được chia sẻ rầm rộ trên mạng xã hội hiện nay, mình thấy đa số trông rất đẹp mắt nhưng đều bị hổng hai mảng cực kỳ quan trọng:

Lỗ hổng thứ nhất là Quản trị Tri thức (Knowledge Management): phần lớn các hệ thống không có cơ sở dữ liệu đồ thị hoặc cơ chế lưu trữ phiên bản để theo dõi sự tiến hóa của thông tin, dẫn đến việc Agent bị mất trí nhớ sau mỗi phiên làm việc.

Lỗ hổng thứ hai là Phân quyền và Bảo mật (RBAC & Security): các sự cố rò rỉ dữ liệu gần đây của một số công cụ lập trình AI là minh chứng rõ ràng cho thấy nguy cơ bảo mật nghiêm trọng khi trao quyền truy cập vô tội vạ cho các tác nhân mà thiếu đi các rào chắn kiểm soát an toàn.

Một hệ thống AI không có cơ chế phân quyền cũng giống như trao chìa khóa vạn năng cho một người lạ bước vào toàn bộ ngôi nhà của bạn.

4. Lời kết và lời mời đóng góp hoàn thiện kiến trúc

Sau vài tháng tự mày mò nghiên cứu và tự tay viết code, mình đã hoàn thiện bản phác thảo kiến trúc hệ điều hành AI này và bắt đầu đưa vào áp dụng thực tế cho các dự án nội bộ.

Kiến trúc chắc chắn vẫn còn nhiều điểm cần được tối ưu và cải thiện. Rất mong nhận được những viên gạch đóng góp, phản biện thẳng thắn từ các anh em chuyên gia để cùng nhau hoàn thiện một giải pháp thực sự giá trị cho cộng đồng.