Dùng AI trong học liệu số: Bắt buộc người giám sát và chịu trách nhiệm

Quyết định 1965/QĐ-TTg của Thủ tướng Chính phủ vừa ban hành đã chính thức phê duyệt Đề án xây dựng Hệ thống học liệu số quốc gia đối với giáo dục phổ thông. Văn bản này đặt ra khung định hướng kỹ thuật và pháp lý quan trọng cho các tổ chức, doanh nghiệp công nghệ, đơn vị phát triển giải pháp trí tuệ nhân tạo (AI) cùng các cơ quan vận hành hệ thống giáo dục số trên toàn quốc.

Bắt buộc con người giám sát và chịu trách nhiệm với quyết định của AI

Trí tuệ nhân tạo mở ra nhiều tiềm năng trong việc cá nhân hóa học tập và tối ưu hóa tài nguyên giáo dục, song cũng tiềm ẩn rủi ro sai lệch nội dung hoặc đưa ra các phán đoán thiếu chuẩn mực. Nhằm thiết lập hành lang an toàn, Đề án xác định nguyên tắc cốt lõi về kiểm soát công nghệ.

Cụ thể, theo Điều 1, Mục V, Khoản 4, Điểm b, quy định nêu rõ: "Việc ứng dụng trí tuệ nhân tạo phải bảo đảm sự giám sát, kiểm soát và chịu trách nhiệm của con người đối với các quyết định thuộc thẩm quyền". Quy định này trực tiếp ràng buộc nghĩa vụ đối với các doanh nghiệp phát triển giải pháp AI và đơn vị vận hành nền tảng giáo dục.

Hệ thống công nghệ không được phép tự động ban hành hay thay thế các quyết định thuộc thẩm quyền quản trị mà không có sự kiểm tra, phê duyệt từ nhân sự có trách nhiệm. Mọi thuật toán triển khai phải thiết lập sẵn quy trình can thiệp thủ công (human-in-the-loop) để bảo đảm tính chính xác và tính chịu trách nhiệm pháp lý.

Yêu cầu ẩn danh hóa dữ liệu cá nhân và kiểm toán an toàn thông tin

Bên cạnh kiểm soát thuật toán, việc bảo vệ dữ liệu người học và nhà giáo được đặt lên hàng đầu. Khai thác dữ liệu lớn phục vụ đào tạo mô hình AI phải tuân thủ nghiêm ngặt các biện pháp bảo vệ quyền riêng tư.

Theo Điều 1, Mục V, Khoản 5, Điểm c, các đơn vị quản lý và vận hành hệ thống có trách nhiệm: "Ẩn danh hóa dữ liệu cá nhân trước khi phân tích, tổng hợp; thực hiện kiểm tra, kiểm thử, đánh giá và kiểm toán an toàn thông tin theo yêu cầu, cấp độ và quy định của pháp luật".

Điều này đồng nghĩa với việc toàn bộ luồng dữ liệu thô liên quan đến danh tính học sinh, giáo viên không được phép đưa trực tiếp vào các mô hình phân tích hay huấn luyện AI nếu chưa qua công đoạn ẩn danh hóa triệt để.

Nghĩa vụ của các nhóm chủ thể tham gia hệ thống

Nhằm làm rõ tác động tuân thủ đối với từng đối tượng, các nghĩa vụ kỹ thuật và quy trình được phân định cụ thể:

Lộ trình triển khai và gợi ý chuẩn bị cho doanh nghiệp

Đề án được phân chia thành hai giai đoạn cụ thể theo Điều 1, Mục III:

• Giai đoạn 2026 - 2027: Đang diễn ra, tập trung hoàn thiện khung pháp lý, tiêu chuẩn kỹ thuật; vận hành thử nghiệm Cổng học liệu số cùng Nền tảng quản lý và khai thác học liệu số; tổ chức thí điểm tại một số địa phương.
• Giai đoạn 2028 - 2030: Hoàn thiện hệ thống và mở rộng đồng bộ trên phạm vi toàn quốc, hướng tới mục tiêu 100% cơ sở giáo dục phổ thông kết nối trước năm 2030.

Hiện nay, giai đoạn 2026 - 2027 đang được triển khai, các đơn vị công nghệ và cơ sở giáo dục cần chủ động đối chiếu tiêu chuẩn an toàn dữ liệu, rà soát kiến trúc thuật toán để đáp ứng đầy đủ yêu cầu giám sát con người ngay từ khâu thử nghiệm kỹ thuật.