FDA Và Thiết Bị Y Tế GenAI: Kỷ Nguyên Mới Hay Rào Cản Lớn?

Chú ý: Chào mừng bạn đến với nắng mới yêu thương!

FDA trong tháng 8/2026 công bố tài liệu thảo luận về cách quản lý thiết bị y tế có chức năng dùng generative AI. Cơ quan này nói rõ tài liệu chưa phải hướng dẫn dự thảo hay quy định cuối, mà nhằm lấy ý kiến về đánh giá rủi ro, bằng chứng trước khi đưa sản phẩm ra thị trường, giám sát sau triển khai và quản lý thay đổi. FDA cũng lưu ý thiết bị dùng GenAI có thể nhận đầu vào mở, làm nhiều tác vụ và tạo đầu ra biến đổi ngay cả khi câu hỏi tương tự. Đây là điểm khác với nhiều phần mềm y tế truyền thống. Một hệ thống dựa trên foundation model có thể thay đổi hành vi khi model nền, prompt, retrieval, guardrail hoặc orchestration được cập nhật. FDA vì vậy đặt trọng tâm vào toàn bộ vòng đời sản phẩm thay vì chỉ một lần kiểm tra trước khi phát hành. Với người làm thiết bị y tế GenAI, cách nhìn này cho thấy năng lực kỹ thuật của model chỉ là một phần của bài toán an toàn.   Cơ hội và rào cản pháp lý khi ứng dụng AI tạo sinh vào thiết bị y tế (Ảnh: Nắng Mới)  FDA Đề Xuất Nhìn Rủi Ro Theo Mức Hành Động Và Hậu Quả  Trong tài liệu, FDA đưa ra một khung hai trục để thảo luận. Một trục phản ánh mức độ hoạt động và tính độc lập của chức năng AI, từ cung cấp thông tin tới hướng người dùng thực hiện hành động hoặc tự thực hiện hành động. Trục còn lại phản ánh mức độ nghiêm trọng nếu người dùng tin vào một đầu ra sai. Rủi ro tăng khi hệ thống vừa có quyền hành động cao vừa có khả năng tạo hậu quả lớn. Khung này giúp phân biệt hai công cụ đều dùng LLM nhưng có vai trò khác hẳn. Một hệ thống giải thích kiến thức chung cho bệnh nhân không cùng mức rủi ro với hệ thống tự đề xuất thay đổi insulin hoặc khởi tạo order set lâm sàng. FDA còn xem xét việc thông tin patient-facing có thể tạo rủi ro khác so với nội dung dành cho nhân viên y tế có chuyên môn.  Câu Trả Lời “Mang Tính Tham Khảo” Vẫn Có Thể Điều Hướng Hành Động  FDA nêu sự khác biệt giữa thông tin không định hướng và thông tin dẫn người dùng tới hành động. Một output có thể bắt đầu bằng câu chung, nhưng qua nhiều lượt hội thoại lại chuyển sang đề nghị cụ thể về thuốc, cấp cứu hoặc xử lý triệu chứng. Điều đó khiến việc đánh giá chatbot y tế chỉ bằng một vài prompt mẫu trở nên thiếu đầy đủ. Nhà phát triển cần test theo trajectory, tức chuỗi hội thoại thực tế có nhiều lượt, thay vì chỉ từng câu riêng. Các tình huống phải bao gồm người dùng diễn đạt mơ hồ, cung cấp thông tin thiếu, thay đổi câu hỏi hoặc hiểu sai câu trả lời trước. Một câu disclaimer kiểu “hãy hỏi bác sĩ” cũng không tự làm output an toàn nếu phần còn lại vẫn đưa chỉ dẫn rất cụ thể. FDA lưu ý mức độ định hướng phụ thuộc nội dung và bối cảnh, không chỉ vài từ cảnh báo trong câu trả lời.  Các cơ quan quản lý cần định hình tiêu chuẩn an toàn cho các công nghệ y tế thông minh (Ảnh: Nắng Mới)  Hallucination Trong Y Tế Cần Được Xem Theo Hậu Quả  FDA lưu ý GenAI có thể tạo confabulation hoặc hallucination trông thuyết phục. Trong nhiều ứng dụng phổ thông, lỗi này gây bất tiện; trong y tế, mức nguy hiểm phụ thuộc vào điều hệ thống đang làm. Một thông tin sai về khái niệm cơ bản khác hoàn toàn một hướng dẫn sai về liều thuốc hoặc việc có nên đi cấp cứu. Do đó, benchmark không nên chỉ đo tỷ lệ đúng trung bình. Nhà phát triển cần xác định nhóm lỗi có hậu quả cao, test riêng và đặt threshold phù hợp. Những tình huống hiếm nhưng nghiêm trọng có thể cần trọng số lớn hơn nhiều so với lỗi ngôn ngữ nhỏ. Con người cũng phải biết khi nào hệ thống không chắc chắn. Nếu AI luôn trả lời với giọng tự tin, người dùng dễ đánh giá thấp rủi ro. Thiết kế an toàn có thể cần cơ chế từ chối, chuyển cấp hoặc yêu cầu thêm dữ liệu khi model không đủ cơ sở.  Giám Sát Sau Triển Khai Trở Thành Phần Cốt Lõi  FDA cho rằng GenAI tạo thách thức cho đánh giá trước thị trường vì đầu ra mở và hệ thống có thể thay đổi sau khi đưa vào sử dụng. Tài liệu nêu một số hướng giám sát sau triển khai AI như benchmark định kỳ, review mẫu đầu vào và đầu ra bởi bác sĩ độc lập, cùng theo dõi performance degradation hoặc drift. Phạm vi và tần suất có thể thay đổi theo mức rủi ro của thiết bị. Điều này rất quan trọng với AI y tế tạo sinh dựa trên foundation model của bên thứ ba. Nếu nhà cung cấp model thay đổi phiên bản, refusal behavior, format output hoặc guardrail, thiết bị y tế có thể hoạt động khác dù nhà sản xuất ứng dụng không sửa code chính. FDA vì vậy đặt câu hỏi về cơ chế phát hiện, đánh giá và phản ứng với những thay đổi này.  Re-Benchmark Sau Thay Đổi Có Thể Trở Thành Quy Trình Quan Trọng  Một sản phẩm đã vượt benchmark ban đầu không nên được coi là hoàn tất. Nếu model nền được nâng cấp hoặc retrieval thay đổi, nhà sản xuất có thể cần chạy lại bộ đánh giá theo năng lực đã xác định trước. FDA thảo luận khả năng dùng đánh giá ban đầu làm baseline cho các lần sau. Bộ benchmark nên có dữ liệu theo nhóm bệnh nhân, tình huống hiếm và các lỗi có hậu quả lớn. Nếu chỉ dùng một tập câu hỏi nhỏ quen thuộc, model có thể đạt điểm cao mà không phản ánh hiệu năng trong môi trường thực. Ngoài benchmark tự động, sample-based clinician review được FDA đưa ra như một hướng có thể cân nhắc trong giám sát thực tế.   Việc kiểm soát thuật toán GenAI nhằm bảo vệ người bệnh hiện đang đặt ra nhiều thách thức (Ảnh: Nắng Mới)  Foundation Model Bên Thứ Ba Tạo Bài Toán Trách Nhiệm Mới  FDA dành riêng phần thảo luận cho thiết bị xây trên foundation model của bên khác. Cơ quan này cân nhắc ý tưởng Device Master File tự nguyện cho model nền, nơi nhà cung cấp có thể cung cấp thông tin về kiến trúc, nguồn dữ liệu, giới hạn, lỗi đã biết, benchmark và cam kết thông báo update. Tuy nhiên, nhà sản xuất thiết bị vẫn phải tự chứng minh an toàn và hiệu quả của sản phẩm của mình. Điều đó phản ánh một vấn đề thực tế: đội xây ứng dụng y tế có thể không kiểm soát toàn bộ stack AI. Họ cần hợp đồng, logging, version pinning hoặc cơ chế thông báo để biết khi model nền thay đổi. Nếu một thiết bị tự động thực hiện nhiều bước qua agentic AI, yêu cầu còn phức tạp hơn. FDA lưu ý agent có thể dùng tool, lập kế hoạch và thực hiện chuỗi hành động, nên cần xem xét thêm rủi ro khi output không chỉ là văn bản mà có thể tác động hệ thống khác.  Tài liệu tháng 8 của FDA cho thấy quản lý thiết bị y tế GenAI đang chuyển sang tư duy vòng đời và theo mức rủi ro. Cơ quan này đang lấy ý kiến về khung hai trục gồm mức hành động và hậu quả, cách đánh giá đầu ra mở, monitoring sau triển khai và quản lý thay đổi từ foundation model. Với nhà phát triển, thông điệp thực tế là không thể coi một lần benchmark cao như giấy thông hành lâu dài. Hệ thống cần test theo hội thoại thật, theo dõi drift, re-benchmark sau update và giữ khả năng truy vết phiên bản. Với người dùng, công cụ GenAI y tế chưa nên được hiểu như lý do để tự chẩn đoán hoặc tự điều chỉnh điều trị; mức độ an toàn phụ thuộc vào intended use, bằng chứng và cơ chế giám sát của từng sản phẩm.

Cơ hội và rào cản pháp lý khi ứng dụng AI tạo sinh vào thiết bị y tế (Ảnh: Nắng Mới)

FDA Đề Xuất Nhìn Rủi Ro Theo Mức Hành Động Và Hậu Quả

Trong tài liệu, FDA đưa ra một khung hai trục để thảo luận. Một trục phản ánh mức độ hoạt động và tính độc lập của chức năng AI, từ cung cấp thông tin tới hướng người dùng thực hiện hành động hoặc tự thực hiện hành động. Trục còn lại phản ánh mức độ nghiêm trọng nếu người dùng tin vào một đầu ra sai. Rủi ro tăng khi hệ thống vừa có quyền hành động cao vừa có khả năng tạo hậu quả lớn. Khung này giúp phân biệt hai công cụ đều dùng LLM nhưng có vai trò khác hẳn. Một hệ thống giải thích kiến thức chung cho bệnh nhân không cùng mức rủi ro với hệ thống tự đề xuất thay đổi insulin hoặc khởi tạo order set lâm sàng. FDA còn xem xét việc thông tin patient-facing có thể tạo rủi ro khác so với nội dung dành cho nhân viên y tế có chuyên môn.

Câu Trả Lời “Mang Tính Tham Khảo” Vẫn Có Thể Điều Hướng Hành Động

FDA nêu sự khác biệt giữa thông tin không định hướng và thông tin dẫn người dùng tới hành động. Một output có thể bắt đầu bằng câu chung, nhưng qua nhiều lượt hội thoại lại chuyển sang đề nghị cụ thể về thuốc, cấp cứu hoặc xử lý triệu chứng. Điều đó khiến việc đánh giá chatbot y tế chỉ bằng một vài prompt mẫu trở nên thiếu đầy đủ. Nhà phát triển cần test theo trajectory, tức chuỗi hội thoại thực tế có nhiều lượt, thay vì chỉ từng câu riêng. Các tình huống phải bao gồm người dùng diễn đạt mơ hồ, cung cấp thông tin thiếu, thay đổi câu hỏi hoặc hiểu sai câu trả lời trước. Một câu disclaimer kiểu “hãy hỏi bác sĩ” cũng không tự làm output an toàn nếu phần còn lại vẫn đưa chỉ dẫn rất cụ thể. FDA lưu ý mức độ định hướng phụ thuộc nội dung và bối cảnh, không chỉ vài từ cảnh báo trong câu trả lời.

Các cơ quan quản lý cần định hình tiêu chuẩn an toàn cho các công nghệ y tế thông minh (Ảnh: Nắng Mới)

Hallucination Trong Y Tế Cần Được Xem Theo Hậu Quả

FDA lưu ý GenAI có thể tạo confabulation hoặc hallucination trông thuyết phục. Trong nhiều ứng dụng phổ thông, lỗi này gây bất tiện; trong y tế, mức nguy hiểm phụ thuộc vào điều hệ thống đang làm. Một thông tin sai về khái niệm cơ bản khác hoàn toàn một hướng dẫn sai về liều thuốc hoặc việc có nên đi cấp cứu. Do đó, benchmark không nên chỉ đo tỷ lệ đúng trung bình. Nhà phát triển cần xác định nhóm lỗi có hậu quả cao, test riêng và đặt threshold phù hợp. Những tình huống hiếm nhưng nghiêm trọng có thể cần trọng số lớn hơn nhiều so với lỗi ngôn ngữ nhỏ. Con người cũng phải biết khi nào hệ thống không chắc chắn. Nếu AI luôn trả lời với giọng tự tin, người dùng dễ đánh giá thấp rủi ro. Thiết kế an toàn có thể cần cơ chế từ chối, chuyển cấp hoặc yêu cầu thêm dữ liệu khi model không đủ cơ sở.

Giám Sát Sau Triển Khai Trở Thành Phần Cốt Lõi

FDA cho rằng GenAI tạo thách thức cho đánh giá trước thị trường vì đầu ra mở và hệ thống có thể thay đổi sau khi đưa vào sử dụng. Tài liệu nêu một số hướng giám sát sau triển khai AI như benchmark định kỳ, review mẫu đầu vào và đầu ra bởi bác sĩ độc lập, cùng theo dõi performance degradation hoặc drift. Phạm vi và tần suất có thể thay đổi theo mức rủi ro của thiết bị. Điều này rất quan trọng với AI y tế tạo sinh dựa trên foundation model của bên thứ ba. Nếu nhà cung cấp model thay đổi phiên bản, refusal behavior, format output hoặc guardrail, thiết bị y tế có thể hoạt động khác dù nhà sản xuất ứng dụng không sửa code chính. FDA vì vậy đặt câu hỏi về cơ chế phát hiện, đánh giá và phản ứng với những thay đổi này.

Re-Benchmark Sau Thay Đổi Có Thể Trở Thành Quy Trình Quan Trọng

Một sản phẩm đã vượt benchmark ban đầu không nên được coi là hoàn tất. Nếu model nền được nâng cấp hoặc retrieval thay đổi, nhà sản xuất có thể cần chạy lại bộ đánh giá theo năng lực đã xác định trước. FDA thảo luận khả năng dùng đánh giá ban đầu làm baseline cho các lần sau. Bộ benchmark nên có dữ liệu theo nhóm bệnh nhân, tình huống hiếm và các lỗi có hậu quả lớn. Nếu chỉ dùng một tập câu hỏi nhỏ quen thuộc, model có thể đạt điểm cao mà không phản ánh hiệu năng trong môi trường thực. Ngoài benchmark tự động, sample-based clinician review được FDA đưa ra như một hướng có thể cân nhắc trong giám sát thực tế.

Việc kiểm soát thuật toán GenAI nhằm bảo vệ người bệnh hiện đang đặt ra nhiều thách thức (Ảnh: Nắng Mới)

Foundation Model Bên Thứ Ba Tạo Bài Toán Trách Nhiệm Mới

FDA dành riêng phần thảo luận cho thiết bị xây trên foundation model của bên khác. Cơ quan này cân nhắc ý tưởng Device Master File tự nguyện cho model nền, nơi nhà cung cấp có thể cung cấp thông tin về kiến trúc, nguồn dữ liệu, giới hạn, lỗi đã biết, benchmark và cam kết thông báo update. Tuy nhiên, nhà sản xuất thiết bị vẫn phải tự chứng minh an toàn và hiệu quả của sản phẩm của mình. Điều đó phản ánh một vấn đề thực tế: đội xây ứng dụng y tế có thể không kiểm soát toàn bộ stack AI. Họ cần hợp đồng, logging, version pinning hoặc cơ chế thông báo để biết khi model nền thay đổi. Nếu một thiết bị tự động thực hiện nhiều bước qua agentic AI, yêu cầu còn phức tạp hơn. FDA lưu ý agent có thể dùng tool, lập kế hoạch và thực hiện chuỗi hành động, nên cần xem xét thêm rủi ro khi output không chỉ là văn bản mà có thể tác động hệ thống khác.

Tài liệu tháng 8 của FDA cho thấy quản lý thiết bị y tế GenAI đang chuyển sang tư duy vòng đời và theo mức rủi ro. Cơ quan này đang lấy ý kiến về khung hai trục gồm mức hành động và hậu quả, cách đánh giá đầu ra mở, monitoring sau triển khai và quản lý thay đổi từ foundation model. Với nhà phát triển, thông điệp thực tế là không thể coi một lần benchmark cao như giấy thông hành lâu dài. Hệ thống cần test theo hội thoại thật, theo dõi drift, re-benchmark sau update và giữ khả năng truy vết phiên bản. Với người dùng, công cụ GenAI y tế chưa nên được hiểu như lý do để tự chẩn đoán hoặc tự điều chỉnh điều trị; mức độ an toàn phụ thuộc vào intended use, bằng chứng và cơ chế giám sát của từng sản phẩm.