Rủi ro bảo mật trong AI y tế
AI được ứng dụng trong y tế nhằm hỗ trợ chẩn đoán, ví dụ như xác định hình ảnh X-quang có dấu hiệu viêm phổi hay không, hứa hẹn cải thiện kết quả điều trị cho bệnh nhân. Tuy nhiên, một nghiên cứu mới do Moritz Knolle, nghiên cứu sinh tại Đại học Kỹ thuật Munich (TUM), cùng giáo sư Daniel Rückert và các cộng sự tại Imperial College London, cũng như Georg Kaissis từ Viện Hasso Plattner (HPI) công bố trên tạp chí Nature, đã phát hiện rủi ro bảo mật dữ liệu cá nhân trong các mô hình AI này lớn hơn nhiều so với các nghiên cứu trước đây.
Các nghiên cứu trước đây chỉ đánh giá rủi ro trung bình trên tổng thể dữ liệu đào tạo, qua đó cho thấy tấn công kiểm tra dữ liệu thành viên (Membership Inference Attacks - MIA) chỉ cho kết quả tương đương với xác suất ngẫu nhiên. Trong khi đó, nhóm nghiên cứu mới tập trung phân tích rủi ro đối với từng cá nhân bệnh nhân trong bộ dữ liệu y tế thực tế, gồm các bộ dữ liệu lớn như 21.799 điện tâm đồ và 377.110 ảnh X-quang ngực.
Cơ chế tấn công và phát hiện mới
MIA hoạt động bằng cách so sánh độ tin cậy dự đoán của mô hình AI đối với một điểm dữ liệu cụ thể với một mô hình tương tự chưa thấy điểm dữ liệu đó. Khi mô hình đào tạo trên dữ liệu chứa điểm đó, mô hình có xu hướng dự đoán chính xác và tự tin hơn.
Nhờ đó, kẻ tấn công có thể xác định liệu dữ liệu của một người có tham gia vào tập huấn luyện hay không.
Kết quả nghiên cứu cho thấy rủi ro bảo mật tồn tại trên mức trung bình, có nghĩa là một số cá nhân chịu sự rủi ro lớn hơn so với phần còn lại. Đáng chú ý, nhóm bệnh nhân thuộc các nhóm thiểu số, vốn bị đại diện yếu trong tập huấn luyện, lại nằm trong nhóm 1% chịu rủi ro riêng tư cao nhất.
Knolle lưu ý rằng khi mô hình AI y tế càng trở nên lớn và phức tạp, khả năng phân tích sâu càng cao, dẫn tới các biến động nhỏ trong xác suất dự đoán mà MIA khai thác được ngày càng rõ rệt, từ đó làm tăng nguy cơ vi phạm riêng tư.
Ảnh hưởng thực tế và giải pháp bảo vệ
Một cuộc tấn công MIA để xác định quốc tịch có thể không gây nguy hiểm lớn, nhưng nếu phát hiện được bệnh nhân đã điều trị loại ung thư đặc thù nào đó, thông tin cá nhân này có thể ảnh hưởng tiêu cực đến chi phí bảo hiểm y tế của họ. Rủi ro bảo mật còn tăng theo mức độ đặc thù của nhóm đào tạo cho AI.
Để giảm thiểu nguy cơ này, phương pháp bảo mật vi phân (Differential Privacy - DP) được áp dụng nhằm thêm nhiễu Gaussian ngẫu nhiên vào dữ liệu trong quá trình huấn luyện, giảm hiệu quả các cuộc tấn công MIA đồng thời giữ nguyên độ chính xác chẩn đoán của mô hình. DP cho phép xác định giới hạn trên toán học về mức độ rủi ro riêng tư của từng cá nhân trong bộ dữ liệu.
Dù vậy, Knolle cho biết các công cụ bảo mật kiểu DP chưa được sử dụng phổ biến tại các bệnh viện và phòng khám, từ đó làm giảm niềm tin của bệnh nhân khi chia sẻ dữ liệu. Việc thiếu dữ liệu đa dạng từ các nhóm thiểu số không chỉ làm cho AI dễ bị phân biệt mà còn giảm khả năng hỗ trợ y tế hiệu quả với các bệnh hiếm.
Nhóm nghiên cứu hy vọng có thể thúc đẩy cộng đồng AI y tế tiến hành đánh giá rủi ro trước khi phát hành mô hình, cũng như áp dụng các chiến lược bảo vệ xác thực như DP hoặc hạn chế truy cập mô hình, giúp bệnh nhân có sự đảm bảo về mặt thống kê rằng họ sẽ không chịu tổn hại khi dữ liệu của mình góp mặt trong tập huấn luyện.
Trong tương lai, Moritz Knolle dự kiến sẽ mở rộng nghiên cứu về các nguy cơ bảo mật từ mô hình AI tạo sinh (generative AI) trong lĩnh vực y tế.
Những điều bổ ích rút ra từ bài viết
- Rủi ro riêng tư cá nhân trong AI y tế cao hơn mức trung bình được đánh giá trước đây.
- Nhóm bệnh nhân thiểu số trong dữ liệu đào tạo chịu rủi ro riêng tư lớn hơn.
- Các mô hình AI lớn, phức tạp khiến nguy cơ rò rỉ dữ liệu tăng lên.
- Phương pháp bảo mật vi phân (DP) có thể giảm nguy cơ tấn công dữ liệu.
- DP và biện pháp hạn chế truy cập mô hình nên được áp dụng rộng rãi trong y tế.
Đăng ký bản tin QMVN
Bản tin buổi sáng mỗi ngày - chỉ những bài đáng đọc, không spam.






