Bảo vệ quyền riêng tư trong thời đại dữ liệu tự động và thuật toán điều khiển

Trong năm 2023, hãng bảo hiểm y tế Cigna tại Mỹ vấp phải chỉ trích nghiêm trọng khi xúc tiến một hệ thống tự động có tên "PxDx" nhằm xử lý các hồ sơ yêu cầu bồi thường y tế. Thay vì các chuyên viên phải kiểm tra từng hồ sơ, thuật toán được sử dụng để nhanh chóng từ chối các yêu cầu chỉ trong vài giây mà không hề mở xét từng hồ sơ cụ thể. ProPublica đã chỉ ra rằng thuật toán này vận hành theo kiểu xử lý hàng loạt, không có ngữ cảnh hay sắc thái cần thiết trong các quyết định, dẫn đến những lời từ chối tự động thiếu công bằng, gây tổn hại nghiêm trọng đến quyền lợi bệnh nhân.

Thông tin cá nhân ngày càng được lan truyền rộng rãi trên mạng internet như hình ảnh, lịch sử mua sắm hay những tìm kiếm trên các công cụ tìm kiếm. Tuy nhiên, việc những mảng thông tin này bị phân tán không đồng nghĩa với việc chúng đã bị trao đi hoàn toàn. Quyền riêng tư chính là khoảng không gian để mỗi người được nhận diện toàn diện, không bị biến thành dữ liệu thuần túy phục vụ mục đích thương mại hay thuật toán phân loại.

Một số quan niệm sai lầm phổ biến cho rằng "mọi thứ đều đã công khai" có thể khiến người ta đánh giá thấp sự cần thiết của việc bảo vệ thông tin cá nhân. Điều này bị phản bác mạnh khi các bộ phận nhỏ lẻ của dữ liệu cá nhân bị tập hợp lại có thể dùng làm vũ khí nhằm gây tổn hại hoặc sai lệch hình ảnh của một người, như trường hợp thuật toán của Target tại Mỹ từng gửi phiếu giảm giá cho bà bầu cho các thiếu nữ ngay cả khi gia đình họ không hề biết về việc mang thai.