Mối nguy sai lệch dữ liệu khi áp dụng trí tuệ nhân tạo trong y tế
Các nhà khoa học cảnh báo: AI y tế chỉ có thể phát huy tối đa tiềm năng nếu con người theo dõi cẩn thận từng dữ liệu mà nó tiếp xúc.
Trí tuệ nhân tạo (AI) đang hứa hẹn cách mạng hóa y học, nhưng việc triển khai thiếu kiểm soát có thể làm sai lệch thông tin bệnh nhân và hy sinh độ tin cậy dữ liệu lâu dài để đổi lấy lợi ích ngắn hạn.
Chỉ riêng năm 2024, cơ sở dữ liệu PubMed đã lập chỉ mục hơn 26.000 nghiên cứu đề cập đến AI, học máy hoặc học sâu trong chăm sóc sức khỏe và y học lâm sàng.
Thị trường AI y tế toàn cầu được dự đoán sẽ vượt 46 tỷ USD vào cuối năm nay và 200 tỷ USD vào năm 2030. AI có thể giúp cứu sống bệnh nhân bằng cách dự đoán sớm các nguy cơ như di căn khối u hay suy tạng.
Ảnh: Linkedin/Benjamin Justice
Tuy nhiên, mọi mô hình AI đều có rủi ro. Nếu AI đánh giá sai nguy cơ, quá thấp sẽ bỏ sót bệnh, quá cao sẽ gây lãng phí xét nghiệm không cần thiết.
Vấn đề lớn hơn là AI học từ dữ liệu đã có sẵn, bao gồm cả những quyết định và thiên vị của con người. Điều này có nghĩa là, nếu điều kiện thực tế thay đổi so với dữ liệu huấn luyện, AI có thể hoạt động kém hoặc thậm chí thất bại.
Hệ thống hồ sơ sức khỏe điện tử (EHR) là nền tảng của AI y tế, vừa cung cấp dữ liệu huấn luyện, vừa hiển thị kết quả dự đoán. Nhưng chính điều này lại tạo ra một vấn đề phức tạp: dữ liệu bị "nhiễm bẩn".
Theo thời gian, AI cũng bị "trôi dạt mô hình" khi các yếu tố như dân số bệnh nhân, tiêu chuẩn điều trị, hoặc thuốc mới thay đổi, khiến AI kém chính xác. Việc huấn luyện lại AI là cần thiết, nhưng lại khó khăn khi dữ liệu gốc đã bị làm sai lệch. Giống như dạy một đứa trẻ phép toán với những ví dụ không nhất quán.
Khi nhiều AI cùng hoạt động trong một bệnh viện, vấn đề còn phức tạp hơn. Một AI dự đoán nguy cơ tổn thương thận, một AI khác dự báo cục máu đông. Cả hai đều dựa vào cùng một dữ liệu xét nghiệm.
Nếu bác sĩ điều chỉnh điều trị theo một AI, điều đó có thể vô tình làm cho dự đoán của AI còn lại trở nên không chính xác. Một can thiệp của AI này có thể âm thầm làm gián đoạn AI khác.
Để AI thực sự trở thành một công cụ đắc lực trong y học, chúng ta cần phải hiểu rõ và kiểm soát chặt chẽ cách nó thu thập, học hỏi và tương tác với dữ liệu y tế. Nếu không, những lợi ích ngắn hạn có thể phải trả giá bằng sự sai lệch dữ liệu và mất niềm tin vào công nghệ trong tương lai.
