Người phụ nữ tử vong vì bị AI chấm điểm bệnh lý quá thấp

Gia đình của một nữ bệnh nhân vừa qua đời đã công khai cáo buộc hệ thống phân bổ giường bệnh vận hành bằng trí tuệ nhân tạo (AI) là nguyên nhân trực tiếp dẫn đến cái chết của cô, khi công cụ này đánh giá sai lệch mức độ nguy kịch và liên tục trì hoãn lệnh chuyển viện cấp bách.

Nạn nhân là Rebeca Cardoso Tenente Molina, một nhà tâm lý học 32 tuổi sống tại bang Minas Gerais. Đầu tháng này, cô nhập viện với chẩn đoán nghi ngờ bị sỏi mật. Khi tình trạng sức khỏe của Molina chuyển biến xấu một cách nhanh chóng, các bác sĩ điều trị trực tiếp đều đồng thuận rằng cô cần phải được chuyển ngay đến đơn vị chăm sóc đặc biệt (ICU). Tuy nhiên, rào cản lớn nhất lại xuất hiện từ chính hệ thống quản lý giường bệnh bằng AI có tên Core-MG.

Khi mạng sống bị định đoạt bằng những con số vô cảm

Dù tình trạng của Molina vô cùng nguy kịch, Core-MG – hệ thống điều phối do cơ quan nhà nước vận hành – lại chấm điểm mức độ nghiêm trọng của cô ở mức 6,8. Chị gái của nạn nhân, cô Samela Cardoso Tenente Furtado, đồng thời là luật sư của gia đình, cho biết mức độ thực tế của em gái mình phải nằm ở mức 10. Do thuật toán cố định điểm số và từ chối nâng bậc bất chấp các kết quả xét nghiệm lâm sàng ngày một tồi tệ hơn, Molina liên tục bị đẩy lùi lại phía sau trong danh sách chờ. “Một bệnh nhân ở mức 8 hay 6,9 đều sẽ được hệ thống ưu tiên hơn em ấy”, cô Furtado cay đắng chia sẻ.

Sự bất lực của các y bác sĩ và gia đình lớn đến mức họ phải cầu cứu đến luật pháp, đệ đơn kiện ra tòa để ép hệ thống tìm kiếm giường bệnh nhanh hơn. Phải mất đến 5 ngày chờ đợi vô vọng, một giường bệnh trống mới được tìm thấy tại một cơ sở y tế cách đó tới 300 km. Dù đã được vận chuyển khẩn cấp bằng máy bay riêng, Molina đã trút hơi thở cuối cùng chỉ vài giờ sau khi tiếp cận bệnh viện mới. Giấy chứng tử sau đó xác định nguyên nhân tử vong là sốc nhiễm trùng.

Vụ việc dấy lên hồi chuông cảnh báo nghiêm trọng về việc tước bỏ quyền lực của con người trong y tế. Nữ luật sư Furtado bức xúc lên tiếng trước truyền thông: “Các bác sĩ đã hoàn toàn mất đi quyền tự quyết định dựa trên tình trạng thực tế của bệnh nhân. Em gái tôi và những người bệnh khác không phải là những con số, những biên bản hay một mã số thuế vô tri được nhập vào hệ thống điện tử”.

Lời bào chữa của cơ quan quản lý và làn sóng hoài nghi toàn cầu

Trước những cáo buộc đanh thép từ gia đình nạn nhân, Sở Y tế bang Minas Gerais đã lên tiếng phủ nhận trách nhiệm của hệ thống Core-MG đối với cái chết của Molina. Cơ quan này lập luận rằng bệnh nhân đã được cập nhật lên hệ thống ngay lập tức, và việc chuyển viện chậm trễ thuần túy phụ thuộc vào số lượng giường bệnh có sẵn cùng nhu cầu lâm sàng tại thời điểm đó. Cơ quan quản lý cũng khẳng định các bác sĩ vẫn là bên giám sát tối cao, còn nền tảng AI không hề làm thay đổi các tiêu chuẩn y khoa hay phương pháp tìm kiếm giường bệnh thông thường.

Tuy nhiên, lời giải thích này không thể dập tắt được làn sóng chỉ trích. Trên thực tế, hệ thống Core-MG mới chỉ vừa được đưa vào vận hành từ tháng trước với lời hứa hẹn từ các quan chức rằng sẽ giúp minh bạch hóa, đẩy nhanh tốc độ phân loại và phân bổ giường bệnh theo mức độ bệnh lý. Ngay từ khi ra mắt, công cụ này đã phải đối mặt với nhiều thách thức pháp lý và phản ứng dữ dội từ chính quyền địa phương vì làm đứt gãy, gián đoạn quy trình chuyển viện của các bệnh nhân.

Cái chết thương tâm của nữ nhà tâm lý học người Brazil là một lát cắt trong bức tranh đáng lo ngại về việc lạm dụng AI trong ngành y tế trên toàn cầu. Trước đó tại Mỹ, các tập đoàn bảo hiểm lớn cũng đã vấp phải hàng loạt vụ kiện tụng pháp lý do cáo buộc sử dụng thuật toán tự động để từ chối chi trả chi phí điều trị cho khách hàng. Song song đó, đội ngũ y tá tại New York cũng liên tục phát ra những cảnh báo khẩn cấp về việc các bệnh viện đang quá vội vã đưa AI vào quy trình khám chữa bệnh khi chưa có đủ sự giám sát, đánh giá chuyên môn sâu sát từ chính các nhân viên y tế thực tế.