Facebook hiện sử dụng trí tuệ nhân tạo (AI) để quét bài viết của người dùng dịch vụ nhằm phát hiện các dấu hiệu cho thấy họ đang có ý định tự sát.
Khi phát hiện tai đó có thể gặp nguy hiểm, công ty sẽ gắn cờ cho người điều hành tại các cơ quan chức năng để họ sử dụng nguồn tài nguyên có sẵn để hỗ trợ người dùng về sức khỏe tâm thần. Trong trường hợp khẩn cấp, Facebook sẽ liên hệ với những người có quan hệ đặc biệt với cá nhân đó để tìm và hỗ trợ họ.
Trang mạng xã hội lớn nhất hành tinh được cho là đã thử nghiệm công cụ nói trên trong nhiều tháng tại Mỹ và hiện đã triển khai chương trình đến nhiều quốc gia khác. Công cụ này sẽ không hoạt động ở bất kỳ quốc gia nào thuộc liên minh châu Âu, nơi luật bảo vệ dữ liệu ngăn cản các công ty lập hồ sơ người dùng theo cách này.
CEO Mark Zuckerberg cho biết trong một bài đăng trên Facebook rằng ông hy vọng công cụ mới sẽ nhắc nhở mọi người rằng AI đang giúp cứu sống nhiều người hiện nay. Ông nói thêm, chỉ riêng trong tháng vừa qua, phần mềm AI của hãng đã giúp Facebook phản ứng với các trường hợp tương tự nhanh hơn 100 lần.
“Nếu chúng ta có thể sử dụng AI để giúp mọi người, đó là một bước tiến quan trọng và tích cực”, Zuckerberg viết trên trang cá nhân.
Mặc dù nhấn mạnh vào sức mạnh của AI, Facebook không cung cấp nhiều thông tin chi tiết về cách thức công cụ thực sự đánh giá những ai đang có ý định tự vẫn. Công ty cho biết chương trình đã được đào tạo về các bài đăng và tin nhắn được người sử dụng đánh dấu trong quá khứ, sau đó tìm kiếm những điểm nổi bật để đưa ra những bình luận hỗ trợ như “Bạn ổn chứ”, hoặc “Tôi có thể giúp gì?”.
Công cụ này cũng có thể kiểm tra các video phát trực tiếp, xác định các phần của video có bình luận bất thường cũng như dựa vào báo cáo từ người dùng. Nhiệm vụ xử lý các thông tin này sẽ được xử lý bởi nhóm hỗ trợ cộng đồng của Facebook, nơi các nhân viên có trách nhiệm đánh giá mỗi trường hợp được gắn cờ bởi AI và đưa ra phản ứng phù hợp.
Tuy yếu tố con người không bỏ qua nhưng nghiên cứu cho thấy AI có thể là công cụ hữu ích trong việc xác định các vấn đề liên quan đến sức khỏe tâm thần. Một nghiên cứu gần đây cho thấy, AI có thể dự đoán liệu các cá nhân có muốn tự sát trong vòng 2 năm tới với độ chính xác 80-90%. Tuy nhiên, nghiên cứu chỉ xem xét dữ liệu từ những người đã được nhập viện sau khi tự làm hại mình, trong khi nghiên cứu rộng rãi về các cá nhân nói chung vẫn chưa được công bố.
Theo Kiến Tường (Dân Việt)
