Meta đang đẩy mạnh các biện pháp bảo vệ người dùng trẻ tuổi trên hệ sinh thái Facebook, Instagram, Messenger và Threads, tập trung vào hai giải pháp chính: cảnh báo sớm cho phụ huynh và ứng dụng trí tuệ nhân tạo (AI) để rà soát độ tuổi.

Phát cảnh báo khẩn tới phụ huynh

Theo cập nhật mới cho tính năng giám sát, phụ huynh tại Việt Nam sẽ nhận được thông báo trực tiếp khi hệ thống phát hiện con em có dấu hiệu gặp rủi ro tâm lý trong hai trường hợp: Tìm kiếm lặp lại nhiều lần các từ khóa liên quan đến hành vi tự tử hoặc tự làm hại bản thân trên Facebook hoặc Instagram trong thời gian ngắn; Xuất hiện nội dung thảo luận về việc tự tử hoặc tự hại trong các cuộc trò chuyện với Meta AI trên Messenger, Instagram hoặc Facebook.

Khi nhận diện nguy cơ, Meta AI sẽ tự động cung cấp thông tin liên hệ của các đường dây nóng hỗ trợ khẩn cấp, khuyến khích thanh thiếu niên trò chuyện với cha mẹ hoặc chuyên gia tâm lý. Song song đó, hệ thống gửi cảnh báo kèm tài liệu hướng dẫn tiếp cận từ chuyên gia đến phụ huynh.

Meta cho biết doanh nghiệp áp dụng nguyên tắc tiếp cận thận trọng: hệ thống chấp nhận khả năng gửi cảnh báo ngay cả khi mức độ lo ngại chưa thực sự nghiêm trọng, nhằm đảm bảo không bỏ sót các trường hợp cần can thiệp.

Cơ chế phản hồi của AI được xây dựng dựa trên ý kiến đóng góp của hơn 75 chuyên gia sức khỏe tâm thần, cùng sự phối hợp từ Hội đồng Chuyên gia về Sức khỏe AI và Nhóm Cố vấn về Tự tử và Tự hại. Mục tiêu là ghi nhận cảm xúc và điều hướng hỗ trợ thay vì ngắt cuộc hội thoại đột ngột.

Meta mở rộng công nghệ ước tính độ tuổi bằng AI trên Instagram. Ảnh: Meta

Dùng AI quét tài khoản khai gian tuổi

Bên cạnh công cụ giám sát, Meta mở rộng công nghệ ước tính độ tuổi bằng AI trên Instagram, đồng thời tiếp tục áp dụng cho Facebook và Threads trên toàn cầu.

Giải pháp này nhằm giải quyết tình trạng người dùng dưới 18 tuổi khai báo sai ngày sinh để vượt rào kiểm duyệt. Khi phát hiện tài khoản có khả năng thuộc về người dùng từ 13 đến 17 tuổi, hệ thống sẽ tự động chuyển đổi sang chế độ "Tài khoản Thanh thiếu niên" (Teen Accounts).

Chế độ này áp dụng mặc định các rào chắn kỹ thuật: giới hạn đối tượng có thể nhắn tin, siết chặt bộ lọc nội dung tiếp cận và áp đặt định mức thời gian sử dụng ứng dụng.

Theo Meta, việc ước tính bằng AI mang tính chất hỗ trợ nhận diện và hãng sẽ tiếp tục tinh chỉnh thuật toán để phân loại chính xác nhóm trẻ dưới 13 tuổi và độ tuổi từ 13 đến 17, giúp môi trường trực tuyến an toàn hơn.

Theo Du Lam (Vietnamnet)
Xem tin/bài gốc tại đây