Theo thông tin được tiết lộ hàng tháng của WhatsApp, nền tảng nhắn tin thuộc sở hữu của Meta, đã cấm hơn 16.7 vạn tài khoản ở Ấn Độ trong tháng XNUMX. Trong số này, 122 tài khoản đã bị cấm vì các hành động bắt buộc dựa trên khiếu nại của người dùng trong khi phần lớn trong số đó, khoảng 16.66 vạn tài khoản, đã bị cấm để ngăn chặn hoạt động có hại trên ứng dụng.
“Chúng tôi đặc biệt tập trung vào việc phòng ngừa vì chúng tôi tin rằng việc ngăn chặn hoạt động có hại xảy ra ngay từ đầu sẽ tốt hơn nhiều so với việc phát hiện ra nó sau khi tác hại đã xảy ra,” báo cáo hàng tháng nêu rõ.
Theo WhatsApp, ứng dụng cấm tài khoản khi tự tin rằng người dùng vận hành tài khoản đang lạm dụng trên nền tảng. “Mục tiêu của chúng tôi là xác định và ngăn chặn các tài khoản lạm dụng càng nhanh càng tốt, đó là lý do tại sao việc xác định các tài khoản này theo cách thủ công là không thực tế. Thay vào đó, chúng tôi có các hệ thống máy tiên tiến thực hiện hành động để cấm tài khoản, 24 giờ một ngày, 7 ngày một tuần”, báo cáo cho biết.
Công ty cho biết họ cấm tài khoản trong một số trường hợp, bao gồm cả khi một tài khoản tích lũy phản hồi tiêu cực, chẳng hạn như khi người dùng khác gửi báo cáo hoặc chặn tài khoản.
Báo cáo cũng nói rằng các hệ thống của WhatsApp đánh giá tài khoản và hành vi của người dùng, đồng thời thực hiện các hành động thích hợp sau khi có nhiều phản hồi tiêu cực được báo cáo.
Công ty nhắn tin di động tức thì sử dụng máy học và các công cụ phân tích khác để phát hiện “những kẻ lạm dụng có động cơ cao” và cấm họ khỏi nền tảng này.
Trước đó, WhatsApp đã cấm gần 18 vạn tài khoản trong tháng 14.26 và XNUMX vạn tài khoản vào tháng XNUMX. Vào tháng 2022 năm 18.58, tổng cộng XNUMX vạn tài khoản Ấn Độ đã bị cấm. WhatsApp cũng đã cấm một số tài khoản vào năm 2021. 20.79 vạn tài khoản Ấn Độ đã bị WhatsApp cấm vào tháng 2021 năm 17.5 và XNUMX vạn vào tháng XNUMX năm đó.
Các quy tắc CNTT mới, có hiệu lực vào năm ngoái, yêu cầu các nền tảng kỹ thuật số có hơn 50 vạn người dùng phải xuất bản báo cáo tuân thủ mỗi tháng, đề cập đến chi tiết các khiếu nại nhận được và những hành động đã được thực hiện để giải quyết các vấn đề.
Trước đây, WhatsApp đã nhấn mạnh rằng là một nền tảng được mã hóa end-to-end, nó không có khả năng hiển thị nội dung của bất kỳ tin nhắn nào. Để khắc phục điều này, họ dựa vào một số tín hiệu hành vi từ các tài khoản lạm dụng và tần suất mọi người báo cáo chúng.
Bên cạnh các tín hiệu hành vi từ các tài khoản, WhatsApp AI cũng dựa vào thông tin không được mã hóa có sẵn, bao gồm báo cáo người dùng, ảnh hồ sơ, ảnh nhóm và mô tả cũng như nâng cao một số công cụ và tài nguyên AI khác để phát hiện hành vi lạm dụng trên nền tảng của nó.