Một mẩu tin mới về hệ thống kiểm soát từ một cuộc phỏng vẫn của Reuters với giám đốc an ninh của Facebook Joe Sullivan. Đây là đoạn giới thiệu:

"Một người đàn ông tầm 30 tuổi đang chat sex với một cố gái 13 tuổi ở Nam Florida và dự định gặp cô sau giờ học vào ngày mai. Công nghệ mở rộng và "ít thảo luận" của facebook để phát hiện hành vi phạm tội qua các post và đoạn chat tự dộngđánh dấu cuộc hội thoại cho nhân viên an ninh để anh ta đọc và nhanh chóng báo cảnh sát. Viên sĩ quan kiểm soát máy tính của cô gái và hôm sau bắt giữ người đàn ông."

Phần mềm của Facebook tập trung vào những đoạn hội thoại giữa những thành viên có quan hệ không nghiêm túc trên mạng xã hội. Ví dụ, nếu hai thành viên không phải là bạn bè, chỉ gần đây kết bạn, không có bạn chung, tương tác rất ít, có sự khác biệt lớn về tuổi tác, và địa điểm sinh sống xa nhau, hệ thống sẽ chú ý riêng đến trường hợp này.

Chương trình tìm những cụm từ đã được ghi nhận là hành vi phạm tội trước đó, bao gồmlạm dụng tình dục (Câu chuyện của Reuters cho biết về ít nhất một người đàn ông được tìm ra bởi hệ thống quét của Facebook, người sau đó đã được đưa ra tòa vì tội lạm dụng tình dục trẻ em). Sự phân tích các mối quan hệ và các cách diễn đạt đã được phần mềm giải nghĩa trước khi nhân viên Facebook thực sự đọc và đưa ra quyết định cuối cùng về việc có gọi cho người có thẩm quyền hay không.

"Chúng tôi không bao giờ muốn tạo ra một môi trường mà nhân viên của chúng tôi chú ý đến giao tiêp cá nhân, do đó chúng tôi đánh giá cao tầm quan trọng của việc sử dụng công nghệ với tỉ lệ sai sót rất thấp" - Sullivan trả lời Reuters. Trong khi những chi tiết về công cụ rất ít khi được tìm thấy, thì có một sự thật chắc chắn là Facebook hợp tác với cảnh sát như một công ty, do đó Facebook phải tuân theo luật pháp. Thực tế, một vài tháng trước, Facebook tuân theo trát hầu tòa của cánh sát, gửi hơn 62 trang ảnh, Wall posts, tin nhắn, liên lạc, các hoạt động trên trang của một kẻ tình nghi giết người.

Thông tin về quan điểm của Facebook khi hợp tác với cảnh sát, tôi tìm ra tại 2 trang web: Law Enforcement and Third-Party Matters và Information for Law Enforcement Authorities. Có một điều phải chú ý đó là không có tài liệu nào trong này nhắc đến công cụ mà tôi đã đề cập ở trên (không có kết quả trả về khi tìm kiếm nhanh với từ khóa "monitor" và "scan" < quét các đoạn chat và posts - scanning posts and chats>)

Facebook có vẻ như muốn tránh việc bàn luận về sự tồn tại của công nghệ kiểm soát để tránh dính líu tới vấn đề riêng tư cá nhân. Nhiều người dùng không thích việc những đoạn hội  thoại của họ bị kiểm tra, ngay cả khi việc đó được thực hiện phần lớn bởi phần mềm, và ít khi bởi nhân viên Facebook.