Chống cảnh sát lạm quyền bằng công cụ "bí ẩn": Nước đi gây tranh cãi của startup Flock

Startup công nghệ giám sát Flock vừa công bố một loạt chính sách và công cụ mới vào thứ Năm, khẳng định chúng sẽ giúp ngăn chặn tình trạng lạm dụng hệ thống camera đọc biển số tự động của hãng, đồng thời nâng cao trách nhiệm giải trình của các khách hàng thuộc cơ quan thực thi pháp luật.

Nguồn ảnh: Smith Collection/Gado / Getty Images.

Hiện tại, Flock đang khuyến nghị các sở cảnh sát chỉ lưu trữ dữ liệu trong vòng 7 ngày thay vì 30 ngày như trước đây. Cùng với thay đổi này, công ty trình làng một tính năng mang tên "Evidence Mode" (Chế độ Bằng chứng). Tính năng này có thể được kích hoạt khi khách hàng cần lưu trữ dữ liệu trong thời gian dài hơn đối với các "trường hợp ngoại lệ" và bắt buộc phải có mã số hồ sơ vụ án cụ thể. Giờ đây, khách hàng cũng có thể thiết lập giới hạn đối với kho dữ liệu mà họ chia sẻ với các khách hàng khác, tùy thuộc vào loại tội phạm đang được điều tra.
Công ty cũng nhấn mạnh công cụ mang tên "Audit Assistance" (Hỗ trợ Kiểm toán) là một trong những thay đổi cốt lõi. Flock đã ra mắt công cụ này vào tháng 4 vừa qua. Kể từ đó, startup này cho biết "hơn một phần ba" lượng khách hàng của họ đã bật tính năng này, và hiện công ty đang bắt buộc toàn bộ khách hàng phải kích hoạt nó trước cuối năm nay.
Theo bài đăng trên blog vào thứ Năm, Flock cho biết Audit Assistance sẽ "phát hiện các hoạt động bất thường và 'gắn cờ' (flag) để Quản trị viên (Administrator) xem xét". Nếu điều đó xảy ra, công cụ này có thể tự động khóa quyền truy cập của những người dùng bị "gắn cờ" cho đến khi có sự can thiệp từ quản trị viên. Theo lời Flock, công cụ này đã và đang giúp các khách hàng phát hiện và ngăn chặn kịp thời các hành vi lạm dụng.

Nhiều giám đốc điều hành đã hết lời ca ngợi khả năng của Audit Assistance. Thế nhưng, bất chấp tầm quan trọng được quảng bá rầm rộ, Flock vẫn chưa hề giải thích chi tiết về cách thức hoạt động thực tế của công cụ này.

Một số bình luận chính thức đã phần nào hé lộ những gì Audit Assistance có thể làm được; tuy nhiên, mọi thứ lại trở nên vô cùng mơ hồ khi cố gắng xác định xem nó làm điều đó bằng cách nào.

Lấy ví dụ, Giám đốc phụ trách niềm tin và tuân thủ của Flock, bà Ashley Haber, chia sẻ trong một đoạn video rằng Audit Assistance có thể "gắn cờ" những "lịch sử tìm kiếm có vẻ kỳ lạ từ một người dùng cụ thể", qua đó giúp khách hàng nắm bắt được cách thức nhân viên của họ đang vận hành hệ thống. Trong một video khác, đồng sáng lập Flock, bà Paige Todd, nhận định: "Audit Assistance thực sự có khả năng phát hiện sớm các mô hình hành vi (patterns) bất thường. Hãy thử hình dung một người dùng liên tục tìm kiếm cùng một biển số xe trong suốt hơn 30 ngày."

Và Thiếu tá Patrick Krieg thuộc Sở Cảnh sát Dunwoody, bang Georgia - một khách hàng của Flock, đã mô tả tính năng này trong một thông cáo báo chí là "một thuật toán giúp thông báo cho chúng tôi về bất kỳ dấu hiệu thiên kiến nào."

Phía Flock mô tả Audit Assistance là một tính năng có khả năng "phát hiện sớm các hoạt động dị thường và xem xét chúng một cách nhanh chóng với một quy trình làm việc (workflow) được lập tài liệu rõ ràng."

Điều vẫn còn là một ẩn số và TechCrunch đã đặt câu hỏi yêu cầu làm rõ là thuật toán này thực chất hoạt động ra sao, nó được huấn luyện trên những tập dữ liệu nào, và liệu nó có được phát triển dựa trên một mô hình ngôn ngữ lớn (LLM) hay không. TechCrunch cũng đặt nghi vấn về việc công cụ này được thiết kế để vạch trần những mô hình hành vi nào, và chính xác thì thứ gì sẽ bị "gắn cờ" là "hoạt động bất thường"?

Theo Flock, Audit Assistance hoàn toàn không dựa trên Học máy (Machine Learning) hay AI. Công ty chia sẻ với TechCrunch rằng: "Đây là một công cụ dữ liệu chuyên 'gắn cờ' các mô hình tìm kiếm khác thường để chờ xem xét thêm. Một ví dụ có thể kích hoạt 'cờ' là khi một người dùng tìm kiếm cùng một biển số xe nhưng lại sử dụng nhiều mã hồ sơ vụ án khác nhau, bởi điều này có nguy cơ là dấu hiệu của sự lạm dụng. Việc bị 'gắn cờ' không đồng nghĩa với việc đó chắc chắn là hành vi lạm dụng nó chỉ mang ý nghĩa là cần phải điều tra thêm."

Tuy nhiên, vô số câu hỏi vẫn chưa có lời giải đáp, bao gồm việc liệu Flock có bất kỳ số liệu thống kê hay dữ liệu nào chứng minh tính hiệu quả của công cụ này hay không, tỷ lệ dương tính giả (false positive) và âm tính giả (false negative) của nó là bao nhiêu, và liệu nó đã từng trải qua quá trình kiểm toán (audit) bởi một bên thứ ba hay chưa?

Các chuyên gia quyền riêng tư và những người chỉ trích Flock lại tỏ ra không mấy ấn tượng với Audit Assistance.

Phản hồi về thông báo của Flock, ông Chad Marlow, Cố vấn chính sách cấp cao của Liên đoàn Tự do Dân sự Mỹ (ACLU), viết rằng "không có bất kỳ bằng chứng nào cho thấy công cụ này hoạt động một cách nhất quán" trong việc giải quyết tình trạng lạm dụng.

"Mặc dù gần đây đã có hàng chục sĩ quan bị bắt giữ, sa thải hoặc kỷ luật vì lạm dụng hệ thống Flock cho mục đích cá nhân, Flock lại khẳng định những vụ bắt giữ này là minh chứng cho thấy công cụ kiểm toán của họ đang phát huy tác dụng," ông Marlow viết. "Tuy nhiên, trừ khi chúng ta nắm được tổng số sĩ quan đang lạm dụng hệ thống, ta không thể kết luận liệu Flock và các công cụ kiểm toán của họ đang tóm gọn được 95% hay chỉ 5% số người vi phạm. Flock cần phải để một đơn vị đánh giá độc lập phân tích công cụ kiểm toán của mình nhằm xác định hiệu quả thực tế của nó. Cho đến lúc đó, chúng ta vẫn không thể biết liệu công cụ này là một giải pháp bảo mật thực thụ hay chỉ là một trò 'bình phong' che mắt thiên hạ (window dressing)."

Ông Cooper Quintin, một nhà nghiên cứu bảo mật và nhà công nghệ vì lợi ích công cộng cấp cao tại Tổ chức Biên giới Điện tử (EFF), chia sẻ với TechCrunch rằng việc Audit Assistance.

Phản hồi về thông báo của Flock, ông Chad Marlow, Cố vấn chính sách cấp cao của Liên đoàn Tự do Dân sự Mỹ (ACLU), viết rằng "không có bất kỳ bằng chứng nào cho thấy công cụ này hoạt động một cách nhất quán" trong việc giải quyết tình trạng lạm dụng.

"Mặc dù gần đây đã có hàng chục sĩ quan bị bắt giữ, sa thải hoặc kỷ luật vì lạm dụng hệ thống Flock cho mục đích cá nhân, Flock lại khẳng định những vụ bắt giữ này là minh chứng cho thấy công cụ kiểm toán của họ đang phát huy tác dụng," ông Marlow viết. "Tuy nhiên, trừ khi chúng ta nắm được tổng số sĩ quan đang lạm dụng hệ thống, ta không thể kết luận liệu Flock và các công cụ kiểm toán của họ đang tóm gọn được 95% hay chỉ 5% số người vi phạm. Flock cần phải để một đơn vị đánh giá độc lập phân tích công cụ kiểm toán của mình nhằm xác định hiệu quả thực tế của nó. Cho đến lúc đó, chúng ta vẫn không thể biết liệu công cụ này là một giải pháp bảo mật thực thụ hay chỉ là một trò 'bình phong' che mắt thiên hạ (window dressing)."

Ông Cooper Quintin, một nhà nghiên cứu bảo mật và nhà công nghệ vì lợi ích công cộng cấp cao tại Tổ chức Biên giới Điện tử (EFF), chia sẻ với TechCrunch rằng việc Audit Assistance có hoạt động hiệu quả hay không thậm chí có thể chẳng mang nhiều ý nghĩa.

"Ngay cả khi nó hoạt động hiệu quả, lực lượng thực thi pháp luật rồi cũng sẽ tìm ra cách lách luật," ông nhận định, đồng thời nói thêm rằng điều quan trọng cuối cùng là liệu những kẻ lạm dụng quyền lực có bị bắt quả tang và phải chịu trách nhiệm hay không. "Nếu những hành vi lạm dụng không phải gánh chịu bất kỳ hậu quả nào, và hệ thống báo cáo lại được gửi đến chính cơ quan cảnh sát đang thực hiện hành vi lạm dụng đó, thì đây chỉ là một 'tấm lá vả' che đậy (fig leaf) cho Flock. Cách tốt nhất để đảm bảo trách nhiệm giải trình là thông qua các đạo luật hạn chế việc sử dụng công nghệ này, đồng thời bắt buộc phải có lệnh khám xét (warrant) mỗi khi triển khai."

Bà Rachel Levinson-Waldman, Giám đốc Chương trình Tự do và An ninh Quốc gia thuộc Trung tâm Brennan, nhận xét với TechCrunch rằng việc bắt buộc sử dụng Audit Assistance là một bước đi đúng hướng, và "về mặt lý thuyết" công cụ này là "một ý tưởng tuyệt vời". Tuy nhiên, bà cũng nhấn mạnh bản thân công cụ này "cần phải được kiểm toán", bởi hiện tại vẫn chưa có đủ thông tin về cách thức vận hành thực tế của nó.

Những công bố mới của Flock được đưa ra sau nhiều năm liền xuất hiện các báo cáo về tình trạng khách hàng liên tục lạm dụng công nghệ của hãng. Đầu tuần này, ba cựu phó cảnh sát trưởng bang Georgia đã bị bắt giữ và cáo buộc sử dụng camera Flock để theo dõi những người mà họ "có mối quan hệ cá nhân vào thời điểm đó", theo như một thông cáo báo chí từ Văn phòng Cảnh sát trưởng Hạt Bibb. Đáng chú ý, trong vụ án này, Cảnh sát trưởng Hạt Bibb, ông David Davis, đã đích thân xướng tên công cụ Audit Assistance mới của Flock vì công lao vạch trần hành vi sai trái kể trên.