TikTok bị cáo buộc cho trẻ em dùng “tính năng an toàn giả”

VHO - TikTok bị cáo buộc đưa một số trẻ em, thanh thiếu niên vào nhóm thử nghiệm mà tính năng làm mới đề xuất không thực sự hoạt động dù người dùng đã bật.

Một hồ sơ vụ kiện mới được công khai đang khiến cách các nền tảng thử nghiệm tính năng an toàn bị đặt dưới kính hiển vi.

Trọng tâm là Algo Refresh, công cụ cho phép người dùng yêu cầu TikTok làm mới các đề xuất trên trang For You khi nguồn video trở nên không phù hợp hoặc không còn mong muốn.

Bật “làm mới thuật toán” nhưng nguồn video được cho là không thay đổi

TikTok đang đối mặt cáo buộc mới liên quan tới cách nền tảng thử nghiệm các công cụ kiểm soát nội dung với người dùng trẻ tuổi.

Theo những nội dung mới được công khai trong vụ kiện tại New York, hàng nghìn người dùng, trong đó có trẻ em và thanh thiếu niên, được cho là đã bị đưa vào các nhóm thử nghiệm “ghost” hoặc placebo khi họ tìm cách sử dụng một số công cụ kiểm soát nội dung.

Một trong những tính năng được nhắc tới là Algo Refresh.

Về nguyên tắc, công cụ này cho phép người dùng làm mới các đề xuất trên For You khi thuật toán liên tục đưa ra những video họ không muốn xem hoặc muốn bắt đầu lại quá trình cá nhân hóa.

Có thể hình dung đơn giản: Nếu một người đã xem nhiều video về giảm cân, tranh cãi, nội dung gây lo âu hoặc một chủ đề nào đó và sau đó không muốn feed tiếp tục đi theo hướng này, họ có thể yêu cầu TikTok “làm mới” nguồn đề xuất.

Sau khi thực hiện, TikTok bắt đầu cung cấp một số nội dung phổ biến rồi dựa trên các tương tác mới để xây lại hồ sơ sở thích.

Nhưng theo cáo buộc trong vụ kiện, một số người dùng trong nhóm thử nghiệm đã không nhận được phiên bản thực sự hoạt động.

Họ vẫn được giao diện khiến họ tin rằng tính năng đã được kích hoạt, trong khi các đề xuất thực tế được cho là không thay đổi giống nhóm được sử dụng công cụ đầy đủ.

Đây là lý do các thử nghiệm được gọi là “ghost” hoặc placebo.

Cách gọi này tương tự một thử nghiệm đối chứng: một nhóm nhận tính năng thực, còn nhóm khác có trải nghiệm bề ngoài giống như đã nhận tính năng nhưng cơ chế phía sau không được kích hoạt.

Theo hồ sơ kiện, TikTok sử dụng các nhóm này để so sánh tác động của công cụ tới những chỉ số như thời gian người dùng tiếp tục ở lại nền tảng và doanh thu quảng cáo.

Nếu được tòa xác nhận, điểm gây tranh cãi không đơn giản nằm ở việc TikTok thử A/B một tính năng.

Các công ty công nghệ thử nhiều phiên bản giao diện, màu nút, thuật toán hoặc sản phẩm khác nhau mỗi ngày.

Vấn đề nằm ở bản chất của tính năng được thử nghiệm.

Người dùng chủ động tìm đến Algo Refresh vì muốn thay đổi nội dung mà thuật toán đang cung cấp. Nếu một người tin rằng mình đã bật một công cụ kiểm soát nhưng công cụ thực tế không hoạt động, quyền lựa chọn của người đó có thể chỉ tồn tại trên giao diện.

Tranh cãi càng nhạy cảm khi nhóm người dùng được nhắc tới bao gồm cả trẻ em và thanh thiếu niên.

Hồ sơ kiện còn cho rằng một quản lý sản phẩm phụ trách mảng sức khỏe số bên trong TikTok từng bày tỏ quan ngại về cách thực hiện loại thử nghiệm placebo này.

Tuy nhiên, những thông tin trên hiện vẫn là cáo buộc từ nguyên đơn trong một vụ kiện đang diễn ra, không phải kết luận cuối cùng của tòa án.

TikTok phản hồi rằng việc thử nghiệm sản phẩm và tính năng là hoạt động thông thường nhằm kiểm tra trải nghiệm thực tế và cải thiện nền tảng. Công ty cũng bác bỏ các cáo buộc rộng hơn cho rằng họ cố tình gây hại cho người dùng trẻ, đồng thời khẳng định an toàn của trẻ em và thanh thiếu niên là một ưu tiên.

Vụ việc là phần mới của một tranh chấp pháp lý đã kéo dài từ năm 2024.

New York cùng nhiều bang của Mỹ trước đó kiện TikTok với cáo buộc nền tảng thiết kế những cơ chế khiến trẻ em sử dụng ứng dụng kéo dài và đưa ra các tuyên bố gây hiểu nhầm về mức độ an toàn của sản phẩm.

TikTok từng yêu cầu tòa bác vụ kiện, nhưng yêu cầu này không thành công, khiến vụ việc tiếp tục bước sang giai đoạn xem xét sâu hơn.

Vì sao một nút “Refresh” lại quan trọng với người dùng TikTok?

Để hiểu tranh cãi, cần hiểu cách trang For You hoạt động.

Nguồn video TikTok không phải danh sách nội dung cố định.

Mỗi hành động của người dùng có thể trở thành một tín hiệu cho hệ thống đề xuất: video nào được xem lâu, video nào bị lướt bỏ, nội dung nào được thích, chia sẻ, bình luận hoặc tìm kiếm.

Sau nhiều lần tương tác, thuật toán hình thành một hồ sơ sở thích và liên tục sử dụng hồ sơ đó để chọn nội dung tiếp theo.

Cơ chế này giúp TikTok nhanh chóng tìm được video phù hợp với từng người. Đây cũng là một trong những lý do ứng dụng có khả năng khiến người dùng xem liên tục trong thời gian dài.

Nhưng cơ chế học rất nhanh cũng tạo ra vấn đề.

Chỉ cần người dùng vô tình xem lâu một nhóm video, thuật toán có thể hiểu đó là tín hiệu quan tâm rồi tiếp tục đưa thêm nội dung tương tự.

Ví dụ, một người xem vài video về chế độ ăn kiêng có thể bắt đầu gặp ngày càng nhiều video về cân nặng. Người xem một sự kiện tiêu cực có thể tiếp tục nhận những nội dung cùng chủ đề.

Khi đó, việc từng video riêng lẻ có vi phạm quy định hay không chỉ là một phần câu chuyện.

Vấn đề còn nằm ở sự lặp lại.

Một nội dung nhìn riêng có thể không nghiêm trọng, nhưng khi hàng chục video tương tự xuất hiện liên tục, trải nghiệm của người dùng có thể thay đổi đáng kể.

Đây là lý do các nền tảng bổ sung những công cụ như “Không quan tâm”, lọc từ khóa, chỉnh chủ đề hoặc làm mới toàn bộ nguồn đề xuất.

Refresh For You Feed hiện vẫn là một công cụ chính thức trong hệ thống quản lý feed của TikTok.

Sau khi làm mới, hệ thống sẽ đưa ra một số nội dung phổ biến để người dùng bắt đầu tương tác lại. Những lượt thích, bình luận, thời gian xem và thao tác tiếp theo sẽ giúp xây dựng lại các đề xuất.

Tính năng này không có nghĩa mọi dữ liệu lịch sử của tài khoản bị xóa.

Nó chủ yếu tác động tới cách nguồn For You được định hình lại.

Chính vì vậy, niềm tin vào nút điều khiển rất quan trọng.

Khi giao diện nói với người dùng rằng một hành động đã được thực hiện, người dùng thường mặc định hệ thống phía sau cũng đã thực hiện đúng điều đó.

Nếu một nền tảng muốn thử xem người dùng phản ứng thế nào khi tính năng không tồn tại, câu hỏi đặt ra là họ cần thông báo và xin sự đồng ý đến mức nào, đặc biệt khi đó là công cụ liên quan đến kiểm soát nội dung của trẻ em.

Đây có thể là vấn đề lớn hơn bản thân TikTok.

Ngày càng nhiều mạng xã hội sử dụng những thuật toán mà người dùng không thể nhìn thấy hoặc hiểu đầy đủ.

Do đó, các nút như “Không quan tâm”, “Ẩn nội dung”, “Làm mới thuật toán” hay “Giới hạn chủ đề” trở thành một trong số ít cách người dùng có thể tác động trực tiếp tới hệ thống.

Nếu những nút đó không hoạt động như người dùng nghĩ, khái niệm “người dùng kiểm soát thuật toán” sẽ trở nên khó thuyết phục.

Muốn làm sạch trang For You, người dùng có thể làm gì?

Bất kể kết quả vụ kiện ra sao, TikTok hiện vẫn cung cấp nhiều công cụ chính thức để người dùng điều chỉnh những gì xuất hiện trên trang For You.

Nếu nguồn đề xuất đã đi quá xa khỏi sở thích, người dùng có thể sử dụng tính năng làm mới For You.

Trong ứng dụng, tùy phiên bản giao diện, người dùng có thể vào phần cài đặt nội dung hoặc chọn các tùy chọn điều chỉnh nguồn đề xuất để tìm mục Refresh your For You feed.

Sau khi xác nhận, TikTok sẽ bắt đầu quá trình tái định hình nguồn đề xuất dựa trên các tương tác tiếp theo.

Một cách khác hiệu quả hơn với từng video cụ thể là chọn “Not interested” - Không quan tâm.

Nếu liên tục gặp video thuộc một chủ đề không muốn xem, người dùng không nên xem hết chỉ vì tò mò. Thời gian xem có thể vẫn được thuật toán hiểu là tín hiệu quan tâm.

Thay vào đó, có thể nhấn giữ video hoặc sử dụng menu chia sẻ, sau đó chọn Không quan tâm.

TikTok cũng cho phép lọc từ khóa.

Người dùng có thể đưa một số từ hoặc hashtag vào danh sách lọc để giảm khả năng những nội dung liên quan xuất hiện trên For You và Following.

Công cụ Manage topics cho phép thay đổi mức độ muốn xem các nhóm chủ đề nhất định.

Đây là lựa chọn phù hợp nếu người dùng không muốn xóa hoàn toàn một chủ đề nhưng muốn giảm tần suất xuất hiện của nó.

Với trẻ em và thanh thiếu niên, câu chuyện không nên chỉ dừng ở việc sử dụng một nút Refresh.

Phụ huynh cần chú ý tới thời gian sử dụng, các tài khoản được theo dõi, nội dung trẻ tìm kiếm và những thay đổi bất thường trong thói quen xem.

Không nên coi các công cụ an toàn của bất kỳ nền tảng nào là lớp bảo vệ tuyệt đối.

Thuật toán đề xuất thay đổi liên tục, trong khi trẻ có thể gặp nội dung mới từ tìm kiếm, liên kết được gửi qua tin nhắn hoặc tài khoản khác.

Vụ kiện tại New York vì thế đặt ra một câu hỏi rộng hơn: một nền tảng có trách nhiệm gì khi thử nghiệm sản phẩm với người dùng chưa thành niên?

Thử nghiệm A/B là phần bình thường của ngành công nghệ. Nhưng một thử nghiệm thay màu nút mua hàng rất khác với thử nghiệm tạm thời vô hiệu hóa công cụ mà một trẻ em tin rằng đang giúp mình tránh nội dung không mong muốn.

Điểm này cuối cùng sẽ cần được làm rõ thông qua quá trình tố tụng.

Ở thời điểm hiện tại, chưa thể kết luận TikTok đã vi phạm pháp luật chỉ dựa trên những cáo buộc mới được công khai.

Nhưng vụ việc cho thấy khi thuật toán ngày càng quyết định nội dung người dùng nhìn thấy, những công cụ cho phép con người điều chỉnh thuật toán cũng phải minh bạch không kém.

Một nút mang tên “Refresh” chỉ thực sự mang lại quyền kiểm soát nếu điều xảy ra phía sau màn hình đúng với điều người dùng được thông báo.