Khi khả năng lệnh cấm TikTok của Hoa Kỳ tiếp tục gia tăng, ứng dụng video này đã làm mới các chính sách kiểm duyệt nội dung của mình. Các quy tắc về nội dung có thể được đăng và quảng bá phần lớn không thay đổi nhưng bao gồm các hạn chế mới trong việc chia sẻ các tác phẩm sâu AI, ngày càng trở nên phổ biến trên ứng dụng trong những tháng gần đây.
Phần lớn các chính sách kiểm duyệt này (hay “Nguyên tắc cộng đồng”, theo cách nói của TikTok) không thay đổi và không có gì đáng ngạc nhiên. Không cho phép có hình ảnh bạo lực, không có ngôn từ kích động thù địch và không có nội dung khiêu dâm công khai, với các quy tắc phân loại cho nội dung sau dựa trên độ tuổi của đối tượng. Tuy nhiên, một phần mới được mở rộng bao gồm “phương tiện tổng hợp và bị thao túng” – hay còn gọi là các tác phẩm sâu AI, ngày càng trở nên phổ biến trên ứng dụng trong những tháng gần đây.
Trước đây, các quy tắc của TikTok về deepfakes bị giới hạn trong một dòng cấm nội dung có thể “đánh lừa người dùng bằng cách bóp méo sự thật của sự kiện [or] gây ra thiệt hại đáng kể cho chủ đề của video.” Giờ đây, công ty cho biết tất cả nội dung thực tế do AI tạo và chỉnh sửa phải được “tiết lộ rõ ràng” như vậy, trong phụ đề video hoặc dưới dạng nhãn dán phủ.
Deepfakes xác nhận của người nổi tiếng và nhân vật không công khai bị cấm
TikTok cho biết họ sẽ không cho phép bất kỳ phương tiện tổng hợp nào “chứa chân dung của bất kỳ nhân vật riêng tư thực sự nào” hoặc cho thấy một nhân vật của công chúng ủng hộ một sản phẩm hoặc vi phạm các chính sách khác của ứng dụng (tức là nghiêm cấm ngôn từ kích động thù địch). Công ty định nghĩa nhân vật của công chúng là bất kỳ ai từ 18 tuổi trở lên có “vai trò quan trọng đối với công chúng, chẳng hạn như quan chức chính phủ, chính trị gia, lãnh đạo doanh nghiệp hoặc người nổi tiếng”.
Nội dung do AI tạo ra ngày càng phổ biến trên TikTok, phần lớn nhờ vào sự sẵn có rộng rãi hơn của các công cụ nhân bản giọng nói AI giúp dễ dàng bắt chước giọng nói của ai đó. Những công cụ này đã tạo ra các thể loại nội dung phụ mới, thường tập trung vào việc đặt các nhân vật của công chúng như Tổng thống Joe Biden và cựu Tổng thống Donald Trump vào các tình huống bất ngờ, chẳng hạn như biến tính cách của các tổng thống thành các cuộc tranh luận về trò chơi trực tuyến hoặc Dungeon & Rồng, Ví dụ.
Các trường hợp sử dụng khác có hại hơn. Nhiều hàng giả AI hiển thị những con số giống nhau đọc báo cáo transphobic hoặc homophobic và đôi khi bị nhầm lẫn với cảnh quay thực. Trong khi đó, việc TikTok cấm xác nhận deepfake có vẻ như là một phản ứng đối với một video cụ thể đã sử dụng AI để giả Joe Rogan quảng cáo một “tăng cường ham muốn tình dục cho nam giới.” Những video như vậy cũng đã lan truyền trên các ứng dụng như Twitter và Instagram.
Việc cập nhật các chính sách của TikTok diễn ra vào thời điểm áp lực chính trị đang gia tăng đối với công ty mẹ ByteDance, khi các chính phủ phương Tây bày tỏ lo ngại về việc ứng dụng này thu thập dữ liệu cá nhân và khả năng gây ảnh hưởng đến dư luận. Chính phủ Mỹ đã được cho là đã đe dọa một lệnh cấm công khai đối với TikTok nếu chủ sở hữu ByteDance không bán cổ phần của mình, trong khi ứng dụng đã được bị cấm trên các thiết bị của chính phủ ở Mỹ, Anh, New Zealand và Canada.
TikTok không giải quyết trực tiếp các mối đe dọa này đối với hoạt động kinh doanh của mình bằng các chính sách cập nhật này nhưng lưu ý rằng họ muốn cung cấp “sự minh bạch hơn nhiều về các quy tắc của chúng tôi và cách chúng tôi thực thi chúng”. Công ty cũng đang xuất bản một danh sách gồm tám “Nguyên tắc cộng đồng” có nội dung “định hình công việc hàng ngày của chúng tôi và hướng dẫn cách chúng tôi tiếp cận các quyết định thực thi khó khăn”. Đáng chú ý, hai nguyên tắc đầu tiên là “ngăn chặn tác hại” và “cho phép tự do ngôn luận”.
Nguồn: www.theverge.com