Tiềm ẩn nhiều tác hại

VHO - Các công ty du lịch bắt đầu áp dụng AI influencer để quảng bá và tiếp thị nội dung trong lĩnh vực này. Tuy nhiên, chúng ta chưa quản lý phương tiện truyền thông do AI tạo ra, cho nên sẽ kéo theo nhiều tác hại tiềm ẩn, như quảng cáo không minh bạch, bóp méo tiêu chuẩn sắc đẹp và thậm chí là phát tán các thông tin nguy hiểm.

Biện pháp cứng rắn cần thiết

 Theo Washington Post, Hội đồng Du lịch Đức (GNTB) vừa ra mắt một AI du lịch tên là Emma. Trên website của Hội đồng này, Emma đứng trước Cổng Brandenburg của Berlin, giới thiệu về bản thân: “Xin chào, tôi là Emma. Và tôi là AI influencer đầu tiên của Travel Destination Germany”. “Cô” có mái tóc vàng thẳng, cắt ngang vai và nói được 20 ngôn ngữ. Emma có mặt trên Instagram và trang web của GNTB, nơi công chúng có thể hỏi hướng dẫn về du lịch. “Cô” có thể trả lời ngay lập tức các câu hỏi cơ bản, nhưng sẽ bối rối trước các chủ đề phức tạp như “Đức có an toàn cho nữ du khách đi một mình không?” và nhận được câu trả lời là: “Vui lòng diễn đạt yêu cầu theo cách khác”.

Một AI influencer cũng đang nổi tiếng khác là Seno Zaro. “Cô” là công cụ tiếp thị của Cenizaro Hotels & Resorts, một khách sạn có 9 cơ sở trên khắp châu Á và châu Phi và được giới thiệu là “AI influencer đầu tiên trong ngành dịch vụ khách sạn”. Trên Instagram, Sena Zaro là người kể chuyện chia sẻ “mẹo và cảm hứng” về du lịch. Trong một bài đăng gần đây trên Instagram với ghi chú “Marrakech” (thành phố ở Morocco), Sena “đứng” trên một con phố đông đúc, hai tay đút trong túi quần tây trắng. Nhiều người có thể dễ dàng nhầm Sena với con người. Công ty Bracai đã thiết kế Sena trông thật nhất có thể, thậm chí còn tạo “mẹ” của Sena là người Indonesia gốc Hoa, còn “cha” là người Tunisia.

Theo Washington Post, AI influencer là một phần trong cơn sốt AI. Các hãng hàng không áp dụng AI để định giá và đặt chỗ. Các khách sạn tăng năng suất dọn phòng nhờ AI. Người dùng có thể yêu cầu ChatGPT lập kế hoạch cho chuyến đi Mỹ. Chuyên gia tiếp thị Angeli Gianchandani, giảng viên tại Đại học New York (Mỹ) cho biết, các thương hiệu thấy được sức hấp dẫn khi dùng AI influencer. AI influencer rất thuận tiện, mà không tốn chi phí thuê, chi trả tiền đi lại, chỗ ở. AI influencer còn xuất hiện 24/7 trên nhiều nền tảng khác nhau, ở nhiều khu vực và quốc gia.

Câu hỏi đặt ra là liệu AI influencer có bắt buộc phải tuân theo quy định của Instagram, như chính sách dán nhãn “ảnh do AI tạo”, hoặc “chính sách nội dung có thương hiệu” yêu cầu influencer phải dán nhãn “quan hệ đối tác trả phí” nếu bài đăng hợp tác với thương hiệu? Sena có cần tiết lộ “cô” đang làm việc cùng một thương hiệu khách sạn không? Các bài đăng đầu tiên của Sena không có nhãn “quan hệ đối tác trả phí” hoặc “ảnh do AI tạo”. Chỉ từ giữa tháng 11, một số ít bài đăng của Sena đã hiển thị thẻ AI. Trong khi đó, tất cả bài đăng của Emma đều có dán nhãn này.

Bà Claire Leibowicz từ Liên minh Partnership on AI cho biết, việc tự động dán nhãn nội dung rất phức tạp. Một số người dùng các công cụ AI để tạo một bức ảnh hoàn toàn mới, nhưng có những người chỉ dùng để chỉnh sửa một vài phần trên bức ảnh thật. Do đó, nếu mọi hình ảnh đều bị gắn nhãn, thuật ngữ “do AI khởi tạo” sẽ mất đi ý nghĩa ban đầu. Tuy nhiên, bà cho biết cần có thêm nhiều quy định nghiêm ngặt hơn nữa trong lĩnh vực này.

Ông Finn Christian Arctander, Giám đốc điều hành Bracai, công ty tạo ra Sena khẳng định, công ty không muốn lừa công chúng nghĩ Sena là người thật, nhưng thừa nhận không có thông tin nào đề cập Sena là AI hay có liên quan tới một thương hiệu. Nếu làm vậy, những bài đăng của Sena sẽ trông giống quảng cáo. “Khi một influencer được tài trợ, thì đó là tiếp thị trực tiếp. Nhưng với Sena, chúng tôi muốn tạo nội dung truyền cảm hứng, dù chúng có liên quan tới các cơ sở của Cenizaro Hotels & Resorts. Cô ấy ở đó và có gắn thẻ khách sạn này. Do đó, hai bên có ràng buộc lẫn nhau, nhưng không rõ ràng”, ông nói.

Không ai ngăn cản những người theo dõi Emma có thể nghe theo và đi đến Đức du lịch, hoặc những người theo dõi Sena có thể yêu thích và thuê một khách sạn của Cenizaro Hotels & Resorts.

Bà Leibowicz nhận định, nhiều công ty tạo ra AI influencer nhằm kiếm tiền từ mạng xã hội hoặc thậm chí các nền tảng người lớn. Việc không quản lý phương tiện truyền thông do AI tạo ra kéo theo danh sách dài các tác hại tiềm ẩn, như phát tán tuyên truyền nguy hiểm hoặc tài liệu lạm dụng tình dục. Điều này cũng đặt ra các câu hỏi về đạo đức và bóp méo các tiêu chuẩn sắc đẹp.