Kênh Instagram AI chuyên đăng tải nội dung phản cảm
Kỷ nguyên Trí tuệ Nhân tạo (AI) đã mở ra vô số cánh cửa mới cho sự sáng tạo và tối ưu hóa trong hầu hết mọi lĩnh vực. Từ nghệ thuật, y tế đến truyền thông, AI đang khiến các quy trình trở nên dễ tiếp cận và mở khóa nhiều khả năng hơn bao giờ hết.
Tuy nhiên, cùng với tiềm năng to lớn đó là những rủi ro đáng báo động, đặc biệt là khi công nghệ tạo sinh (Generative AI) rơi vào tay những kẻ có ý đồ xấu. Thay vì tận dụng AI để phát triển, một bộ phận nhỏ đang lợi dụng khả năng tạo nội dung nhanh chóng và tinh vi của nó để trục lợi bất chính, đánh vào sự hiếu kỳ của người xem.
Điển hình như gần đây, xuất hiện một trường hợp đã gây xôn xao cộng đồng mạng, phơi bày "mặt tối" của việc ứng dụng AI. Theo đó, xuất hiện một tài khoản Instagram có tên “A. asmr studio”. Kênh này chuyên đăng tải các nội dung được tạo ra bằng AI nhưng lại mang tính chất phản cảm, nhạy cảm quá mức.
Tên gọi của kênh khai thác định dạng ASMR (Autonomous Sensory Meridian Response) - một loại nội dung được thiết kế để kích thích cảm giác thư giãn với các nội dung lặp đi lặp lại. Tuy nhiên, “A. asmr studio” lại biến tướng nó thành công cụ trục lợi rẻ tiền.
Cụ thể, kênh này đã sử dụng công nghệ AI để tạo ra các cảnh quay giả lập mát-xa giữa hai nhân vật nữ. Trong các video này, hai nhân vật thực hiện nhiều động tác gợi cảm, thậm chí là có tính chất khêu gợi, kèm theo biểu cảm gương mặt được cường điệu hóa. Điều đáng nói là các video này được sản xuất với độ chân thực và chi tiết cao, khó phân biệt với nội dung thật, khiến người xem dễ dàng bị "cuốn vào". Sự tinh vi của AI đã giúp kẻ gian tạo ra một lượng lớn nội dung như vậy một cách nhanh chóng, vượt qua rào cản về chi phí và thời gian sản xuất, khiến việc kiểm soát trở nên khó khăn hơn bao giờ hết.
Nền tảng MXH cần kiểm duyệt gay gắt hơn
Điều thực sự đáng báo động là mức độ tương tác khủng khiếp mà kênh này đã đạt được. Chỉ trong một thời gian ngắn, tài khoản “A. asmr studio” đã thu hút hơn 155.000 người theo dõi, cùng với vô số lượt xem và bình luận cho các video của mình. Con số này không chỉ cho thấy một lượng lớn người dùng sẵn sàng tiêu thụ loại nội dung này mà còn minh chứng cho tốc độ lan truyền chóng mặt của nội dung AI độc hại.
Điều này dấy lên một vấn nạn kiểm duyệt nghiêm trọng đối với các nền tảng mạng xã hội lớn như Instagram. Có thể thấy, việc nội dung phản cảm được tạo ra bởi AI thế hệ mới vẫn dễ dàng tồn tại và lan rộng, chứng minh các thuật toán hiện tại chưa đủ khả năng nhận diện, phân biệt và ngăn chặn kịp thời.
Vấn đề cốt lõi đặt ra là các nền tảng MXH cần phải thay đổi chiến lược kiểm duyệt. Nếu không có hành động quyết liệt, loại hình “câu view” bằng nội dung AI phản cảm sẽ trở thành một vấn nạn khó kiểm soát, tương tự như các loại hình spam hay lừa đảo khác.
Sự chậm trễ trong việc xử lý không chỉ tạo điều kiện cho kẻ gian kiếm lợi mà còn làm suy đồi môi trường MXH, đặc biệt ảnh hưởng tiêu cực đến người dùng trẻ tuổi. Về phía người dùng, cũng cần tỉnh táo chọn lọc thông tin tiếp nhận, đồng thời nhanh chóng tố cáo các kênh tương tự để tự bảo vệ chính bản thân.