Trẻ em cần biết về an toàn trí tuệ nhân tạo để tránh trở thành nạn nhân của các video giả mạo khỏa thân

Theo nghiên cứu từ Common Sense Media (năm 2025, tại Mỹ), gần 75% thanh thiếu niên đã xem nội dung khiêu dâm trực tuyến và hơn một nửa trong số đó tiếp xúc với loại nội dung này ngay từ năm 12 tuổi. Cuộc khảo sát với hơn 1.300 thanh thiếu niên từ 13 đến 17 tuổi cho thấy gần một nửa số thanh thiếu niên cho biết đã nhìn thấy nội dung khiêu dâm mà họ tin là do trí tuệ nhân tạo tạo ra.

Ảnh khỏa thân giả mạo trên mạng?

Nội dung được tạo ra bằng các công cụ trí tuệ nhân tạo tạo sinh (gen AI) có thể bao gồm hình ảnh và video khỏa thân giả; deepfake; và nội dung từ các công cụ và ứng dụng tạo ảnh khỏa thân, cho phép người dùng tạo ra hình ảnh giả mô tả người đang trong tình trạng khỏa thân.

Deepfake khỏa thân là những hình ảnh hoặc video được tạo ra bằng trí tuệ nhân tạo, có nội dung khiêu dâm hoặc khiến một người trông như đang khỏa thân.

Việc tạo ra các video deepfake khỏa thân "đã đạt đến mức độ mà bạn gần như có thể coi đó là hành vi bình thường đối với thanh thiếu niên. Có một sự đánh giá thấp cơ bản và có lẽ là quan niệm sai lầm của người lớn về tần suất và mức độ quen thuộc của thanh thiếu niên với việc sử dụng Trí tuệ nhân tạo tạo sinh (Gen AI)" (theo Tiến sĩ Chad Steel, giáo sư thỉnh giảng về pháp y kỹ thuật số tại Đại học George Mason ở Fairfax, Virginia).

Vì công nghệ deepfake ảnh khỏa thân còn mới, các chuyên gia chưa biết rõ tác động lâu dài của nó đối với nạn nhân. Tuy nhiên, các nhà nghiên cứu biết rằng nạn nhân của các tài liệu lạm dụng tình dục trẻ em đôi khi bị liên lạc hoặc bị theo dõi bởi những người truy cập nội dung đó trong suốt cuộc đời của họ. Những hình ảnh này cũng có thể được những kẻ săn mồi sử dụng để đe dọa gửi chúng cho cha mẹ hoặc bạn bè của nạn nhân tiềm năng trừ khi trẻ em trả tiền hoặc đáp ứng các yêu cầu khác.

Khi những hình ảnh riêng tư của một người bị phát tán trên mạng, điều đó có thể khiến họ khó hẹn hò hoặc tìm việc làm hơn và làm tăng nguy cơ bị tấn công tình dục, trầm cảm và tự tử.

Trí tuệ nhân tạo đang giúp nội dung khiêu dâm dễ dàng tiếp cận hơn

Thường thì, thanh thiếu niên bắt gặp những hình ảnh khêu gợi về người nổi tiếng do AI tạo ra, nhưng giờ đây, các công cụ chỉnh sửa ảnh khỏa thân đang khiến họ tiếp xúc với nội dung khêu gợi về bạn bè cùng trang lứa.

Các nhà nghiên cứu cho biết, gần 20% người tham gia khảo sát đã tự tạo ra nội dung khiêu dâm bằng trí tuệ nhân tạo hoặc biết ai đó đã làm như vậy, và hơn một nửa nói rằng nội dung đó mô tả người mà họ quen biết.

Những gì chúng ta đang chứng kiến ​​ở đây là sự xuất hiện của một không gian rất đặc thù và ngày càng không có rào cản, cho phép giới trẻ tiếp cận và khám phá theo những cách phần lớn không bị kiểm soát và hạn chế. Các ứng dụng khỏa thân rất dễ dàng tìm thấy chỉ với một cú nhấp chuột.

Trong số 44% thanh thiếu niên xem nội dung khiêu dâm mà họ tin là do AI tạo ra, 15% cho biết họ bắt gặp những nội dung đó thông qua một ứng dụng AI tạo hoặc chỉnh sửa ảnh và video.

Theo Riana Pfefferkorn, một chuyên gia chính sách tại Viện Trí tuệ Nhân tạo hướng đến con người của Đại học Stanford, mặc dù các quy định áp dụng cho những gì được phép có trong các cửa hàng ứng dụng, nhưng đôi khi các ứng dụng này vẫn có thể lọt qua bằng cách không quảng cáo đầy đủ các tính năng của chúng. 

Điều này ảnh hưởng đến thanh thiếu niên như thế nào?

Theo nghiên cứu của Tiến sĩ Supreet Mann, tác giả chính của nghiên cứu và giám đốc nghiên cứu tại Common Sense Media, nhiều thanh thiếu niên đang suy nghĩ lại về cách họ thể hiện bản thân trên mạng xã hội.

• Gần 70% thanh thiếu niên lo lắng về việc trở thành nạn nhân của nội dung khiêu dâm do AI tạo ra mà không có sự đồng ý của họ. Những thanh thiếu niên này cũng đã chủ động thực hiện các biện pháp để bảo vệ bản thân, bằng cách cẩn thận hơn với những gì họ đăng tải, đặt tài khoản mạng xã hội ở chế độ riêng tư hoặc thậm chí xóa hoàn toàn tài khoản của mình.

Mặc dù việc thanh thiếu niên hiểu được tầm quan trọng của việc giám sát mạng xã hội là điều tốt, nhưng điều đó dường như củng cố thêm quan điểm đổ lỗi cho nạn nhân. “Tại sao lại đặt gánh nặng lên vai những người trẻ tuổi, buộc họ phải thay đổi hành vi của chính mình chỉ vì sợ hành động của người khác?” - TS. Mann.

• Tần suất xuất hiện và khả năng tiếp cận loại nội dung này cũng đang làm sai lệch nhận thức của thanh thiếu niên về tình dục, sự đồng thuận và hình ảnh cơ thể.

Gần 70% thanh thiếu niên cho rằng nội dung tình dục do AI tạo ra ảnh hưởng đến quan điểm của họ về hình thể mình. Điều này đặc biệt đáng lo ngại, vì thanh thiếu niên đang ở giai đoạn mà cơ thể họ thay đổi liên tục và nhanh chóng. Nó đang tác động đến cách suy nghĩ của giới trẻ về những yếu tố nền tảng thực sự quan trọng trong trải nghiệm tuổi thiếu niên, như sự đồng thuận và các mối quan hệ lãng mạn.

Thanh thiếu niên có được dạy làm thế nào để giữ an toàn khi sử dụng trí tuệ nhân tạo (AI) trong trường học?

• Theo một cuộc khảo sát mới của Common Sense Media đối với học sinh từ 13 đến 17 tuổi ở Mỹ, chỉ có 30% thanh thiếu niên cho biết giáo viên của họ từng nói về cách sử dụng trí tuệ nhân tạo một cách an toàn.
• Kết quả nghiên cứu cho thấy giới trẻ không được thảo luận nhiều về kiến ​​thức về trí tuệ nhân tạo - bao gồm cách giữ an toàn, cách thức hoạt động của trí tuệ nhân tạo và cách xác định xem chatbot có chính xác hay không. Một hạn chế của nghiên cứu là học sinh có thể không biết những nội dung nào được đưa vào chương trình học ở trường, và việc giảng dạy bằng AI hiệu quả đến mức nào đối với số ít thanh thiếu niên được tiếp cận với nó.
• Không có gì đáng ngạc nhiên, nghiên cứu cũng cho thấy 70% thanh thiếu niên sử dụng trí tuệ nhân tạo (AI) để làm bài tập về nhà.

Có lẽ các bậc phụ huynh đã biết rằng họ cần nói chuyện với con cái về cách đảm bảo trí tuệ nhân tạo (AI) không thay thế việc học của chúng, và cách dạy trẻ em bảo vệ quyền riêng tư và kiểm chứng thông tin mà chúng nhận được từ AI. Nhưng các cha mẹ cũng cần biết rằng mình cần nói chuyện với con cái về cách giữ an toàn khi chúng tiếp xúc với nội dung được tạo ra bằng trí tuệ nhân tạo.

Khi nói đến trí tuệ nhân tạo, chúng ta đã bị sa lầy vào những câu hỏi quá đơn giản kiểu như 'có dùng nó để gian lận hay không?'. Cách đặt câu hỏi đó không đề cập đến việc trẻ em có đang làm những việc có hại khác hay không, chẳng hạn như xem các video giả mạo khỏa thân.

Đây không chỉ là vấn đề của tuổi teen

Hơn một phần ba thanh thiếu niên cho biết họ muốn nói chuyện với người lớn về nội dung tình dục do AI tạo ra, nhưng họ không biết bắt đầu từ đâu.

Đối với các gia đình, điều này có thể giống như bước vào một vùng đất xa lạ. Làm thế nào để bắt đầu cuộc trò chuyện về một điều mà bạn không hoàn toàn hiểu?

• Common Sense Media khuyên các bậc phụ huynh và người giám hộ nên có những cuộc trò chuyện tích cực với con cái, bắt đầu từ sự đồng thuận, sức khỏe và bản dạng giới tính. Điều này tạo nền tảng vững chắc trước khi đề cập đến công nghệ.
• Kết quả nghiên cứu cũng cho thấy, thanh thiếu niên nhỏ tuổi hơn có nhiều khả năng cảm thấy thoải mái hơn khi nói chuyện với cha mẹ so với thanh thiếu niên lớn tuổi hơn. Bắt đầu những cuộc trò chuyện này sớm có thể là một cách tốt để nâng cao nhận thức về nội dung tình dục do AI tạo ra sau này.
• Cha mẹ và người giám hộ nên có những cuộc trò chuyện cởi mở và liên tục, thay vì chỉ một cuộc trò chuyện dài. Họ cũng nên cảm thấy thoải mái khi yêu cầu con cái hướng dẫn họ sử dụng bất kỳ ứng dụng nào có hỗ trợ trí tuệ nhân tạo và giải đáp bất kỳ câu hỏi nào khác về các ứng dụng trên thiết bị của con. 

Trong nhiều trường hợp, thanh thiếu niên đang phải trải nghiệm những tác động tiêu cực của hình ảnh do AI tạo ra về bản thân hoặc người khác khi đang ở trường.

• Nhiều trường học đang là tâm điểm của các vụ việc trong đó thanh thiếu niên phải đối mặt với hậu quả pháp lý vì tạo ra những hình ảnh khiêu dâm giả mạo về bạn cùng lớp. Điều này càng làm dấy lên lo ngại rằng thanh thiếu niên gần như cảm thấy thoải mái khi nói chuyện với chatbot AI hơn là với cố vấn học đường hoặc giáo viên, theo nghiên cứu mới.
• Các nhà chức trách giáo dục phải xử lý những tình huống này mà không can thiệp vào những vấn đề về mặt kỹ thuật xảy ra ngoài khuôn viên trường. Nhưng khi hai sinh viên tương tác với nhau, điều đó ngụ ý một mức độ trách nhiệm nhất định của nhà trường.

“Trường học, phụ huynh và gia đình, thậm chí cả việc trò chuyện với bạn bè, cũng như các nền tảng truyền thông và các nhà hoạch định chính sách đều có vai trò nhất định. Đây thực sự là một vấn đề của xã hội chứ không phải là điều mà trẻ em nên tự mình giải quyết” - Riana Pfefferkorn.

Vậy, các bậc phụ huynh nên làm gì để đối phó với nguy cơ này?

Đưa ra các lời khuyên an toàn cụ thể

Trước tiên, hãy nói chuyện với con về lý do tại sao chúng không bao giờ nên tạo, chia sẻ hoặc tương tác với các video deepfake khỏa thân.

Một lý do khiến trẻ em có thể dễ dàng sử dụng AI để tạo nội dung khiêu dâm là vì chúng quen thuộc với các ứng dụng cho phép chúng "thử" quần áo bằng cách hiển thị hình đại diện của mình mặc chúng. Do đó, trẻ có thể không hiểu được sự khác biệt giữa việc thử đồ bơi trên một hình mẫu giống chúng trên mạng và việc không mặc quần áo gì cả. Trẻ em chắc chắn không hiểu cách tự bảo vệ mình, và không biết là những hình ảnh này có thể tồn tại vĩnh viễn, có thể lan truyền mãi mãi.

Các cha mẹ hãy giải thích cho trẻ em rằng một khi hình ảnh mang tính chất tình dục được đăng tải lên mạng, mọi người có thể lưu chúng vào kho ảnh riêng tư hoặc thiết bị cá nhân của họ, và việc xóa chúng khỏi không gian công cộng có thể trở nên bất khả thi.