Recap sự kiện: Dùng AI để đối phó với nội dung xâm hại trẻ em trên mạng (CSAM)

Chidren come to harm online

Ngày 5/10 vừa qua, Quỹ Nhi đồng Liên Hợp Quốc (UNICEF), Viện Nghiên cứu Công lý và Tội phạm Liên khu vực của Liên Hợp Quốc (UNICRI), Bộ Nội vụ Các Tiểu vương quốc Ả Rập Thống nhất (UAE) và AI Safer for Children đã tổ chức sự kiện cấp cao về vấn nạn xâm hại trẻ em trên môi trường mạng cũng như việc dùng AI để đối phó với nội dung xâm hại trẻ em trên mạng (CSAM).

Sự kiện: Dùng AI để đối phó với nội dung xâm hại trẻ em trên mạng (CSAM)

Mục tiêu của sự kiện

Sự kiện mang 4 mục tiêu chính:

  • Cung cấp một góc nhìn tổng quan về các xu hướng, đặc biệt sự gia tăng gần đây của vấn nạn bóc lột tình dục trẻ em trên mạng.
  • Thể hiện rõ những thách thức chính mà các nhà thực thi pháp luật phải đối mặt trong việc chống lại nạn bóc lột tình dục trẻ em trên mạng chẳng hạn như những tác hại đối với sức khỏe về thể chất và tinh thần của trẻ.
  • Mô tả cách công nghệ, đặc biệt là AI có thể được tận dụng để lật ngược tình thế trong việc điều tra các trường hợp bóc lột tình dục trẻ em trên mạng.
  • Giới thiệu chương trình AI Safer for Children đến các quốc gia thành viên, cung cấp góc nhìn tổng quan về chương trình cũng như kêu gọi sự tham gia cả các cơ quan thực thi pháp luật của các quốc gia khác nhau.

Vấn nạn tài liệu bạo hành tình dục trẻ em hiện nay như thế nào?

Mặc dù kỷ nguyên kỹ thuật số đã tạo ra nhiều cơ hội để thực hiện các quyền của trẻ em, mặt khác, cũng chính công nghệ khiến trẻ em phải đối mặt với rủi ro và tổn hại, một trong số đó là vấn nạn bóc lột tình dục và buôn bán trẻ em trên mạng.

Mặc dù quy mô đầy đủ của vấn nạn lạm dụng và bóc lột tình dục trẻ em trực tuyến vẫn chưa được thu thập đầy đủ, quy mô cũng như mức độ nghiêm trọng của hành vi lạm dụng đang ngày một gia tăng đáng kể.

Bằng chứng là theo số liệu thống kê của Văn phòng Liên hợp quốc về Ma túy và Tội phạm (UNODC), số lượng trẻ em bị buôn bán đã tăng lên rõ rệt trong những năm gần đây, trong đó trẻ em hiện đang chiếm hơn 30% tổng số nạn nhân được phát hiện. Theo Trung tâm Quốc gia về Trẻ em Mất tích và Bị bóc lột (NCMEC) tại Mỹ, số lượng báo cáo nghi ngờ bóc lột đã đạt đỉnh điểm vào năm 2020, với hơn 21,7 triệu báo cáo.

Những tiến bộ về công nghệ không chỉ tạo điều kiện cho việc phát tán tài liệu lạm dụng tình dục trẻ em mà còn thúc đẩy sự xuất hiện của các hình thức lạm dụng quy mô lớn và hoàn toàn mới được hỗ trợ bởi công nghệ như online grooming và phát trực tiếp lạm dụng (live-streaming of abuse).

Đại dịch COVID-19 có liên quan gì đến sự gia tăng hành vi lạm dụng trẻ em trên mạng?

Đại dịch COVID-19 tác động đáng kể đến hành vi lạm dụng tình dục trẻ em trên mạng.

Những kẻ săn mồi trực tuyến bị ám ảnh bởi nhu cầu nhìn và tiếp cận trẻ em, và nhu cầu không ngừng nghỉ này đã bị ảnh hưởng nghiêm trọng bởi khi dịch bệnh đến, việc đóng cửa trường học, giãn cách xã hội cũng như tạm hoãn các hoạt động bên ngoài, khiến kẻ săn mồi ít có cơ hội tiếp cận với trẻ em trong cuộc sống thực.

Đó là lý do tại sao chúng trở nên tuyệt vọng và thất thường hơn.

Để trở nên kích thích tình dục và thoả mãn nhu cầu của mình, chúng cần những nội dung khiêu dâm trẻ em mới mẻ và thú vị. Đó là lý do tại sao chúng ta bắt đầu thấy mức tăng đột biến trong các hành vi dụ dỗ trẻ em qua mạng.

Matthew Dompier từ INTERPOL

Bằng chứng là trong quý đầu của năm 2020, theo NCMEC, những kẻ săn mồi trực tuyến công khai thảo luận về đại dịch COVID như một cơ hội để dụ dỗ trẻ em không được người lớn giám sát tự chụp ảnh/video nhạy cảm của mình. 

Ngoài ra, theo hai báo cáo gần đây của Europol và INTERPOL, do hậu quả của đại dịch, một số quốc gia đã báo cáo sự gia tăng số lượng tài liệu lạm dụng tình dục trẻ em trực tuyến. Hành vi lạm dụng tình dục như gạ gẫm trực tuyến và tống tiền tình dục cũng đã cho thấy sự gia tăng trong đại dịch.

Quan niệm sai lầm về những kẻ săn mồi trực tuyến

Một quan niệm sai lầm phổ biến là những kẻ săn mồi trực tuyến không chỉ dừng lại ở việc ‘nhìn vào ảnh’ mà nạn nhân cung cấp cho họ.

Sau khi trò chuyện với trẻ em trên Internet, dụ dỗ thành công để trẻ tự chụp/quay phim nhạy cảm, bọn chúng hướng đến thực hiện hành vi nghiêm trọng hơn rất nhiều – tổn thương trẻ em ngoài đời sống thực. Đó là những hành vi lạm dụng tình dục, cưỡng hiếp trẻ em, các hành vi tình dục lệch lạc khác và tệ hơn là bắt cóc tống tiền.

tiktok privacy risk

Theo một nghiên cứu của Cục Liên bang Tội Phạm, trung bình một kẻ săn mồi trực tuyến dụ dỗ được đến 13.56 nạn nhân.

Kẻ săn mồi tình dục có thể là bất kỳ ai, nhưng hầu như là nam giới. Một số kẻ có tiền án nhưng đa số không có tiền án nào cả. Những kẻ tấn công tình dục trẻ em qua mạng có thể là bất kỳ ai: luật sư, bác sĩ, giáo viên, cảnh sát,… những nghề nghiệp mà ta không bao giờ ngờ đến. Họ hoàn toàn có thể là những người tuân thủ luật pháp trừ một điều rằng họ hoàn toàn bị kiểm soát và bị ám ảnh bởi nhu cầu nhìn hoặc tiếp cận trẻ em.

Dùng AI để đối phó với nội dung xâm hại trẻ em – phát hiện, tìm kiếm nội dung bạo hành trẻ em trên mạng

Là một trong những công nghệ mới nổi nhất, trí tuệ nhân tạo (AI) là cốt lõi trong việc giúp cơ quan thực thi pháp luật lật ngược tình thế trong cuộc chiến bảo vệ trẻ em khỏi bị bóc lột tình dục trực tuyến. Tiềm năng của AI trong việc hỗ trợ ngăn chặn tội phạm xâm hại trẻ em trên thực tế đã được nhìn nhận. Chẳng hạn như:

  • Tiết kiệm thời gian cho người kiểm duyệt

Các báo cáo lạm dụng ngày một nhiều khiến việc xem và phân tích từng báo cáo rất mất thời gian. Công nghệ AI giúp nhận dạng, phân loại các báo cáo, những người kiểm duyệt chỉ cần xem lại những báo cáo mà AI đưa ra kết quả không chắc chắn và có thể dùng thời gian còn lại trong việc truy tìm nạn nhân.

  • Công nghệ xử lý ngôn ngữ tự nhiên (NLP)

Giúp phát hiện nội dung mang tính chất lôi kéo, lạm dụng tình dục trong các cuộc hội thoại trực tuyến.

  • Nhận dạng hình ảnh lạm dụng, xâm hại tình dục trẻ em (CSAM)

Theo Sherry Torres – Detective of Florida Internet Crime Against Children (ICAC), AI giúp phân tích và đánh giá khả năng mà một hình ảnh/video có chứa nội dung CSAM, nhanh chóng tìm kiếm các tư liệu có nội dung tương tự cũng như loại bỏ các tư liệu không liên quan đến CSAM. Ngoài ra, công nghệ nhận dạng khuôn mặt xác định trẻ em mất tích, giúp các nhà chức trách nhanh chóng xác định danh tính trẻ em đang gặp nguy hiểm thực sự.

Minh hoạ cách AI có thể sử dụng để nhận dạng khuôn mặt nạn nhân trên các tài liệu khác nhau

  • Nhận dạng video lạm dụng, xâm hại tình dục trẻ em (CSAM)

AI giúp nhanh chóng phát hiện các yếu tố, khung ảnh có chứa CSAM cũng như nhận diện khuôn mặt trẻ em trong video.

  • Hỗ trợ tâm lý cho người xem duyệt CSAM

Những người kiểm duyệt nội dung thường trải qua nhiều cảm xúc tiêu cực, một trong số đó là hội chứng rối loạn căng thẳng sau sang chấn (PTSD) khi phải thường xuyên tiếp xúc với nội dung kinh khủng này. Việc ứng dụng AI sẽ giúp giảm thiểu lượng video mà người duyệt phải nhìn thấy và chỉ kiểm tra những video có điểm đánh giá không cao.

Dùng AI để đối phó với nội dung xâm hại trẻ em

Sherry Torres – Detective of Florida Internet Crime Against Children (ICAC)

  • Phát hiện và nhận dạng khuôn mặt

AI có thể nhận dạng, theo dõi các khuôn mặt và kết nối với tất cả các tư liệu có khuôn mặt đó nhằm nhanh chóng phát hiện nạn nhân và kẻ phạm tội. Bên cạnh đó, AI cũng có thể phát hiện các vật thể trong hình ảnh, kết nối với các dữ liệu để định vị các vật thể này.

Mặc dù vậy, AI cũng cho thấy nhiều thách thức không chỉ từ góc độ kỹ thuật mà còn từ góc độ pháp lý, đạo đức và xã hội, những thách thức cần phải được giải quyết trước khi có thể hiện thực hóa tiềm năng của công nghệ.

Đâu là hướng đi chung cho các quốc gia?

Theo ông Irakli Beridze, Giám đốc Trung tâm AI và Robotics tại UNICRI, chúng ta có thể cùng nhau chống lại vấn nạn bóc lột tình dục trẻ em trên mạng bằng tập hợp các nhà thực thi pháp luật từ các quốc gia các nhau cùng khám phá, tận dụng công nghệ mới như AI, Machine Learning. Chẳng hạn như mục tiêu của chương trình AI Safer for Children: Sử dụng công nghệ (AI) + phối hợp của các cơ quan thực thi pháp luật. Qua đó có 2 hoạt động chính:

  • Tổ chức các sự kiện để nâng cao nhận thức về vấn nạn bóc lột tình dục trẻ em trên mạng chẳng hạn như: AI for Good webinars, Child Sexual Exploitation (Blockchain Alliance), v.v.
  • Thiết lập trung tâm toàn cầu (Global hub) nhằm thiết kế và triển khai các nền tảng trực tuyến sử dụng AI để hỗ trợ các cơ quan thực thi pháp luật với 4 hoạt động chính:
    + Khám phá các phương pháp tiếp cận dựa trên AI
    + Thực hiện các phương pháp tiếp cận dựa trên AI
    + Tìm hiểu về các phương pháp tiếp cận dựa trên AI
    + Gặp gỡ các cơ quan thực thi pháp luật

Ông Irakli Beridze cũng nhấn mạnh 3 nguyên tác hợp tác khi tham gia trung tâm toàn cầu của AI Safer for Children:

  • Công bằng và trung lập khi cung cấp thông tin về các công cụ, phương pháp sử dụng công nghệ.
  • Không quảng bá các công cụ AI phi đạo đức
  • Đảm bảo an ninh mạng của trung tâm toàn cầu

Bạn cũng có thể đọc về: