Các CEO công nghệ bị thẩm vấn về an toàn trẻ em trực tuyến, trí tuệ nhân tạo đang phức tạp hóa vấn đề

(SeaPRwire) –   Các CEO của năm công ty mạng xã hội bao gồm Meta, TikTok và X (trước đây là Twitter) đã bị Thượng nghị sĩ thẩm vấn vào thứ Tư về cách họ ngăn ngừa lạm dụng trẻ em trực tuyến.

Ủy ban Tư pháp Thượng viện triệu tập cuộc họp để buộc các CEO phải chịu trách nhiệm về những gì họ nói là sự thất bại trong việc ngăn ngừa lạm dụng trẻ em, và hỏi liệu họ có ủng hộ các dự luật mà các thành viên Ủy ban đã đề xuất để giải quyết vấn đề hay không.

Đây là vấn đề ngày càng trở nên tồi tệ hơn, theo Trung tâm Quốc gia về Trẻ mất tích và Bị lạm dụng, cho biết báo cáo về tài liệu lạm dụng tình dục trẻ em (CSAM) đã đạt mức kỷ lục vào năm ngoái với hơn 36 triệu báo cáo, theo báo cáo của . Hệ thống trung tâm CyberTipline của Trung tâm Quốc gia về Trẻ mất tích và Bị lạm dụng, một hệ thống tập trung ở Mỹ để báo cáo CSAM trực tuyến, đã nhận được hơn báo cáo vào năm 2022, với gần 90% báo cáo đến từ nước ngoài.

Mark Zuckerberg của Meta, Shou Chew của TikTok, và Linda Yaccarino của X xuất hiện cùng với Jason Spiegel của Snap và Jason Citron của Discord để trả lời câu hỏi từ Ủy ban Tư pháp Thượng viện. Trong khi Zuckerberg và Chew xuất hiện tự nguyện, Ủy ban phải triệu tập Spiegel, Citron và Yaccarino.

Thượng nghị sĩ Richard Durbin, một dân chủ đến từ Illinois và chủ tịch Ủy ban, mở đầu phiên điều trần với một video cho thấy các nạn nhân của sự lạm dụng trẻ em trực tuyến, bao gồm gia đình của trẻ em đã tự tử sau khi bị kẻ phạm tội trực tuyến nhắm mục tiêu.

Thượng nghị sĩ Lindsey Graham, một đảng viên Cộng hòa đến từ Nam Carolina và thành viên cấp cao nhất, nói với các khách mời về , con trai 17 tuổi của đại diện Hội đồng bang Nam Carolina Brandon Guffey, người đã tự tử vào năm ngoái sau khi bị tống tiền tình dục trên Instagram. “Các bạn có máu trên tay mình,” Graham nói với các CEO, chỉ trích riêng Zuckerberg.

Nhiều nghị sĩ tỏ ra bức xúc trước những gì họ nói là nỗ lực không đủ của các công ty mạng xã hội để đối phó với vấn đề và khẳng định sự háo hức của chính họ trong việc hành động. Trong năm qua, ngoài việc tổ chức một số phiên điều trần, Ủy ban Tư pháp đã đưa một số dự luật nhằm bảo vệ trẻ em trực tuyến lên Thượng viện, bao gồm Đạo luật , sẽ loại bỏ miễn trừ trách nhiệm dân sự và hình sự theo luật về tài liệu lạm dụng tình dục trẻ em của các công ty công nghệ.

Trong lời khai của mình, các CEO đều đưa ra các biện pháp họ đang thực hiện để ngăn ngừa tổn hại trẻ em trực tuyến. Tuy nhiên, khi bị đẩy mạnh liệu họ có ủng hộ các dự luật được báo cáo bởi Ủy ban Tư pháp hay không, nhiều người đã tránh né.

Tại một thời điểm, Thượng nghị sĩ Josh Hawley, một đảng viên Cộng hòa đến từ Missouri, hỏi Zuckerberg liệu ông có muốn xin lỗi các bậc phụ huynh bị ảnh hưởng bởi CSAM trực tuyến có mặt tại phiên điều trần hay không. “Tôi xin lỗi vì mọi điều bạn đã trải qua,” Zuckerberg nói. “Điều đó thật tồi tệ. Không ai nên phải trải qua những điều gia đình bạn đã chịu đựng.”

Trong nhiều dịp, các CEO nhấn mạnh việc công ty của họ sử dụng trí tuệ nhân tạo để giải quyết vấn đề lạm dụng tình dục trẻ em trực tuyến. Trong lời khai của mình, Citron nhấn mạnh việc Discord mua lại Sentropy, một công ty phát triển các giải pháp kiểm duyệt nội dung dựa trên AI. Zuckerberg nói rằng 99% nội dung Meta loại bỏ là do công cụ AI tự động phát hiện. Tuy nhiên, các quan chức và giám đốc điều hành công nghệ không thảo luận về vai trò mà AI đang gây ra trong việc phổ biến CSAM.

Hình ảnh lạm dụng trẻ em do AI tạo ra

Sự ra đời của trí tuệ nhân tạo tạo ra đang làm tăng thêm lo ngại về tác hại đối với trẻ em trực tuyến. Các cơ quan thực thi pháp luật trên toàn thế giới đang phải vật lộn để xử lý làn sóng các vụ việc liên quan đến CSAM do AI tạo ra – một hiện tượng chưa từng có trước nhiều tòa án.

Vào ngày , nữ diễn viên Marvel 17 tuổi Xochitl Gomez, người đóng vai siêu anh hùng tuổi teen America Chavez trong bộ phim năm 2022 Doctor Strange in the Multiverse of Madness, đã chia sẻ về việc khó khăn ra sao để xóa bỏ hình ảnh khiêu dâm do AI tạo ra của cô trên X.

Nói chuyện trên một podcast với nam diễn viên Taylor Lautner và vợ anh ta vào, Gomez nói rằng mẹ cô và đội ngũ của cô đã cố gắng – mà không thành công – để loại bỏ những hình ảnh đó. “Bà ấy có rất nhiều email, nhưng có rất nhiều và bà ấy đã xử lý tất cả,” cô nói. “Đối với tôi, điều đó không phải là điều gì đó khiến tôi ngạc nhiên, mà chỉ đơn giản hơn là ‘Tại sao lại khó loại bỏ như vậy?'”

Các cơ quan thực thi pháp luật phải đối mặt với nhiệm vụ phức tạp là ngăn chặn sự lây lan của CSAM do AI tạo ra khi công nghệ tiến triển nhanh chóng và tính dễ tiếp cận các công cụ như công cụ “tạo hình” gia tăng, thậm chí đối với trẻ em.

Khi các mô hình AI tiến bộ và trở nên dễ tiếp cận hơn, chúng cũng sẽ trở nên khó kiểm soát hơn nếu được sử dụng cho các mục đích bất hợp pháp, chẳng hạn như tạo ra CSAM, theo Dan Sexton, giám đốc công nghệ cao của Trung tâm An toàn Internet U.K. (IWF). Ông nói rằng thế giới cần đồng thuận về một giải pháp nhanh chóng: “Chúng ta chờ đợi quá lâu để tìm ra giải pháp cho từng vấn đề tiềm ẩn có thể xảy ra ngày mai, thì nguy cơ lớn nhất là vấn đề đó đã xảy ra và chúng ta đang đuổi theo, cố gắng khắc phục những tổn hại đã xảy ra.”

Một vấn đề ngày càng gia tăng

Đại đa số, việc tạo ra bất kỳ hình thức CSAM nào đều bị cấm rộng rãi, bao gồm sử dụng AI. Trong báo cáo mới nhất của Trung tâm Quốc tế về Trẻ mất tích và Bị lạm dụng, có tìm thấy rằng 182 trong số 196 quốc gia có luật pháp cụ thể đề cập đến CSAM hoặc đủ để chống lại nó. Ví dụ, Mỹ định nghĩa CSAM là bất kỳ hình ảnh miêu tả hành vi tình dục rõ ràng liên quan đến trẻ vị thành niên – có thể bao gồm “hình ảnh kỹ thuật số hoặc máy tính tạo ra không thể phân biệt được với trẻ vị thành niên thực”. Tại Ireland, luật pháp nghiêm ngặt hơn: CSAM bất hợp pháp, cho dù.

Một số kẻ phạm tội đã bị kết á