(SeaPRwire) – Vào những năm 1990 và đầu những năm 2000, những nhà công nghệ đã hứa với thế giới rằng: các công nghệ truyền thông mới sẽ củng cố nền dân chủ, làm suy yếu chủ nghĩa độc tài và dẫn đến một kỷ nguyên mới về sự phát triển của con người. Nhưng ngày nay, ít người đồng ý rằng internet đã đạt được mục tiêu cao cả đó.
Ngày nay, trên các nền tảng truyền thông xã hội, nội dung có xu hướng được xếp hạng dựa trên lượng tương tác mà nó nhận được. Trong hai thập kỷ qua, chính trị, phương tiện truyền thông và văn hóa đều đã được định hình lại để đáp ứng một động lực duy nhất: các bài đăng gây ra phản ứng cảm xúc thường có xu hướng lên đầu.
Các nỗ lực cải thiện sức khỏe của các không gian trực tuyến từ lâu đã tập trung vào việc kiểm duyệt nội dung, tức là việc phát hiện và xóa nội dung xấu. Các công ty công nghệ đã thuê công nhân và xây dựng trí tuệ nhân tạo để xác định lời nói kích động thù địch, kích động bạo lực và quấy rối. Điều đó đã hoạt động không hoàn hảo nhưng nó đã ngăn chặn được tình trạng độc hại tồi tệ nhất tràn ngập nguồn cấp dữ liệu của chúng ta.
Có một vấn đề: trong khi các AI này giúp loại bỏ những điều xấu, chúng không nâng cao những điều tốt. “Bạn thấy một mạng internet đang hoạt động hay không, nơi chúng ta có những cuộc trò chuyện lành mạnh hoặc hữu ích?” Yasmin Green, Giám đốc điều hành đơn vị
Nếu có một cách khác thì sao?
Jigsaw tin rằng họ đã tìm thấy một cách. Vào thứ Hai, công ty con của
Bước đột phá này có thể xảy ra nhờ những tiến bộ gần đây trong các mô hình ngôn ngữ lớn (LLM), loại AI được sử dụng trong các chương trình chatbot như ChatGPT. Trước đây, ngay cả việc đào tạo AI để phát hiện ra các dạng độc hại đơn giản, chẳng hạn như liệu bài đăng có phân biệt chủng tộc hay không, cũng đòi hỏi hàng triệu ví dụ được dán nhãn. Các AI thế hệ cũ đó thường dễ vỡ và kém hiệu quả, ngoài ra còn tốn kém để phát triển. Nhưng thế hệ LLM mới có thể xác định ngay cả những khái niệm ngôn ngữ phức tạp từ bên ngoài và việc hiệu chuẩn chúng để thực hiện các tác vụ cụ thể cũng rẻ hơn nhiều so với trước đây. Bộ phân loại mới của Jigsaw có thể xác định các “thuộc tính” như liệu một bài đăng có chứa một câu chuyện cá nhân, sự tò mò, sắc thái, sự trắc ẩn, lý trí, tình cảm hay sự tôn trọng hay không. “Nó bắt đầu trở nên khả thi để nói về việc xây dựng bộ phân loại cho lòng trắc ẩn, sự tò mò hoặc sắc thái”, Jonathan Stray, nhà khoa học cấp cao tại
Khả năng mới này có thể là bước ngoặt đối với internet. Green và một nhóm ngày càng nhiều các học giả nghiên cứu về ảnh hưởng của phương tiện truyền thông xã hội đối với diễn ngôn công cộng lập luận rằng việc kiểm duyệt nội dung là “cần thiết nhưng không đủ” để biến internet trở thành một nơi tốt hơn. Họ nói rằng tìm ra cách thúc đẩy nội dung tích cực có thể có tác động tích cực lan tỏa cả ở cấp độ cá nhân—mối quan hệ của chúng ta với nhau—mà còn ở quy mô xã hội. “Bằng cách thay đổi cách thức xếp hạng nội dung, nếu bạn có thể thực hiện nó theo cách đủ rộng, bạn có thể thay đổi nền kinh tế truyền thông của toàn bộ hệ thống”, Stray, người không tham gia dự án Jigsaw, cho biết. “Nếu đủ các kênh phân phối theo thuật toán tránh sử dụng ngôn từ gây chia rẽ, thì việc sản xuất ngôn từ gây chia rẽ sẽ trở nên không đáng giá nữa”.
Một buổi sáng vào cuối tháng Ba, Tin Acosta tham gia cuộc gọi video tại văn phòng của Jigsaw ở Thành phố New York. Trên bức tường phòng họp phía sau cô, có một bức ảnh lớn chụp cuộc Cách mạng Hoa hồng năm 2003 tại Gruzia, khi những người biểu tình ôn hòa đã lật đổ chính quyền Liên Xô của nước này. Các phòng khác cũng có những bức ảnh tương tự về những người ở Syria, Iran, Cuba và Triều Tiên “sử dụng công nghệ và tiếng nói của mình để bảo đảm quyền tự do”, theo lời kể của chuyên viên báo chí của Jigsaw, người cũng có mặt trong phòng. Các bức ảnh có mục đích là để nhắc nhở về sứ mệnh của Jigsaw là sử dụng công nghệ như một lực lượng vì điều tốt và nhiệm vụ phục vụ mọi người trong cả các nền dân chủ và các xã hội áp bức.
Trên máy tính xách tay của mình, Acosta đã giới thiệu một bản demo về bộ phân loại mới của Jigsaw. Sử dụng cơ sở dữ liệu gồm 380 bình luận từ một luồng Reddit gần đây, nhà quản lý sản phẩm cao cấp của Jigsaw bắt đầu trình bày cách xếp hạng các bài đăng bằng các bộ phân loại khác nhau sẽ thay đổi loại bình luận nào sẽ đứng đầu. Bài đăng gốc của luồng này đã yêu cầu cung cấp các khuyến nghị về phim khẳng định cuộc sống. Được sắp xếp theo thứ hạng mặc định trên Reddit—các bài đăng được nhiều lượt bình chọn nhất—thì các bình luận đứng đầu thường ngắn và không chứa gì ngoài tiêu đề của các bộ phim phổ biến. Sau đó, Acosta nhấp vào menu thả xuống và chọn bộ phân loại lý luận của Jigsaw. Các bài đăng được sắp xếp lại. Bây giờ, các bình luận hàng đầu được trình bày chi tiết hơn. Acosta nói, “Bạn bắt đầu thấy mọi người thực sự suy nghĩ kỹ về phản ứng của mình”. “Đây là một người nói về Trường học của Rock—không chỉ nội dung của cốt truyện, mà còn là cách bộ phim đã thay đổi cuộc sống của anh ấy và khiến anh ấy yêu thích âm nhạc”. (TIME đồng ý không trích dẫn trực tiếp từ các bình luận mà Jigsaw cho biết chỉ được sử dụng cho mục đích minh họa và không được sử dụng để đào tạo các mô hình AI của mình.)
Acosta chọn một bộ phân loại khác, một trong những bộ yêu thích của cô: liệu một bài đăng có chứa câu chuyện cá nhân không. Bình luận đứng đầu hiện đến từ một người dùng mô tả cảnh mình nằm dưới một tấm chăn dày và ảnh hưởng của ma túy đã khiến họ khóc rất nhiều khi xem đoạn độc thoại của Ke Huy Quan trong Mọi thứ ở khắp mọi nơi cùng một lúc đến nỗi họ phải tạm dừng phim nhiều lần. Một bình luận hàng đầu khác mô tả cách một đoạn giới thiệu phim đã truyền cảm hứng cho người xem nghỉ một công việc mà họ làm thấy khổ sở. Một bình luận khác kể câu chuyện về một bộ phim gợi cho người xem nhớ đến người chị của họ, người đã mất cách đây 10 năm. Acosta cho biết: “Đây là một cách thực sự tuyệt vời để xem qua một cuộc trò chuyện và hiểu nó nhiều hơn một chút so với [xếp hạng theo] mức độ tương tác hoặc mức độ gần đây”.
Bài viết được cung cấp bởi nhà cung cấp nội dung bên thứ ba. SeaPRwire (https://www.seaprwire.com/) không đưa ra bảo đảm hoặc tuyên bố liên quan đến điều đó.
Lĩnh vực: Tin nổi bật, Tin tức hàng ngày
SeaPRwire cung cấp phát hành thông cáo báo chí thời gian thực cho các công ty và tổ chức, tiếp cận hơn 6.500 cửa hàng truyền thông, 86.000 biên tập viên và nhà báo, và 3,5 triệu máy tính để bàn chuyên nghiệp tại 90 quốc gia. SeaPRwire hỗ trợ phân phối thông cáo báo chí bằng tiếng Anh, tiếng Hàn, tiếng Nhật, tiếng Ả Rập, tiếng Trung Giản thể, tiếng Trung Truyền thống, tiếng Việt, tiếng Thái, tiếng Indonesia, tiếng Mã Lai, tiếng Đức, tiếng Nga, tiếng Pháp, tiếng Tây Ban Nha, tiếng Bồ Đào Nha và các ngôn ngữ khác.
Để các bộ phân loại có tác động trên diện rộng hơn, chúng sẽ cần được các công ty công nghệ lớn nhất chấp nhận, những công ty này đang cạnh tranh tổng bằng không để giành sự chú ý của chúng ta. Green cho biết rằng mặc dù được phát triển bên trong Google, nhưng gã khổng lồ công nghệ này không có kế hoạch bắt đầu sử dụng chúng để xếp hạng bình luận YouTube. Thay vào đó, Jigsaw đang cung cấp miễn phí các công cụ này cho các nhà phát triển độc lập, với hy vọng rằng các không gian trực tuyến nhỏ hơn, chẳng hạn như bảng tin và phần bình luận của báo, sẽ xây dựng cơ sở bằng chứng rằng