Nghiên cứu mới cho thấy việc sử dụng AI khiến các bác sĩ kém kỹ năng phát hiện ung thư hơn

(SeaPRwire) –   Các chuyên gia y tế, công ty và những người khác trong nhiều năm đã ca ngợi của AI trong y học, từ việc cải thiện đến việc vượt trội hơn các bác sĩ về . Công nghệ mang tính chuyển đổi thậm chí còn được những người đam mê AI dự đoán một ngày nào đó sẽ giúp tìm ra “phương pháp chữa trị ung thư”.

Nhưng một nghiên cứu mới đã phát hiện ra rằng các bác sĩ thường xuyên sử dụng AI thực sự trở nên kém tay nghề hơn trong vòng vài tháng.

Nghiên cứu, được công bố vào thứ Tư trên tạp chí , cho thấy rằng trong khoảng thời gian sáu tháng, các bác sĩ lâm sàng trở nên quá phụ thuộc vào các khuyến nghị của AI và bản thân họ trở nên “ít có động lực hơn, ít tập trung hơn và ít có trách nhiệm hơn khi đưa ra các quyết định nhận thức mà không có sự hỗ trợ của AI”.

Đây là nghiên cứu mới nhất chứng minh những kết quả bất lợi tiềm ẩn đối với người dùng AI. Một nghiên cứu trước đó của Massachusetts Institute of Technology phát hiện ra rằng ChatGPT .

Cách nghiên cứu được thực hiện

Các nhà nghiên cứu từ nhiều tổ chức châu Âu khác nhau đã thực hiện một nghiên cứu quan sát khảo sát bốn trung tâm nội soi ở Ba Lan tham gia thử nghiệm Artificial Intelligence in Colonoscopy for Cancer Prevention ( ). Nghiên cứu được tài trợ bởi European Commission và Japan Society for the Promotion of Science.

Là một phần của thử nghiệm, các trung tâm đã giới thiệu các công cụ AI để phát hiện polyp—những khối u có thể lành tính hoặc ung thư—vào cuối năm 2021. Nghiên cứu đã xem xét 1.443 ca nội soi đại tràng không có sự hỗ trợ của AI trong tổng số 2.177 ca nội soi đại tràng được thực hiện từ tháng 9 năm 2021 đến tháng 3 năm 2022. Các ca nội soi đại tràng được thực hiện bởi 19 bác sĩ nội soi có kinh nghiệm.

Các nhà nghiên cứu đã so sánh chất lượng nội soi đại tràng được thực hiện ba tháng trước và ba tháng sau khi AI được triển khai. Các ca nội soi đại tràng được thực hiện có hoặc không có sự hỗ trợ của AI, một cách ngẫu nhiên. Trong số những ca được thực hiện không có sự hỗ trợ của AI, 795 ca được thực hiện trước khi việc sử dụng AI thường xuyên được triển khai và 648 ca được thực hiện sau khi các công cụ AI được giới thiệu.

Những gì nghiên cứu tìm thấy

Ba tháng trước khi AI được giới thiệu, tỷ lệ phát hiện u tuyến (ADR) là khoảng 28%. Ba tháng sau khi AI được giới thiệu, tỷ lệ giảm xuống 22% khi các bác sĩ lâm sàng không được AI hỗ trợ. ADR là một chỉ số chất lượng thường được sử dụng cho nội soi đại tràng và “tỷ lệ nội soi đại tràng sàng lọc được thực hiện bởi một bác sĩ phát hiện ít nhất một u tuyến hoặc ung thư biểu mô đại trực tràng được xác nhận về mặt mô học”. U tuyến là những khối u tiền ung thư và ADR cao hơn có liên quan đến nguy cơ ung thư đại trực tràng thấp hơn.

Nghiên cứu cho thấy rằng AI đã giúp các bác sĩ nội soi phát hiện khi được sử dụng, nhưng một khi sự hỗ trợ bị loại bỏ, các bác sĩ lâm sàng lại kém khả năng phát hiện hơn.

Các nhà nghiên cứu cho rằng đó là do “xu hướng tự nhiên của con người là quá tin tưởng” vào các khuyến nghị của các hệ thống hỗ trợ quyết định như AI.

“Hãy tưởng tượng rằng bạn muốn đi du lịch đến bất cứ đâu và bạn không thể sử dụng Google Maps,” Marcin Romańczyk, đồng tác giả của nghiên cứu và là trợ lý giáo sư tại Medical University of Silesia, nói với . “Chúng tôi gọi đó là hiệu ứng Google Maps. Chúng tôi cố gắng đến một nơi nào đó và không thể sử dụng bản đồ thông thường. Nó hoạt động rất giống nhau.” 

Ý nghĩa của nghiên cứu

Omer Ahmad, một bác sĩ tư vấn chuyên khoa tiêu hóa tại University College Hospital London, người đã viết một bài xã luận cùng với nghiên cứu nhưng không tham gia vào nghiên cứu, nói với TIME rằng có khả năng việc tiếp xúc với AI đã làm suy yếu thói quen tìm kiếm hình ảnh và các kiểu nhìn cảnh báo của bác sĩ, những điều này rất quan trọng để phát hiện polyp.

“Về bản chất, sự phụ thuộc vào việc phát hiện AI có thể làm cùn khả năng nhận dạng mẫu của con người,” Ahmad nói. Ông nói thêm rằng việc sử dụng AI thường xuyên cũng có thể “làm giảm sự tự tin chẩn đoán” khi sự hỗ trợ của AI bị rút lại, hoặc kỹ năng điều khiển ống nội soi đại tràng của bác sĩ nội soi có thể bị giảm sút.

Trong các bình luận gửi tới Catherine Menon, giảng viên chính tại Department of Computer Science của University of Hertfordshire, cho biết: “Mặc dù việc giảm kỹ năng do sử dụng AI đã được nêu ra như một rủi ro lý thuyết trong các nghiên cứu trước đây, nhưng nghiên cứu này là nghiên cứu đầu tiên trình bày dữ liệu thực tế có thể cho thấy việc giảm kỹ năng phát sinh từ việc sử dụng AI trong nội soi đại tràng chẩn đoán.” Menon bày tỏ lo ngại rằng việc quá phụ thuộc vào AI có thể khiến các chuyên gia y tế gặp rủi ro về sự thỏa hiệp công nghệ.

Các chuyên gia khác thận trọng hơn về việc rút ra kết luận từ một nghiên cứu duy nhất.

Venet Osmani, một giáo sư về AI lâm sàng và học máy tại Queen Mary University of London, lưu ý với SMC rằng tổng số ca nội soi đại tràng—bao gồm cả những ca có sự hỗ trợ của AI và những ca không có sự hỗ trợ của AI—đã tăng lên trong suốt quá trình nghiên cứu. Osmani gợi ý, khối lượng công việc tăng lên có thể dẫn đến sự mệt mỏi của bác sĩ lâm sàng và tỷ lệ phát hiện kém hơn. 

Allan Tucker, một giáo sư về trí tuệ nhân tạo tại Brunel University of London, cũng lưu ý rằng với sự hỗ trợ của AI, hiệu suất của bác sĩ lâm sàng đã được cải thiện tổng thể. Tucker nói thêm với SMC, những lo ngại về việc giảm kỹ năng do thiên vị tự động hóa, “không phải là duy nhất đối với các hệ thống AI và là một rủi ro khi giới thiệu bất kỳ công nghệ mới nào.” 

“Câu hỏi đạo đức sau đó là liệu chúng ta có tin tưởng AI hơn con người hay không,” Tucker nói. “Thông thường, chúng ta mong đợi có một người giám sát tất cả các quyết định của AI, nhưng nếu các chuyên gia là con người đang nỗ lực ít hơn vào các quyết định của chính họ do việc giới thiệu các hệ thống AI, điều này có thể gây ra vấn đề.”

“Đây không chỉ đơn thuần là giám sát công nghệ,” Ahmad nói. “Đó là về việc điều hướng sự phức tạp của một hệ sinh thái lâm sàng người-AI mới.” Ông nói thêm, việc thiết lập các biện pháp bảo vệ là rất quan trọng, cho thấy rằng ngoài nghiên cứu này, mọi người có thể cần tập trung vào “việc bảo tồn các kỹ năng thiết yếu trong một thế giới mà AI trở nên phổ biến.”

“`