ChatGPT, sử dụng trí tuệ nhân tạo tổng hợp (AI) để hình thành phản hồi cho lời nhắc của người dùng bằng cách sử dụng dữ liệu trên Internet, đã bị các nhà nghiên cứu tại Hiệp hội Dược sĩ Hệ thống Y tế Hoa Kỳ thách thức bằng những câu hỏi thực tế được đặt ra cho dịch vụ thông tin thuốc của Trường Cao đẳng Dược thuộc Đại học Long Island. trong khung thời gian 16 tháng vào năm 2022 và 2023. Nghiên cứu đã được trình bày tại Cuộc họp lâm sàng giữa năm của ASHP vào thứ Ba.
Đầu tiên, các dược sĩ nghiên cứu và trả lời 45 câu hỏi, sau đó những câu trả lời đó sẽ được điều tra viên thứ hai xem xét để làm tiêu chuẩn đánh giá các câu trả lời của ChatGPT. Sáu trong số những câu hỏi đó đã bị bỏ qua do thiếu tài liệu để đưa ra câu trả lời dựa trên dữ liệu, để lại 39 câu hỏi cho ChatGPT trả lời.
Nghiên cứu cho thấy ChatGPT chỉ cung cấp câu trả lời thỏa đáng cho 10 trong số 39 câu hỏi được đặt ra. Trong số 29 câu hỏi còn lại, có 11 trường hợp câu trả lời của ChatGPT không trực tiếp giải quyết câu hỏi, 10 trường hợp đưa ra câu trả lời không chính xác, cộng thêm 12 câu trả lời không đầy đủ. Các nhà nghiên cứu cũng yêu cầu ChatGPT cung cấp tài liệu tham khảo trong các câu trả lời của mình, điều này chỉ thực hiện trong 8 câu trả lời của mình – mỗi câu trả lời đều bao gồm các tài liệu tham khảo không tồn tại cho mỗi nghiên cứu.
Bổ Xung:
Sara Grossman, PharmD, tác giả chính của nghiên cứu và là phó giáo sư thực hành dược tại Đại học Long Island, cho biết: “Các chuyên gia chăm sóc sức khỏe và bệnh nhân nên thận trọng khi sử dụng ChatGPT như một nguồn thông tin liên quan đến thuốc đáng tin cậy”.
Grossman nói thêm: “Bất kỳ ai sử dụng ChatGPT để biết thông tin liên quan đến thuốc nên xác minh thông tin bằng các nguồn đáng tin cậy”.
Trong một trường hợp, các nhà nghiên cứu đã hỏi ChatGPT rằng liệu có nguy cơ tương tác thuốc giữa Paxlovid kháng vi-rút COVID-19 và verapamil, một loại thuốc làm giảm huyết áp hay không và chatbot cho biết không có tương tác nào được báo cáo đối với sự kết hợp thuốc đó.
Grossman cho biết: “Trên thực tế, những loại thuốc này có khả năng tương tác với nhau và việc sử dụng kết hợp có thể dẫn đến hạ huyết áp quá mức”. “Nếu không biết về sự tương tác này, bệnh nhân có thể gặp phải tác dụng phụ không mong muốn và có thể phòng ngừa được.”
Luchen cho biết: “Các công cụ dựa trên AI có khả năng tác động đến cả khía cạnh lâm sàng và hoạt động chăm sóc”. “Các dược sĩ nên tiếp tục là người quản lý thận trọng về sự an toàn của bệnh nhân, bằng cách đánh giá tính phù hợp và hiệu lực của các công cụ AI cụ thể cho các mục đích sử dụng liên quan đến thuốc và tiếp tục giáo dục bệnh nhân về các nguồn thông tin thuốc đáng tin cậy.”
Người phát ngôn của OpenAI, nhà sản xuất ChatGPT, nói với FOX Business: “Chúng tôi hướng dẫn mô hình này để thông báo cho người dùng rằng họ không nên dựa vào phản hồi của nó để thay thế cho lời khuyên y tế chuyên nghiệp hoặc chăm sóc truyền thống”.
Ngoài ra, chính sách sử dụng của OpenAI lưu ý rằng “Các mô hình của OpenAI không được tinh chỉnh để cung cấp thông tin y tế. Bạn không bao giờ nên sử dụng các mô hình của chúng tôi để cung cấp dịch vụ chẩn đoán hoặc điều trị cho các tình trạng bệnh lý nghiêm trọng.”
