Sách do AI biên soạn về rối loạn thần kinh bán tràn lan

Trên Amazon, khi người dùng muốn tìm hiểu các biện pháp kiểm soát rối loạn tăng động giảm chú ý (ADHD), họ dễ dàng tìm được rất nhiều cuốn sách. Những cuốn sách này được Amazon tiếp thị và tuyên bố cung cấp lời khuyên của chuyên gia. Tuy nhiên, nhiều cuốn trong số đó lại do các chatbot, ví dụ ChatGPT, biên soạn.

Tình trạng đáng lo ngại trên Amazon

Thị trường sách trên Amazon tràn ngập các tác phẩm do trí tuệ nhân tạo tạo ra. Chúng được viết dễ dàng và xuất bản với giá rất rẻ. Tuy nhiên, chúng có nhiều thông tin sai lệch, vô ích hoặc nguy hiểm, chẳng hạn như sách hướng dẫn du lịch kém chất lượng và sách về khám phá nấm nhưng lại khuyến khích nếm thử nấm đầy rủi ro.

Về ADHD, có một số cuốn sách trên Amazon dường như do AI viết ra là Navigating ADHD in Men: Thriving with a Late Diagnosis, Men with Adult ADHD: Highly Effective Techniques for Mastering Focus, Time Management and Overcoming Anxiety and Men with Adult ADHD Diet & Fitness.

Tám mẫu sách liên quan đến ADHD trên Amazon được Originality.ai, một công ty của Mỹ chuyên phát hiện nội dung do AI tạo ra, kiểm tra chuyên sâu. Công ty cho biết cả tám cuốn sách đều bị đánh giá 100% nội dung AI.

Nhiều chuyên gia cho biết các thị trường trực tuyến giống như "miền Tây hoang dã", đề cập đến việc thiếu quy định về các tác phẩm do AI tạo ra đang khiến nhiều thông tin sai lệch nguy hiểm có khả năng lan truyền.

Michael Cook, một nhà nghiên cứu khoa học máy tính tại Đại học King's College London, cho biết các hệ thống AI được cho là đã đưa ra nhiều lời khuyên nguy hiểm, ví dụ việc uống các chất độc hại, trộn lẫn các hóa chất nguy hiểm hoặc bỏ qua các hướng dẫn về sức khỏe.

Do đó, ông "thấy thật bực bội và chán nản khi thấy ngày càng nhiều sách do AI viết xuất hiện trên các nền tảng số", đặc biệt là về các chủ đề y tế và sức khỏe, điều có thể dẫn đến chẩn đoán sai hoặc làm tình trạng bệnh trở nên tồi tệ hơn.

Cook cho biết "Các hệ thống AI như ChatGPT có thể đã được đào tạo bằng nhiều nguồn sách giáo khoa và bài báo y khoa, nhưng chúng cũng được tiếp cận với khoa học giả tưởng, thuyết âm mưu và tiểu thuyết".

“Không thể tin tưởng chúng khi chúng ta phân tích một cách phê phán hoặc tái tạo một cách đáng tin cậy kiến ​​thức mà chúng ta đã đọc trước đó. Các hệ thống AI tạo sinh không được phép xử lý các chủ đề nhạy cảm hoặc nguy hiểm mà không có sự giám sát của chuyên gia”, ông nói thêm.

Giáo sư Shannon Vallor, giám đốc Trung tâm Tương lai Công nghệ của Đại học Edinburgh, cũng cho biết Amazon có "trách nhiệm đạo đức là không cố ý tạo điều kiện cho các sản phẩm gây hại cho khách hàng và xã hội", mặc dù việc bắt một người bán sách chịu trách nhiệm về nội dung của tất cả cuốn sách mình bán là ‘vô lý’’.

Tác hại từ sách y học do AI viết ra

Hiện tại, không có luật nào yêu cầu sách do AI biên soạn phải được dán nhãn để phân biệt. Luật bản quyền chỉ áp dụng nếu nội dung của một tác giả cụ thể bị sao chép.

Dù vậy, Cơ quan Tiêu chuẩn Quảng cáo Anh cho biết sách do AI biên soạn không được quảng cáo theo cách tạo ra ấn tượng sai lệch rằng chúng do con người viết. Quy định này tạo điều kiện cho những người đã đọc những cuốn sách AI như vậy gửi khiếu nại.

Richard Wordsworth, một người gần đây bị chẩn đoán có các triệu chứng ADHD ở độ tuổi trưởng thành, muốn tìm hiểu thêm về loại bệnh này. Wordsworth được cha ông giới thiệu một cuốn sách ông ấy tìm được trên Amazon sau khi dùng cụm từ tìm kiếm “ADHD ở nam giới độ tuổi trưởng thành”.

Khi Wordsworth ngồi xuống đọc nó, “ngay lập tức, giọng văn nghe có vẻ lạ”, ông nói. Cuốn sách mở đầu bằng một câu trích dẫn của nhà tâm lý học bảo thủ Jordan Petersen và sau đó chứa một loạt trích dẫn ngẫu nhiên, cũng như những thông tin không chính xác về mặt lịch sử.

Cũng theo Wordsworth nhận xét, một số lời khuyên còn thực sự độc hại. Ví dụ, một chương thảo luận về rối loạn cảm xúc cảnh báo rằng bạn bè và gia đình sẽ không "tha thứ cho tổn thương về mặt cảm xúc do những người mắc ADHD gây ra. Nỗi đau và tổn thương do cơn tức giận bốc đồng gây ra để lại những vết sẹo lâu dài".

Khi Wordsworth đọc thông tin về tác giả, ông phát hiện bức ảnh chụp trông giống như do AI tạo ra, cộng với việc thiếu trình độ chuyên môn. Ông đã tìm kiếm một số đầu sách khác trên Amazon và đã bị sốc khi thấy cảnh báo rằng tình trạng của ông là "nghiêm trọng" và ông "có khả năng tử vong sớm hơn đáng kể tới bốn lần".

Sau khi phát hiện ra điều này, Wordsworth và cha ông, một người có trình độ học vấn cao, ngay lập tức thấy rất "bực bội". "Nếu ông ấy có thể bị lừa bởi loại sách này, bất kỳ ai cũng có thể gặp tình trạng tương tự. Những con người vốn đang tuyệt vọng bị nhồi nhét vào đầu những điều vô nghĩa và nguy hiểm từ những kẻ lừa đảo", Wordsworth nói.