2. Có những cách thức nào nhằm đảm bảo an toàn trong việc sử dụng AI trong y tế không?

3. Bạn có nghĩ rằng những người phát triển công nghệ AI dành cho chăm sóc sức khỏe có nghĩa vụ chia sẻ các mô hình của họ với các nhà nghiên cứu khác không?

4. Ai và chủ thể đó nên được đào tạo gì về việc sử dụng các công nghệ này?

5. Bệnh nhân nên được thông báo gì về các công cụ AI này để đưa ra sự đồng ý dựa trên thông tin toàn diện?

1. Tiến bộ khoa học nhanh chóng: Việc chia sẻ mô hình giúp các nhà nghiên cứu khác có thể xây dựng và cải tiến hệ thống AI nhanh hơn, từ đó thúc đẩy sự phát triển chung của ngành y tế.

2. Tăng cường hợp tác quốc tế: Mô hình AI có thể được áp dụng ở nhiều quốc gia và môi trường khác nhau, giúp cải thiện chất lượng chăm sóc sức khỏe toàn cầu, đặc biệt ở các vùng nghèo hoặc chưa phát triển.

3. Khả năng phát hiện các sai sót và cải tiến mô hình: Khi các mô hình được chia sẻ, cộng đồng nghiên cứu có thể giúp phát hiện lỗi và đưa ra các cải tiến.

Lý do không nên chia sẻ mô hình AI:

1. Bảo mật và quyền riêng tư: Các mô hình AI trong chăm sóc sức khỏe thường sử dụng dữ liệu nhạy cảm của bệnh nhân (như lịch sử y tế, thông tin di truyền, v.v.). Việc chia sẻ mô hình có thể tạo ra nguy cơ xâm phạm quyền riêng tư của người bệnh nếu không có biện pháp bảo vệ đúng đắn.

2. Đảm bảo chất lượng: Các nhà phát triển có thể lo ngại rằng việc chia sẻ mô hình sẽ dẫn đến việc sử dụng sai mục đích.

3. Động cơ kinh tế : Các công ty và tổ chức nghiên cứu thường đầu tư rất nhiều vào việc phát triển các mô hình AI. Việc chia sẻ mô hình có thể ảnh hưởng đến lợi thế cạnh tranh và quyền lợi tài chính của họ.

Tóm lại, việc chia sẻ mô hình AI trong chăm sóc sức khỏe là một vấn đề cần được cân nhắc kỹ lưỡng, vừa phải đảm bảo lợi ích cho cộng đồng nghiên cứu và bệnh nhân, vừa phải bảo vệ quyền lợi của các tổ chức phát triển công nghệ.

1. Tuân thủ quy định pháp lý – Đảm bảo AI đáp ứng các tiêu chuẩn y tế và quy định về bảo mật dữ liệu (như HIPAA, GDPR).

2. Bảo mật dữ liệu – Mã hóa thông tin, kiểm soát truy cập và ngăn chặn rò rỉ dữ liệu bệnh nhân.

3. Đảm bảo tính minh bạch – Giải thích rõ ràng cách AI đưa ra quyết định để tránh sai sót.

4. Kiểm định và thử nghiệm nghiêm ngặt – Đánh giá AI thông qua các thử nghiệm lâm sàng trước khi ứng dụng.

5. Giám sát con người – Kết hợp AI với bác sĩ, không phụ thuộc hoàn toàn vào máy móc.

6. Cập nhật và cải tiến liên tục – Theo dõi, sửa lỗi và nâng cấp AI để đảm bảo hiệu quả và an toàn.

7. Hạn chế thiên vị (bias) – Đào tạo AI trên dữ liệu đa dạng để tránh sai lệch trong chẩn đoán.

- Mô tả về công cụ AI:

• Chức năng: Giải thích rõ ràng công cụ AI đó làm gì, nó được sử dụng như thế nào trong quá trình chăm sóc sức khỏe của họ (ví dụ: hỗ trợ chẩn đoán, phân tích dữ liệu, đề xuất phương pháp điều trị).

• Cách thức hoạt động: Mô tả ngắn gọn cách thức công cụ AI hoạt động, bao gồm loại dữ liệu được sử dụng, thuật toán được áp dụng và cách đưa ra kết quả.

• Độ chính xác và hạn chế: Trung thực về độ chính xác của công cụ AI, thừa nhận rằng nó không phải là hoàn hảo và có thể có sai sót. Nêu rõ những hạn chế của công cụ và những trường hợp nào nó có thể không hiệu quả.

  -Lợi ích và Rủi ro:

• Lợi ích tiềm năng: Giải thích những lợi ích mà công cụ AI có thể mang lại cho bệnh nhân, chẳng hạn như chẩn đoán sớm hơn, điều trị hiệu quả hơn hoặc chăm sóc cá nhân hóa hơn.

• Rủi ro tiềm ẩn: Thảo luận về những rủi ro có thể xảy ra, bao gồm sai sót trong chẩn đoán, đề xuất điều trị không phù hợp, rò rỉ dữ liệu cá nhân hoặc sự phụ thuộc quá mức vào công nghệ.

  -Dữ liệu Cá nhân và Quyền Riêng tư:

• Loại dữ liệu được thu thập: Giải thích những loại dữ liệu cá nhân nào sẽ được thu thập và sử dụng bởi công cụ AI.

• Mục đích sử dụng dữ liệu: Nêu rõ mục đích sử dụng dữ liệu, liệu nó có được sử dụng cho nghiên cứu, chia sẻ với bên thứ ba hay không.

• Biện pháp bảo vệ dữ liệu: Mô tả các biện pháp bảo vệ dữ liệu được áp dụng để đảm bảo an toàn thông tin cá nhân của bệnh nhân.

• Quyền của bệnh nhân: Giải thích quyền của bệnh nhân đối với dữ liệu của họ, bao gồm quyền truy cập, chỉnh sửa, xóa hoặc từ chối chia sẻ dữ liệu.

  -Vai trò của Con người:

• Sự tham gia của bác sĩ: Nhấn mạnh rằng công cụ AI chỉ là công cụ hỗ trợ và quyết định cuối cùng về chẩn đoán và điều trị vẫn thuộc về bác sĩ.

• Khả năng can thiệp của con người: Giải thích liệu có cơ chế cho phép con người can thiệp hoặc ghi đè kết quả của công cụ AI hay không.

=> Bằng cách cung cấp thông tin đầy đủ và minh bạch, các cơ sở y tế có thể giúp bệnh nhân đưa ra quyết định đồng ý dựa trên thông tin toàn diện về việc sử dụng công cụ AI trong quá trình chăm sóc sức khỏe của họ.

• Nhân viên y tế (bác sĩ, y tá, kỹ thuật viên): Kiến thức về công nghệ AI trong công việc, kỹ năng phân tích, sử dụng dữ liệu từ AI, hiểu biết về đạo đức và bảo mật trong chăm sóc sức khỏe.

• Nhà quản lý và lãnh đạo bệnh viện: Nhận thức về tiềm năng, hạn chế của AI trong quản lý, kỹ năng ra quyết định dựa trên dữ liệu AI, quản trị rủi ro khi triển khai công nghệ.

• Kỹ sư và nhà phát triển công nghệ AI: Hiểu yêu cầu y tế và bảo mật dữ liệu, phát triển giải pháp an toàn, chính xác, nắm vững trách nhiệm xã hội và đạo đức.

• Bệnh nhân và người chăm sóc: Thông tin rõ ràng về công nghệ sử dụng, hướng dẫn tương tác với công cụ AI, hiểu biết về quyền riêng tư và bảo vệ thông tin cá nhân.

AI được sử dụng để làm gì? ví dụ như công cụ AI này sẽ được dùng để hỗ trợ chẩn đoán, đề xuất phương pháp điều trị, phân tích hình ảnh y tế, hay giám sát sức khỏe hay thâm chí là tham gia các ca phẫu thuật.

Độ chính xác và hạn chế của công cụ AI khi áp dụng vào ca điều trị đó: bệnh nhân cần được biết rõ và chính xác về những thông tin được đưa ra từ AI và độ rủi ro khi sử dụng nó. Vì bởi lẽ AI không phải lúc nào cũng đúng 100% và có những ca bệnh đôi khi AI lại có thể là tốt tương tự hoặc hơn.

Vấn đề về dữ liệu của bệnh nhân: AI thu thập và xử lý dữ liệu y tế (chẳng hạn như bệnh án, hình ảnh chụp X-quang, kết quả xét nghiệm). Cần thông báo cho bệnh nhân rằng dữ liệu của họ có thể được lưu trữ, chia sẻ hoặc sử dụng để huấn luyện AI. Hệ thống phải tuân thủ quy định bảo mật (ví dụ: GDPR, HIPAA) để bảo vệ quyền riêng tư.

Quyền lợi của bệnh nhân khi sử dụng AI: Quyền từ chối: Bệnh nhân có thể từ chối AI và yêu cầu được tư vấn bởi bác sĩ con người; Quyền được biết: Bệnh nhân có quyền hỏi AI hoạt động như thế nào, ai chịu trách nhiệm nếu có sai sót; Quyền sửa đổi hoặc xóa dữ liệu: Nếu AI sử dụng dữ liệu cá nhân, bệnh nhân có thể yêu cầu chỉnh sửa hoặc xóa dữ liệu đó.

Chủ thể chịu trách nhiệm nếu AI đưa ra các quyết định hay chuẩn đoán sai: Bệnh nhân cần được biết ai sẽ là người chịu trách nhiệm nếu AI đưa ra kết quả sai lệch, trách nhiệm thuộc về bác sĩ, bệnh viện hoặc nhà phát triển AI, tùy vào quy định pháp lý.

- Chẩn đoán bệnh nhanh với mức độ chính xác tương tự: phân tích, soi xét kỹ các hình ảnh y tế, hỗ trợ bác sĩ chính trong việc tìm ra các dấu hiệu bất thường;

- Hỗ trợ bác sĩ đưa ra quyết định về tỷ lệ thành công của cuộc phẫu thuật nói chung và mức độ chính xác của các thao tác nói riêng; mô phỏng phẫu thuật trước

- Nghiên cứu dược phẩm và phát triển thuốc thông qua phân tích gen, protein…

- Quản lý bệnh viện và chăm sóc sức khỏe: tổng hợp lịch hẹn, phân bổ nguồn lực phù hợp cho từng thời điểm và có những gợi ý cụ thể cho từng bệnh nhân riêng dựa theo bệnh án

Đặc điểm của việc sử dụng AI trong y tế so với giáo dục:

- Mức độ rủi ro: AI trong y tế liên quan trực tiếp đến tính mạng, sức khỏe con người; so với học thuật, giáo dục thì có mức độ rủi ro cao hơn

- Yêu cầu chính xác: AI trong y tế phải có độ chính xác rất cao đến tuyệt đối nếu được bác sĩ trực tiếp sử dụng trong điều trị, phẫu thuật bệnh nhân; AI trong giáo dục nhìn chung mang tính chất gợi ý, tham khảo cho nghiên cứu

-Tuân thủ các quy định và tiêu chuẩn y tế trong và ngoài nước: AI hiện đã được sử dụng rộng rãi trong ngành y tế nhưng để sử dụng AI an toàn và đảm bảo chất lượng thì cần đáp ứng các tiêu chuẩn mà quốc gia hoặc quốc tế đã quy định, ví dụ như:

+ Quy định bảo mật và quyền riêng tư: Các hệ thống AI trong y tế cần phải tuân thủ các quy định bảo mật và quyền riêng tư nghiêm ngặt, chẳng hạn như HIPAA (Health Insurance Portability and Accountability Act) ở Hoa Kỳ và GDPR (General Data Protection Regulation) ở Châu Âu. Điều này giúp bảo vệ thông tin cá nhân và dữ liệu bệnh nhân, giảm thiểu rủi ro xâm phạm quyền riêng tư.

+ Chứng nhận và kiểm định: Các hệ thống AI phải được kiểm định và chứng nhận bởi các cơ quan có thẩm quyền như FDA (Cục Quản lý Thực phẩm và Dược phẩm Hoa Kỳ) trước khi được đưa vào sử dụng trong thực tế.

-Đảm bảo chất lượng dữ liệu: AI trong y tế cần phải được huấn luyện trên dữ liệu y tế chất lượng cao, từ các nguồn đáng tin cậy và chính xác như bệnh viện, phòng thí nghiệm, và các nghiên cứu khoa học chính thống. Dữ liệu phải đầy đủ và đại diện cho nhiều nhóm bệnh nhân khác nhau để tránh sai sót trong chẩn đoán. Và trước khi sử dụng trong các mô hình AI, dữ liệu cần phải được kiểm tra và xử lý để loại bỏ những bất thường hoặc dữ liệu sai lệch, giúp giảm thiểu khả năng gây ra sai lầm trong quá trình chẩn đoán.

-Giám sát, kiểm tra định kỳ và cập nhật thường xuyên : Các hệ thống AI trong y tế cần phải được giám sát thường xuyên để đảm bảo chúng hoạt động chính xác và hiệu quả. Điều này bao gồm việc kiểm tra lại các dự đoán hoặc chẩn đoán của AI so với kết quả từ các chuyên gia y tế. Bên cạnh đó, AI cần được cải tiến và cập nhật liên tục với dữ liệu mới nhất để duy trì tính chính xác và phù hợp với các thay đổi trong y học. Hệ thống cần được tái huấn luyện khi có những phát hiện mới hoặc thay đổi trong thông tin y tế.

-Đảm bảo an toàn trong bảo mật dữ liệu: Dữ liệu bệnh nhân cần được mã hóa khi truyền tải và lưu trữ để ngăn chặn việc truy cập trái phép từ các cuộc tấn công mạng. Các hệ thống y tế và AI cần phải có các biện pháp bảo mật như xác thực đa yếu tố, kiểm soát truy cập nghiêm ngặt và bảo mật thông tin. Các hệ thống AI phải có các biện pháp phòng ngừa để chống lại các cuộc tấn công mạng, bảo vệ dữ liệu bệnh nhân khỏi bị xâm phạm hoặc thay đổi.

-Hợp tác giữa AI và bác sĩ: AI nên được sử dụng như một công cụ hỗ trợ chẩn đoán và điều trị cho bác sĩ, không thay thế hoàn toàn vai trò của con người. Bác sĩ vẫn cần phải giám sát và xác nhận các quyết định của AI để đảm bảo độ chính xác và tính phù hợp.

-Đào tạo bác sĩ và nhân viên y tế: Bác sĩ và nhân viên y tế cần được đào tạo để sử dụng các công cụ AI một cách hiệu quả và an toàn. Điều này bao gồm việc hiểu cách thức hoạt động của AI và cách đưa ra quyết định hợp lý dựa trên các thông tin do AI cung cấp.

-Kiểm tra khả năng ứng phó trong trường hợp lỗi: Phát triển hệ thống cảnh báo và khắc phục lỗi để có khả năng phát hiện và thông báo sớm nếu có bất kỳ sai sót nào trong quá trình chẩn đoán hoặc điều trị. Ngoài ra, cần phải có kế hoạch dự phòng khi hệ thống AI gặp sự cố hoặc lỗi.

-Thực hiện các thử nghiệm lâm sàng: Trước khi triển khai rộng rãi, AI cần được thử nghiệm trong các điều kiện thực tế để kiểm tra hiệu quả và tính an toàn của nó. Những thử nghiệm này giúp đảm bảo rằng AI có thể hoạt động hiệu quả mà không gây hại cho bệnh nhân.

Lợi ích của việc chia sẻ mô hình AI trong chăm sóc sức khỏe:

Phát triển nhanh chóng và cải tiến mô hình: Chia sẻ các mô hình AI cho phép các nhà nghiên cứu và tổ chức khác xây dựng trên nền tảng hiện có, qua đó cải tiến và tùy chỉnh mô hình sao cho phù hợp với các tình huống y tế khác nhau. Điều này đặc biệt quan trọng trong các lĩnh vực cần độ chính xác cao như chẩn đoán hình ảnh, phân tích gen, và điều trị cá nhân hóa.

Khuyến khích cộng tác: Việc chia sẻ không chỉ giúp các nhà nghiên cứu hợp tác mà còn thúc đẩy việc áp dụng mô hình trong các môi trường y tế đa dạng, VD: các mô hình AI được phát triển ở một quốc gia có thể được điều chỉnh và áp dụng trong các bệnh viện và hệ thống y tế của quốc gia khác, nơi có những đặc thù và điều kiện khác biệt. Việc chia sẻ này khuyến khích sự giao thoa kiến thức, giúp các tổ chức học hỏi và phát triển từ những thành công của nhau.

Cải thiện sự công bằng: Khi các mô hình AI được chia sẻ rộng rãi, giúp giảm bớt sự bất bình đẳng trong việc tiếp cận công nghệ chăm sóc sức khỏe giữa các quốc gia phát triển và các quốc gia đang phát triển, đặc biệt là khi các mô hình này được áp dụng ở các cơ sở y tế có nguồn lực hạn chế, các quốc gia đó không phải đầu tư lớn về cơ sở hạ tầng,...

Phát hiện sớm lỗi trong mô hình: Chia sẻ mô hình giúp nhiều nhóm nghiên cứu có thể kiểm tra và phát hiện các sai sót trong thuật toán hoặc dữ liệu đầu vào, nơi sai sót có thể gây hậu quả nghiêm trọng đến sức khỏe của bệnh nhân. Việc phát hiện và sửa lỗi nhanh chóng có thể giảm thiểu rủi ro và tăng độ tin cậy của mô hình.

Thách thức và lý do không nhất thiết phải chia sẻ mô hình AI trong chăm sóc sức khỏe:

Rủi ro về quyền riêng tư: mô hình AI thường sử dụng dữ liệu nhạy cảm của bệnh nhân, như hồ sơ y tế, dữ liệu hình ảnh y tế, và dữ liệu di truyền. Việc chia sẻ các mô hình này có thể dẫn đến việc lộ lọt thông tin cá nhân hoặc vi phạm các quy định bảo mật như GDPR (Quy định bảo vệ dữ liệu chung của Liên minh Châu Âu) và HIPAA (Đạo luật bảo mật và trách nhiệm trong y tế của Mỹ). Mặc dù dữ liệu có thể được ẩn danh, nhưng vẫn tồn tại nguy cơ bị truy cập trái phép hoặc lạm dụng.

Vấn đề sở hữu trí tuệ: Các công ty và tổ chức phát triển công nghệ AI thường đầu tư nguồn lực lớn vào việc nghiên cứu và phát triển các mô hình này: chi phí cho đội ngũ nghiên cứu, các công nghệ và cơ sở hạ tầng cần thiết, cũng như các thử nghiệm và kiểm tra chất lượng và việc chia sẻ các mô hình có thể khiến họ mất đi lợi thế cạnh tranh trong thị trường.

Lo ngại về mất lợi thế cạnh tranh: Các công ty phát triển công nghệ AI thường đầu tư nhiều nguồn lực vào nghiên cứu và phát triển. Việc chia sẻ mô hình có thể khiến họ mất đi lợi thế cạnh tranh, đặc biệt khi các mô hình này có tiềm năng tạo ra doanh thu lớn hoặc góp phần tạo ra sự khác biệt trong các giải pháp y tế. Họ có thể lo ngại rằng việc chia sẻ sẽ giúp các đối thủ cạnh tranh sao chép hoặc cải tiến các mô hình mà không cần đầu tư tương tự.

AI có tiềm năng to lớn trong lĩnh vực y tế với vai trò là trợ lý cho bác sĩ trong việc đưa ra các phác đồ điều trị cho từng bệnh nhân, quản lý và nghiên cứu, chẩn đoán bệnh.Ví dụ:  1 nhóm sinh viên đại học Thanh Hoa đã phát minh ra hệ thống bệnh viện AI, Trong thế giới ảo này, tất cả các bác sĩ, y tá và bệnh nhân đều được điều khiển bởi các tác nhân thông minh được hỗ trợ bởi mô hình AI được thiết lập sẵn. 

• Khám lâm sàng: 

Thay vì xem hồ sơ giấy thông thường thì IBM watson hỗ trợ bác sĩ trong việc cung cấp hồ sơ điện tử, tóm tắt lịch sử bệnh tình, quá trình điều trị của bệnh nhân, đồng thời cập nhật những thông tin hướng dẫn điều trị từ các công trình nghiên cứu y khoa của nhiều bác sĩ chuyên gia trên thế giới. Điều này giúp tiếp cận thông tin nhanh, hiệu quả

• Chẩn đoán bệnh:

AI hỗ trợ phân tích hình ảnh để phát hiện những khối u, tổn thương, … sâu bên trong con người một cách chính xác cao, nhanh chóng kịp thời - thứ mà mắt thường không thể nhìn thấy được, nếu đợi biểu hiện phát tác là bên ngoài sẽ chậm trễ trong việc chữa trị điển hình là X-quang, CT scan, ….Tiêu biểu nhất là Vinbrain có khả năng sàng lọc phát hiện ung thư sớm một cách chính xác

• Đưa ra phương pháp điều trị

Thông qua việc nghiên cứu, AI có thể giúp xác định phương pháp điều trị hiệu quả. Ví dụ như bệnh K, tuy là cùng một loại bệnh, triệu chứng như nhau nhưng vấn đề phát sinh của từng người là khác nhau, do vậy việc nhờ sự trợ giúp của AI đưa ra phác thảo điều trị, loại thuốc khác nhau cho từng bệnh nhân là rất quan trọng

• Tham gia trong quá trình giám sát, gửi cảnh báo. Phân tích tình hình phẫu thuật, tình trạng bệnh nhân để giúp bác sĩ đưa ra quyết định chính xác

Đặc điểm của việc sử dụng AI trong y tế có gì khác giáo dục

Hỗ trợ bác sĩ, việc sử dụng cần độ chính xác cao, có rủi ro lớn, chịu sự giám sát chặt chẽ. Mặc dù được hỗ trợ nhưng vẫn phải trong sự kiểm soát chặt chẽ của bác sĩ chuyên gia. Đồng thời phải đảm bảo tính chính xác, tính chịu trách nhiệm khi có sai sót đồng thời dùng có đạo đức. Không thể thay thế hoàn toàn con người

Còn giáo dục thì tính rủi ro thấp, không bị kiểm soát nghiêm ngặt